谁来识别AI生成的假新闻?英媒:解铃还须系铃“人”

来源:新华社| 2019-06-11 14:06:51| 作者:沈鹏

  新华社北京6月11日新媒体专电 英媒称,在社交媒体上,假新闻的传播速度比真相还要快,随着假新闻生成器变得越来越先进,区分真假新闻变得比以往任何时候都更加困难。

  据英国《新科学家》周刊网站6月8日报道,可以根据简单的提示快速生成令人信服的文本段落的人工智能已经存在,并可炮制出令人信服但并不真实的故事,以影响公众舆论。不过,对于出现的问题人工智能也可以提供解决方案。

  华盛顿大学的罗恩·泽勒斯及其同事开发出了既能编写,又能识别假新闻的人工智能。

  报道称,他们用新闻网站上数以百万计的文章——数据总量为120GB——来训练一个名叫“格罗弗”的人工智能。格罗弗学会了写文章,并调整其风格去模仿在特定时间段内发表的文章,或者某一特定新闻网站,比如《新科学家》周刊网站上的文章。

  报道称,在“没有关于气候变化的实质性证据”,或者“新研究表明疫苗会引发自闭症”这样的假标题下,只需几秒钟时间,它就能生成一篇有编造的统计数字和假引文的文章,并且这些引文通常来自真实存在的专家或政客。

  然后,研究人员对包括格罗弗在内的4个人工智能就其区别人类记者写的5000篇真新闻和格罗弗编造的5000篇假新闻的能力进行了测试。

  报道称,每个人工智能需要完成两项校验任务:第一项,对于一篇新闻稿,确定它是人类写的还是机器生成的;第二项,面对两篇文章,一篇真新闻,一篇假新闻,鉴定出哪篇是真的哪篇是假的。

  报道还称,为了避免格罗弗新闻生成器和判别器模型一样的情况,该团队使得生成器变得更加先进。

  报道指出,在确定格罗弗假新闻稿方面表现最好的人工智能是格罗弗本身的判别器,准确率可达92%。

  不过,该团队没有测试格罗弗对其他人工智能生成的文本的识别能力。

  报道称,对格罗弗最好的防御就是格罗弗本身是从威胁建模这一计算机安全概念中汲取的灵感。泽勒斯说:“这一想法是,为了抵御攻击,你真的需要了解对手要做什么。”

扫一扫,分享到微信朋友圈

责任编辑:7

看荐精选

精彩文章

青岛:失恋博物馆成网红打卡地

收藏有网友捐赠的分手遗物,比如婚纱、情书、信物等等,还有各类爱情宣言和分手句子。(图片来源:视觉中国...

06月17日 08:55

亲爱的国宝,你在青藏高原过得好吗?

新华社西宁6月16日电(记者白玛央措李琳海)6月的高原古城阳光明媚,草木芬芳。青海西宁青藏高原野生动...

06月17日 08:45

习近平同塔吉克斯坦总统会谈

央视网消息(新闻联播):欢迎仪式后,习近平主席同拉赫蒙总统举行会谈。两国元首高度评价中塔关系和各领域...

06月16日 22:28

习近平出席塔吉克斯坦共和国总统举行…

央视网消息(新闻联播):各位观众,这里是位于塔吉克斯坦首都杜尚别的总统府。当地时间6月15日,国家主...

06月16日 10:25

传奇的英雄 无悔的忠诚——记刑侦痕迹…

新华社哈尔滨6月16日电题:传奇的英雄无悔的忠诚——记刑侦痕迹检验专家崔道植新华社记者姜潇、梁书斌、...

06月16日 06:43
oumin@189.cn kanmiaochen@21cn.com liyg@21cnsales.com ibm2012cd@21cn.com Athena_1a@21cn.com 1994004509@qq.com Athena_1a@163.com