川普被捕、普亭入狱?专家警告:AI生成图像恐助长假新闻泛滥

推特上有个被人广传的推文串,是总部设在荷兰的事实查核团体「冒险者」(Bellingcat)创办人希金斯(Eliot Higgins)运用最新生成图样工具变出的许多富戏剧张力川普被捕假图。内容是一队制服员警抓捕这位共和党籍亿万富豪美国前总统,毫不客气地在人行道上拉扯,已经被转推或按赞好几万次。

(中央社)「一队纽约警察当街捉拿美国前总统川普(Donald Trump)、俄罗斯总统普亭(Vladimir Putin)身陷囹圄」等高度细腻却耸人听闻图像近日淹没社群平台。专家警告,这种AI生成图像恐让社会「在关键时刻虚实难辨」。

《美联社》报导,川普恐面临刑事指控,以及国际刑事法院(ICC)对普亭发出逮捕令的新闻受到关注之际,上述图像这几天已经淹没推特和其他平台,不过两组照片都不是真的。

这些图像以及社群媒体上随处可见的诸多类似图像,都是日益精巧普及的人工智慧(AI)图像生成器的杰作。

假新闻专家警告,这是「社群媒体随重大新闻事件起舞,刮起假图、假影片歪风,导致社会在关键时刻虚实难辨」这个新现实的前兆。

西雅图华盛顿大学(University of Washington)专研假新闻散播的教授威斯特(Jevin West)说:「这确实会在危机事件发生时增添杂音,让人开始对体制和接获的讯息失去信赖。」

尽管修图、制造假图不是新鲜事,Midjourney、DALL-E和其他AI图像生成器工具更容易使用,只要提供简单文字提示,就可以迅速、大规模生成这样的逼真图像。

最近一些图像出自Midjourney本月推出的新版文生图(text-to-image)合成模式,可以产生酷似通讯社新闻照片的图像,说服力十足。

推特上有个被人广传的推文串,是总部设在荷兰的事实查核团体「冒险者」(Bellingcat)创办人希金斯(Eliot Higgins)运用最新生成图样工具变出的许多富戏剧张力川普被捕假图。内容是一队制服员警抓捕这位共和党籍亿万富豪美国前总统,毫不客气地在人行道上拉扯,已经被转推或按赞好几万次。

另一组普亭被捕、出庭、坐牢的图像也是希金斯杰作,他说自己上传这些图没有恶意,也言明在先那些图片都是AI生成的。尽管如此,他表示,这些图还是可能让他被禁用Midjourney服务。Midjourney没有回应置评请求。

希金斯在电邮中回覆《美联社》说:「川普被捕图真的就是不特意地证明了透过Midjourney展现真实场景,这麽做有好有坏。我在Midjourney输入提示的时候先写了一些场景描述,然後把它们串联,完成了这个故事。」

他表示,细看就会发现这些图根本不上完美,因为川普看起来很怪异,腰际还配戴警用皮带,有的图可以清楚看到他的脸和手已经变形。

不过非政府组织「见证」(Witness)媒体技术专家安伦(Shirin Anlen)表示,尽管希金斯或其他使用者表明贴图由AI生成,而且只为博君一笑,但这样还不够。

她说,这些图通常很快就就会被转推,但是转推内容不会注明那些关键文字。事实上,有人在Instagram分享了希金斯的一些贴图,彷佛川普真的被捕,还得到超过7万9000个赞。

安伦说:「人们相信有图有真相,看到就以为眼见为凭了。」

新闻来源

  • 川普被捕、普亭系狱?AI生成图像恐助长假新闻泛滥(中央社)

小薯条儿

0 0 投票数
Article Rating
订阅评论
提醒
guest
0 Comments
最旧
最新 最多投票
内联反馈
查看所有评论
0
希望看到您的想法,请您发表评论x