如何辨认哪些图像是由 AI 生成的一直是项待解难题，因此 Google 宣布推出新工具「SynthID 」，为图像加上人类肉眼不可见，但训练过的电脑可辨识的数位浮水印，来阻挡造假生成图的散播。
随着假生成图在网路上广泛流窜，在今年 5 月份一张五角大厦爆炸的生成图甚至影响了股市，许多公司纷纷透过加上可看见的浮水印或在 metadata 中标注图片来源，来显示图像为 AI 生成。
但这些方式易被修改，像是翻转图像即有机会避免被发现是 AI 所生成，反观 Google 的 SynthID 浮水印为不可窜改，若图像被大幅的更动，也不会影响到浮水印的功能。
目前，Google 只开放这项服务给使用云端服务的付费顾客，且可被加上浮水印的图像仅限 Google 图像生成工具 Imagen 所产生的，公司也强调这项工具还在实验阶段。
AI 让图像的真假难辨，但加浮水印是有效的解方吗？
今年 7 月白宫召集了各大科技领袖举行 AI 会议，与会的公司（包括Google 和 OpenAI 等）承诺会开发出浮水印工具，让 AI 生成图更容易辨识。
其中，微软集结了科技和媒体公司，要发展 AI 生成图加上浮水印的一套标准，同时也在研发新方法追踪 AI 生成图；OpenAI 的 Dall-E 则是加上可见的浮水印。
不过，尽管科技巨头研发出各种浮水印的工具，由开源 AI 所生成的图像仍有可能难以辨识，且也会有人开始研究如何绕过这些新浮水印工具，就如同资安公司和骇客连续的攻防战，因此 Google 不会公开浮水印工具背後的技术。
另外，加上浮水印的实用性也遭专家质疑，专家表示存有几点困难。首先，若有 AI 生成图被放入自制影片中，在不同媒体相融合下浮水印该如何标注；再者，浮水印缺乏统一的标准；最後，阅听人除了受骗於假冒的 AI 图像，若浮水印被滥用後加到真正的图像上，是否会让大众以反向的方式受骗。在真假愈难辨认的网路世界中，这些都是待解的课题。
核稿编辑：Sisley
快加入 INSIDE Google News 按下追踪，给你最新、最 IN 的科技新闻！
