AI生成的虚假信息：数字水印能否防止利用？

《科创板日报》5月11日讯 谷歌在今年的开发者大会上表示，将确保公司的每一张AI生成图片都内嵌水印，该水印无法以肉眼识别，但谷歌搜索引擎等软件可读取并以标签显示出来，以提示用户该图片由AI生成。

谷歌还会提供有关AI生成图片的额外信息来防范诈骗，包括：该图片首次上传至搜索引擎的时间，以及该图片是否曾被新闻网站引用过。

Shutterstock 和 Midjourney 等 AI 应用将采用这种新颖的标记方式。谷歌目前尚未明确透露该水印功能何时启用，仅表示这项功能预计将在“未来几个月内”美国的某个时点率先推出。

AI的生成能力极为强大，使得其生成的文本和图像几乎可以乱真，这一点已经引起了政府和科技工作者的警觉。他们担心这种技术可能会被不法分子利用，例如发送垃圾邮件、实施诈骗，或者进行有目的的宣传。

近期，一张由AI生成的图片在网络上广泛传播，引起了人们的极大关注。在这张图片中，我们可以看到天主教会现任教皇方济各（Pope Francis）正在街头穿着一件时尚的冬季大衣，许多人为之一振，甚至有人误认为这张照片是真实存在的。

为AI生成内容添加标识成了规范AI创作的重要一环。

数字水印是一种技术，它通过将特定的标识信息深度融入数字产品之中，而不会对原始载体的使用价值造成任何损害，同时也难以被人察觉。这些被隐藏在载体中的信息，可以用来确认内容创作者、购买者、信息传递的途径以及判断载体是否被篡改。借助这些信息，我们能够有效地保护数字产品的版权、完整性、防止复制，以及实现去向追踪。

对于平台而言，数字水印也是保护自己的重要前置措施。

最近有传闻称,OpenAI正在考虑向ChatGPT生成的内容中添加数字水印,以减少模型被滥用的风险,并降低其带来的负面影响。

抖音正在积极开发人工智能生成内容标识功能，并已发布《人工智能生成内容标识水印与元数据规范》等相关文件，以提高内容创作的质量和效率。

随着由AIGC生成的内容越来越多，数字水印的重要性也将进一步提高。据《科创板日报》不完全梳理，这些A股公司表示拥有数字水印技术：