文章主题：图像分类, AI 生成的图像, 艺术家的作品, 误导性
站长之家(ChinaZ.com) 10月20日消息:OpenAI 一直在就何时发布一款工具，用于确定一张图像是否由 DALL-E 3 生成，OpenAI 的生成式人工智能艺术模型，进行了广泛的「讨论和辩论」。但这家初创公司并不打算在短期内做出决定。
这是根据本周在电话采访中与 TechCrunch 交谈的 OpenAI 研究员 Sandhini Agarwal 的说法。她负责安全和政策，她表示，尽管分类器工具的准确性「非常好」——至少根据她的估计——但尚未达到 OpenAI 的质量门槛。
阿garwal指出，鉴于其决策可能对照片产生重大影响，例如一件作品是否被认定为由艺术家创作，或是否存在误导性，因此推出一个稍显不可靠的工具确实存在一定问题。
OpenAI 对该工具的目标准确性似乎非常高。OpenAI 首席技术官 Mira Murati 在 WSJ 的 Tech Live 会议上表示，这款分类器在确定未经修改的照片是否是由 DALL-E 3 生成的方面是「99%」可靠的。也许目标是 100%；Agarwal 没有明确表示。
与 TechCrunch 分享的 OpenAI 博客草稿揭示了一个有趣的细节：
「[分类器] 在图像经历了常见类型的修改，如裁剪、调整大小、JPEG 压缩，或者在生成的图像的小部分上叠加文本或真实图像的剪贴时，仍然保持超过 95% 的准确性。」
OpenAI 的犹豫可能与围绕其先前的公共分类器工具的争议有关，该工具旨在检测不仅来自 OpenAI 模型，还来自第三方供应商发布的生成文本。OpenAI 撤回了 AI 编写的文本检测器，因为其「低准确率」受到广泛批评。
Agarwal 暗示 OpenAI 还关注人工智能生成图像到底由什么构成的哲学问题。显然，由 DALL-E 3 从头生成的艺术作品是符合条件的。但是，对于经过多轮编辑、与其他图像合并，然后经过几轮后处理滤镜的 DALL-E 3 生成的图像，应该如何划分就不太清楚了。
阿garwal 指出：“关于这一点，我们需要探讨这个图像是否应被认定为 AI 生成的。目前，我们正努力解决这一问题，并真诚地期待着那些可能受到此分类器工具影响的艺术家和其他人的观点。”
不仅 OpenAI，许多组织正在研究为生成媒体水印和检测技术，因为人工智能深度伪造不断增加。
DeepMind 近期推出了一种名为SynthID的规范，该规范旨在标记那些人类无法察觉，但可以通过专门探测器探测到的AI生成的图像。与此同时，法国一家初创公司Imatag在2020年问世了一款自称不会受到图像调整（如大小、裁剪、编辑及压缩等）影响的水印工具，它的特性与SynthID十分相似。而Steg.AI则利用了AI模型技术，使其水印能够抵挡住图像大小的调整和其他编辑操作。
问题在于，该行业尚未就单一的水印或检测标准达成共识。即使达成共识，也不能保证水印——以及检测器——不会被打败。
当被问及OpenAI的图像分类器是否能够检测和识别使用非OpenAI生成工具创建的图像时，Agarwal并没有给出明确的承诺，但她确实表示，这将取决于现有图像分类器工具的接受程度，这确实是OpenAI可能会考虑研究的一个方向。
Agarwal指出，当前的分类器主要针对DALL-E 3应用，从技术角度来看，这是一个相对容易解决的问题。她补充道：“虽然我们并未将通用检测器作为当前的主要任务，但随着分类器工具的不断发展，未来我们不排除将其纳入考虑。”
（举报）
图像分类, AI 生成的图像, 艺术家的作品, 误导性
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
