文章主题：AI艺术家, DALL-E 2, OpenAI, 图像生成系统
新智元报道
编辑：David 武穆
【新智元导读】「AI艺术家」DALL-E 2宣布，准备允许用户上传和编辑人脸，自称安全机制已更新，不怕Deepfake泛滥。
近期，备受瞩目的「AI艺术家」DALL-E 2的持有者OpenAI公司，最近发布了一则令人振奋的消息。他们计划在未来的日子里，让用户与DALL-E 2共同参与艺术创作的过程，起点就是人脸这一主题。
OpenAI发布声明称，DALL-E 2的客户现在可以利用AI驱动的图像生成系统，上传人脸照片并进行相应的编辑处理。
此前的该功能处于被禁用状态，OpenAI仅允许用户利用和分享含有面部图像的内容，同时严令禁止上传任何可能涉及到真实人物的图片，涵盖知名名人以及公众人物在内，此外，还严禁对这类图片进行编辑处理。
目前，OpenAI宣布，其安全系统已经得到优化，使得将 Deepfake 以及涉及性、政治和暴力内容的「潜在危害」降至最低成为可能。因此，他们决定开放人脸图片编辑的功能。
在给客户的一封电子邮件中，OpenAI 表示:
很多人对我们讲，说怀念能用DALL-E为自己设计服装和发型，编辑家庭照片的背景的时候。一位整形外科医生告诉我们，他一直在使用DALL-E帮助病人生成可视化结果。电影制作人说，他们希望能够编辑与人在一起的场景图像，加快创作过程……所以我们建立了新的检测和响应技术，以防止滥用。OpenAI的政策变了，允许开放，也不意味马上开放。
OpenAI的服务条款可能会继续禁止用户上传未获得同意的图片或那些用户无权上传的图片，这一点尚不明确，因为这家公司对于执行此类政策的态度并未公开。
无论如何，这将是对OpenAI审核机制的一次真正考验。
过去，一些客户曾抱怨该技术「过于热心」，总是频频提醒，但这种提醒有时候并不准确。
Deepfake技术呈现出多种形态，其中一种常见的应用是伪造的度假风光照片。例如，有用户在社交平台Facebook上分享了自己在度假期间拍摄的一些潜水照片。
在这些超过20张的照片中，有4张是由DALL-E 2生成的图像。将这些真实与虚假的照片混合在一起并在网络上发布，挑战大家的眼力，然而令人惊讶的是，很少有人能够准确地区分出其中的真伪。
实际上，有83%的人根本没看出下面这4张照片是DALL-E 2生成的。
还有饱受战争蹂躏国家的总统照片，可以说，就没有Deepfake造不了假的图像。
在Deepfake技术日益普及的当下，每当一种新的图像出现，都需要我们投入大量精力去解读和解析，这无疑开启了一场无尽的战斗。然而，这种战斗并非毫无风险，有些情况下，潜在的危险性也不容忽视。
毫无疑问，得到了微软和包括Khosla Ventures在内的知名风投公司的支持的OpenAI，可不想像Stable Diffusion那样，将自己置于「引战」的位置。
此前，科技博客TechCrunch曾分析道，用不了多久，可以编辑脸部图像的Stable Diffusion就会被一些人用来制作带有色情的、未经授权的Deepfake名人照片。
用AI复活的已故名人照片
迄今为止，OpenAI将自己定位为Stability AI之外的另一种选择：Stability AI崇尚自由，毫无限制，OpenAI则强调品牌亲民，遵纪守法。
由于DALL-E 2在最新的面部编辑功能依然有限制，可以认为该公司维持了现状。
目前，DALL-E 2仍然是处于测试版，用户没有开放注册，仍为邀请制。
8月底，OpenAI宣布，已经有超过100万人在使用这项服务。
参考资料：
https://techcrunch.com/2022/09/19/openai-begins-allowing-users-to-edit-faces-with-dall-e-2/
https://www.mattbell.us/my-fake-dall-e-2-vacation-photos-passed-the-turing-test/
AI艺术家, DALL-E 2, OpenAI, 图像生成系统
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
