文章主题：OpenAI, DALL-E 3, 漏洞, 微软
OpenAI DALL-E 3 模型存生成“不当内容”漏洞，一微软员工上报后反遭“封口令”
2024-02-02 13:42:27 作者：姚立伟
近日，Shane Jones，微软软件工程部门的经理，注意到由OpenAI开发的DALL-E 3模型存在明显的缺陷，这些缺陷使其能够生成各种不适宜的内容。他立即将这个问题向微软和OpenAI进行了汇报，并在领英上公开发布了一封信，强调这个漏洞可能带来严重的安全风险，因此他呼吁OpenAI在修复此问题之前暂时停止使用DALL-E 3。
然而，Shane Jones在收到来自微软法务部门和高管的警告后，仍未能获得关于删除领英公开信及不再对外披露相关内容的解释。尽管如此，Shane Jones仍试图通过内部沟通解决问题，但却一直未得到公司的回应。此问题至今仍未得到解决。
近期网络平台上涌现出一些利用人工智能技术生成的知名歌手泰勒·斯威夫特(Taylor Swift)的不雅照片,据称这些照片是通过使用微软的Designer AI功能生成的,其底层模型为DALL-E 3。因此,微软在此事件中的“封口令”行为被指存在重大失误。
微软官方回应媒体时声称将解决员工们的疑虑，并修复相关漏洞。他们同时表示Shane Jones揭露的漏洞实际上成功率较低，无法绕过微软为模型设置的所有安全机制，并不确定该漏洞与Taylor Swift事件是否有关联性。 返回搜狐，查看更多
责任编辑：
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
声明：本站所有文章，如无特殊说明或标注，均为本站原创发布。任何个人或组织，在未征得本站同意时，禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益，可联系我们进行处理。
