ChatGPT风暴来袭，AI技术安全与未来之争，你是否担心？

打开凤凰新闻，查看更多高清图片

极简版

钛媒体App获悉，北京时间4月1日，ChatGPT之父、美国OpenAI公司CEO阿尔特曼（Sam Altman）发文证实，ChatGPT已经在意大利暂停服务，并表示意大利是他最喜欢的国家之一，期待着很快再次访问。

🌟【最新动态】ChatGPT遭意大利禁用！💡OpenAI在意大利的业务面临严峻挑战，随着个人数据保护局的正式行动，从即日起，这款全球热门的语言模型已禁止在该国使用。🔍调查已经开始，旨在确保用户隐私权益不受侵犯。尽管如此，科技的步伐并未因此停歇，我们期待未来更合规的交互方式。🌍原内容：原文中提到了意大利个人数据保护局对ChatGPT和OpenAI采取了限制措施，并且已经开始立案调查。我将这些信息整合到一个简洁明了的声明中，强调了禁用的事实以及可能的影响，同时也保留了对未来科技发展的乐观态度。

🔥ChatGPT账号大风暴：数百万用户受影响！🚀近期，ChatGPT平台采取了严厉的账户封禁措施，针对使用中文交流的用户群体进行了大规模的动作，引发了广泛关注。🚨据不完全统计，已有众多OpenAI账号遭遇此波冲击。马斯克前脚呼吁暂停：科技巨头的反转剧本！🌟作为曾经的OpenAI坚定支持者，特斯拉CEO马斯克在3月29日这天，却与科技界的重量级人物们联合签名，发起了一个引人深思的倡议。数千名行业领导者和学术专家联袂发声，要求所有AI实验室暂停研发更强大的AI系统，时间长达6个月。这场AI伦理与技术发展的热议，无疑为全球AI社区带来了冲击波。🔍对于用户来说，这意味着一段可能的适应期；而对于平台和开发者，这或许是一次审视自身责任与界限的机会。🔥欲了解更多详情，敬请关注未来AI动态，让我们共同见证这场智能风暴如何演变！🌐

🌟🚀尽管前方道路曲折，但我们深知提升技术实力的重要性。🔥阿尔特曼坚信，在对齐技术的不懈追求中，我们将铸就更卓越的模型。🏆他以一贯的热情，对GPT-4的强大功能表示由衷的认可和信心。🌍无论质疑如何，创新的脚步从未停歇。让我们携手共进，迎接未来科技的辉煌！📝

🌟🚀【未来已来】AI巨擘引领革命！💡——GPT-5 AGI训练时间曝光！🔥日期：🔥4月2日🔥，科技巨头Runway CEO陈思齐的惊人宣告，为全球创新舞台点燃了新火种！💥 令人瞩目的GPT-5，即将在2023年12月迎来AGI的璀璨时刻！🌟这款集通用与人工智能之大成者，预示着一场科技革命的滚滚浪潮。它不仅仅是一个工具，而是引领未来的航标，引领我们步入一个智能无限可能的新纪元。🚀值得注意的是，这一里程碑式的进展背后，是a16z这位投资巨头的坚定支持和推动。他们的目光聚焦在那些改变世界的力量上，期待GPT-5能以创新的方式重塑我们的生活与工作。💪欲知更多详情，敬请关注Runway的最新动态，让我们共同见证这场科技盛宴的到来！🎉#AGI #GPT-5 #未来科技 #Runway #AI革命

数据泄漏、封号限制，ChatGPT被“围殴”

🔥🚀 ChatGPT引发了全球热议，无数人深陷其中无法自拔。马斯克对此警告，这款人工智能的威力堪比核弹，引发了一场关于科技伦理与未来威胁的深度讨论。💡🤖 2022年11月的那场风暴，不仅改变了人们的交流方式，也让大家重新审视AI潜在的颠覆性力量。🌍

实际上，2016年9月马斯克作为OpenAI联合创始人、投资人、联席CEO，在特斯拉加州弗里蒙特工厂接受了阿尔特曼的采访。

左侧是OpenAI首席执行官Sam Altman，右侧是特斯拉CEO Elon Musk

当时马斯克表示，就可能影响人类未来的事情而言，他认为 AI 可能是短期内最重要的事。他指出，创立OpenAI的重要初衷，是让 AI 以良好的方式到来，这是他认为最重要、最紧迫的事情。“我认为我们必须实现 AI 技术的民主化，并让它能广泛使用。而这显然就是整个团队创建OpenAI的原因。”

不过，马斯克的这一愿望最终未能实现，OpenAI似乎走向了相反的一面。

最近几天，ChatGPT平台正展开大规模封禁账号行动。据市场统计，已有数百万用户的账号受到了影响——这似乎与OpenAI起初的民主化背道而驰。许多用户在社交媒体上表示，他们的账号在未收到任何警告的情况下被封禁，这让他们感到非常困惑和担忧。

有消息称，此轮封禁 OpenAI 账号猜测可能与异常登录账号的安全问题、遏制恶意行为、不符合新版规则的技术升级调整、账号邮箱权重、中国区域的IP地址或服务器账号等因素有关。

截至目前，OpenAI暂未对此进行相关回复。

2019年和今年2月，微软两次向OpenAI注资100亿美元以上，成为该公司的第一大投资方，并让OpenAI估值达290亿美元，创下行业记录。随后，ChatGPT发布Plus付费服务，同时让微软借助GPT实现广告、云计算服务的商业化。

如今在微软的推动下，OpenAI确实有了制衡谷歌的能力。毫无疑问的是，目前OpenAI已经不再是非商业化 AI 实验室，而是一家要与微软一同将 AI 商业化的公司。与此同时，ChatGPT以及GPT-4发布之后，除了微软得到核心API数据外，其他公司则是望尘莫及，几乎无法获得GPT这种对话式通用人机接口的能力。

当ChatGPT火爆全球之际，美国首先宣布“封杀”ChatGPT，打响人类保卫战第一枪。

3月22日，生命未来研究所（Future of Life）向全社会发布了一封《暂停大型人工智能研究》的公开信，包括马斯克在内，多位科技公司高管和顶级AI研究人员，呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练，暂停时间至少为6个月。信中表示，六个月或更长时间的暂停，将使该行业有时间制定AI设计方面的安全标准，从而防止风险最高的一些AI技术的潜在危害。

“我们不应该冒着失去对文明控制的风险，将决定委托给未经选举的技术领袖。只有当确保强大的 AI 系统的效果是积极的，其风险是可控的才能继续开发”。该机构在信中所提到的“未经选举的技术领袖”，显然是在暗指OpenAI。

这封信公布之后引发巨大的行业讨论，多位人士表达反对意见。例如计算机科学家、Google Brain联合创始人吴恩达表示，让有关部门暂停他们尚未了解的新兴技术，往好了说是反竞争，往坏了说是开了一个糟糕的先例；英伟达 AI 科学家Jim Fan则认为，许多大语言模型在安全性和公正性上已经表现地很好，不应该一味地批评。

钛媒体App梳理发现，在马斯克和这些 AI 行业从业者看来，ChatGPT背后主要存在技术商业化、数据隐私保护、网络安全风险等问题。

技术商业化：马斯克非常看重开源，他认为 AI 应该民主化，很多人应该享受到 AI 技术，而不是OpenAI喂养微软一家独大。

数据隐私保护：这种大型语言模型背后核心是大的算力和参数量（数据），因此数据来自哪里，是否存在公平、隐私问题等，这些都是OpenAI被行业诟病的地方。

网络安全风险：ChatGPT的自动编写代码功能在提升代码编写效率的同时，也会被黑客用于辅助编写恶意代码，网络安全态势势必更加严峻。

据《经济学人》韩国版3月30日报道，三星电子引入ChatGPT不到20天，ChatGPT就泄漏了三星内部机密，涉及半导体设备测量资料、产品良率等内容。而ChatGPT可能把三星的机密信息当作训练资料使用。

另据报道，数据安全服务Cyberhaven检测到并阻止了其客户公司160万名员工中4.2%的人将数据输入ChatGPT的请求，因为存在泄露机密信息、客户数据、源代码或监管信息的风险。目前，摩根大通已经限制员工使用 ChatGPT，亚马逊、微软和沃尔玛也已向员工发出警告，要求员工谨慎使用生成式 AI 服务。

“缺乏透明度是（ChatGPT）真正的问题，”瑞典于默奥大学 AI 学院副教授 Johanna Bjorklund 说，“如果你做 AI 研究，你应该对你的研究方式非常透明。”

中国人民大学教授刘永谋发文称，ChatGPT对社会生产力的推动作用已经昭然若揭，不应因噎废食而是控制利用。暂停ChatGPT研发的想法简单粗暴，作用不大，也实现不了，纯属无效的“嘴炮”。他认为，现在的问题是根据国情落实 AI 治理措施，而不是暂停ChatGPT研发。

“现在它已经成为了一个闭源、以最大利润为目标、受微软控制的公司。”马斯克在ChatGPT发布一个月后断掉了OpenAI对推特的数据访问权限。

3月下旬，马斯克再次暗讽OpenAI称：AI 是人类创造的最强大的工具，现在却掌握在无情的垄断企业手中。据报道，马斯克近期一直在与人工智能研发人员接触，商议成立一个新的研究实验室以替代OpenAI。

传GPT-5于今年底发布，AI未来走向何方？

“我被告知，GPT-5计划在今年12月完成训练，OpenAI 预计它将实现 AGI。”a16z 投资的创业公司Runway CEO 陈思齐（Chen Siqi）近日在其推文中分享了这个重磅消息。

陈思齐称，他认为一旦GPT-5发布，大家将离 AGI目标更近了。据悉，通用人工智能（AGI）又称强人工智能，指具备等同或超过人类智能行为水平的人工智能。自人工智能学科诞生以来，通用人工智能就是该领域研究的主要目标之一。

当然，OpenAI目前尚未公开讨论GPT-5，所以这方面的资料较少，GPT-5仍处于“传闻”当中。但鉴于GPT-4比GPT-3提升的技术能力，如果GPT-5实现AGI，就意味着聊天机器人达到了人类的理解和智能。

也许，未来人类的脑子会被机器所学习？Maybe

事实上，早在2009年，机器学习领域商业大咖、DeepMind联合创始人肖恩·莱格 (Shane Legg）曾使用曲线外推法预测，到2025年人类将研发出与我们水平一致的 AGI 技术能力。

如今来看，这个目标似乎被OpenAI团队提前完成了。

陈思齐后来对他的说法稍作反驳，“要明确的是，我并不是说用GPT-5实现AGI是OpenAI内部的共识，但那里的人相信它会实现。”换句话说，这种GPT-5 AGI并不一定是在人类当中实现，可能依然是机器和数据学习。

3月30日，360公司创始人、董事长周鸿祎发布长文指出，暂停GPT-5研发不会影响中国自己的大语言模型，中国距离GPT-4水平还有两年差距。此前一天，周鸿祎在会议中演示了360公司最新研发的大模型“红孩儿”——继百度“文心一言”之后的第二款类ChatGPT产品。

周鸿祎随后对钛媒体App表示，目前该产品处于内测，并没有公测，而且该产品仅类似搜索引擎和浏览器插件，而非平台。

对于 AI 技术的未来，金沙江创投主管合伙人张予彤认为，生成式AI是实现通用泛化的AI能力，相对于此前NLP自然语言技术，ChatGPT和GPT-4给大家看到了一个希望，用同样的一个模型完成泛化的能力。她认为在GPT技术引领下，未来能够看到的所有应用都会变成智能应用，所有的应用的UI都能够变得简单。“中国不但需要有自己大模型，也需要有自己的先进算力。”

华为云 AI 首席科学家、IEEE Fellow田奇在2023博鳌亚洲论坛上表示，经过几十年的积累，AI 技术迎来一个爆发，因为它的通用性和对社会的影响是方方面面的，因此这一波人工智能对社会的影响应该远远超过 iPhone。ChatGPT不仅带来新的人机交互方式，还极大地提高了生产力。

创新工场CEO李开复引述报告称，预计到2032年，生成式 AI 全球市场规模将超过2000亿美元。

“ChatGPT这波会带来 AI 领域新一轮洗牌。”芯片IP供应商芯原股份创始人、董事长兼CEO戴伟民在3月27日年报会议上表示，ChatGPT背后的算力非常重要。

不过，ChatGPT仍会带来一定的风险。据比利时媒体La Libre报道，一名比利时寡妇声称，她的丈夫在与 AI 聊天机器人Chai交谈了六周后自杀身亡，背后主要原因是Chai鼓励用户自杀，这种情绪化能力成为了人类的红颜知己，一步步听从其回复。据悉，聊天机器人Chai基于GPT-4替代方案研发的产品。

就目前来看，ChatGPT已经引起资本市场波动，出现了一定的分化，多个ChatGPT概念、AI 股由涨转跌，但AI芯片、应用领域股票仍处于高位。

截止3月31日收盘，百度美股跌1.89%，百度港股跌0.54%，创新奇智跌2.36%，知乎跌2.31%；AI 芯片公司寒武纪涨5.59%，年初至今涨227.49%；AI应用类股海天瑞声至今涨241.43%；昆仑万维年初至今涨219.97%；云从科技年初至今涨196%；商汤-W年初至今涨21.46%。另外在海外公司中，年初至今，AMD涨53%，英伟达涨94.04%，C3.ai涨203.25%。

老虎证券分析师Bo Pei表示，围绕ChatGPT的大肆宣传，仅表明市场对新投资叙事的渴望程度。“经过这么多年的发展，中国和海外的互联网行业都已经饱和，都在寻找新的方向。但类ChatGPT工具多久才能真正产生影响、或产生有意义的收入是值得怀疑的。”

事实上，ChatGPT的到来已经打破了中美在 AI 领域势均力敌的幻想。

“不管你愿不愿意，GPT都将引领一场新的工业革命，意义超越互联网和iPhone的发明。它将带来生产力的大幅提升，进而提升国家竞争力。中国一定要迎头赶上。”周鸿祎表示。