新智元报道
作者：张乾
【新智元导读】 剑桥大学生存风险研究中心发布免费的MOD，让文明5的游戏玩家利用人工智能快速发展，但同时如果不建设人工智能安全实验室，超级AI就会毁灭人类文明。虽然AI在文明5中的表现糟糕，在即时策略游戏中也尚未战胜人类，但人类应该为此庆幸。
最近，剑桥大学生存风险研究中心（The University of Cambridge’s Centre for the Study of Existential Risk，CSER）做了一件防止发生世界末日的事：在游戏文明5中实验让AI毁灭人类。
文明5是一款即时策略（RTS）游戏，玩家带领一个历史悠久的民族不断升级打仗，与其他国家在文化、科学、军事和宗教等领域展开全方面竞争。
CSER发布的是一个免费的MOD，最终将文明5变成一场阻止“天网”的比赛。
在这个MOD中，游戏玩家可以利用人工智能快速发展，但如果不建设人工智能安全实验室，超级AI就会毁灭人类文明。
成败都在超级智能MOD如果游戏玩家安装了CSER免费的超级智能MOD，科技胜利的目标将从发射航天器到半人马座阿尔法星（Alpha Centauri），变成建立一个安全可靠的高级AI。
游戏玩家不断在文明5中进入更高级的时代，而一旦进入现代时代，玩家需要投入大量的资源来建设人工智能安全实验室，并打击流氓AI元素的影响。如果玩家在利用超级智能获得技术进步的同时能做好AI的检查工作，那么就会取得胜利，最终将离开这个世界走向乌托邦；但如果让流氓AI失去控制，超级智能就会摧毁人性，人类建立的文明就会失败。
文明5中的甘地是个“核弹狂魔”，但跟不受控制的人工智能比起来，就是小巫见大巫。
CSER的研究Shahar Avin在接受The Verge的采访时表示，玩这个MOD的确能激励他更深入地思考AI的危险。 “假设你陷入了两个激进文明之间的纷争，管理人工智能的风险就会变得非常困难，因为你的资源专注于打仗。”Shahar Avin说。
文明5甚至已被纳入高中课程作为学习工具——虽然这可能并不是了解历史的最好方式，但是对于国家之间的基本经济、发展和外交能带来很多教训。
尽管AI在游戏中处理外交时的表现非常糟糕，但就模拟国与国之间完全误解的后果而言，它又是相当准确的。
AI尚未突破即时策略游戏防线AI不仅在处理文明5中的外交表现糟糕，实际上在即时策略游戏中，整体能力尚不如人类。
在去年的星际争霸AI竞赛中，Facebook悄悄地派出一款叫做CherryPi的AI bot，最终CherryPi在28场比赛里仅排第6。国外科技网站Engadget甚至以Facebook“被业余玩家狂虐”（Facebook’s StarCraft AI was defeated by hobbyists）为题做了报道。
虽然AI在围棋、德州扑克等策略游戏中战胜了人类，但在即时策略游戏始终不能突破人类防线。这由以下几点决定：
1、RTS游戏重在“即时”，每个玩家都在较少的时间内思考行动计划，AI做不到短期决策。在星际争霸中游戏每秒执行24帧，这意味着玩家可以在比赛前每42ms一样快状态变化。而对于棋牌类游戏而言，玩家有几分钟后的时间来思考。
2、AI无法应对突发事件。除了打仗外，玩家还需要考虑经济、局势、侦查等方方面面，不断做出安排。更重要的是，AI在处理突发能力上的表现不足，这也是AI在文明5处理外交时表现糟糕的原因。
3、游戏的公平性限制条件。由于机器在速度和频率上高出人类玩家，因此在某些游戏中，AI被限制在特定条件下与人类“公平”对决的，即APM（每分钟操作数）等操作指标不能超过人类血肉之躯的极限。
总体而言，AI更强调长期规划和推理能力。
不过，虽然AI无法占领即时策略游戏这块高地，CherryPi也未能给Facebook带来像DeepMind一样的赫赫战绩，但人类应该为此庆幸。
试想，如果AI在即时策略游戏中完爆人类，说明AI在政治、军事、社会等各个方面具备了接管能力，如果再加上人类又毫无人工智能安全管理意识，CSER创造的那种最坏结局恐怕是会发生的。
参考资料：
·CSER的报道：
https://gizmodo.com/a-mod-for-civilization-makes-rogue-ai-more-dangerous-th-1821815000
·去年星际争霸AI竞赛报道：
https://mp.weixin.qq.com/s/x0G-LNCano7qjGdpj-fpCQ
·即时策略游戏中的AI技术：
http://blog.csdn.net/tao_wu/article/details/77621012
加入社群
新智元AI技术+产业社群招募中，欢迎对AI技术+产业落地感兴趣的同学，加小助手微信aiera2015_1入群；通过审核后我们将邀请进群，加入社群后务必修改群备注（姓名-公司-职位；专业群审核较严，敬请谅解）。
此外，新智元AI技术+产业领域社群(智能汽车、机器学习、深度学习、神经网络等)正在面向正在从事相关领域的工程师及研究人员进行招募。
加入新智元技术社群 共享AI+开放平台
