Facebook坚称AI失控）钱童心最近引起轰动的AI失控事件可以追溯到上个月Facebook爆出重开智能对话机器人项目的消息。研究员对两个聊天机器人展开对话策略递归升级，结果找到它们竟然自行发展出有了人类无法解读的独有语言，科研人员被迫对其展开人工干预。Facebook近日公开发表对此重开AI失控语言事件，指出一些媒体的报导失礼事实，导致不良影响。Facebook并没重开机器人聊天系统，而是在使它们显得更为聪慧高效率。

一篇论文引发的风波事件源于Facebook上个月公开发表的一篇论文。论文中阐释了一个Facebook例会的科学研究项目，展出了两个人工智能机器人如何在看完人类的谈判后，开始相互之间进行对话交流，并通过试错渐渐提高谈判的能力。

明确而言，Facebook人工智能研究院的科学家利用神经网络结构研发了一个人工智能系统。这个结构叫作“生成式对付网络”(GenerativeAdversarialNetworks，GAN)。所谓“生成式对付网络”，就只不过人类的对付游戏，你的账户能在大大的对付中提高技能，玩游戏得越多，水平就不会越高。

Facebook的研究人员期望训练这样一个聊天机器人，让它带着“目的”和人类对话。这个目的也很非常简单：一共有两本书、一顶帽子和三个篮球，三样东西分别原作了有所不同的权重，为的是让机器人明白它究竟有哪些市场需求，然后去和人谈判。Facebook的研究员对两个机器人聊天能聊成什么样产生了兴趣。

在研究过程中，系统中的两个聊天机器人Alice和Bob产生了让人不懂的对话。这段对话炸伤一看看起来一堆无法理解的乱码，研究人员后来找到，原本是在为系统设置鼓舞条件时，虽然告诉他了它们“请求用英文”，但忘了告诉他它们：“请求用英文语法”。这原本是一个十分长时间的纯学术研究。Facebook人工智能实验室(FAIR)主任YannLeCun此前拒绝接受第一财经记者采访时透漏，Facebook每年约不会递交将近百篇这样的论文，并公开发表实验结果。

但这项研究却因为发布了人类所无法解读的语言而受到媒体的肆意抹黑。甚至有人担忧“失控”的语言将威胁到人类，必需“重开”。

北京的一家科技公司国承万通CEO郭成博士对第一财经记者回应：“Facebook不太高明的工程师写出了个不太高明的算法，里面记得设置要用英语语法交流，结果两台机器自己不管语法，做了点人细心看也能看懂的语言出来。就像我们小时候玩游戏的红白机boss不会做到一些怪异的反击动作一样。”他补足道，人工智能有可能还很傻，千万别低估了它。Facebook研究人员回应回应：“人工智能机器人显然没用于标准准确的英语语法展开对话，但这并不是重点。

这项研究原本是为了使得机器人之间需要更为有效地进行谈判，我们的目的超过了，已完成了任务。”为此，Facebook新的原作了准确的激励机制，修正了机器人的不道德，让机器人说道“人话”。

这段表态中值得注意有两点，其一，机器人并没发明者自己的语言，只是建构了新的表达方式，其二，Facebook修正机器人不道德，并不代表“开动”这个系统，原因也不是因为惧怕系统失控，而是为了更为有效地展开新的实验。上海威盛电子语音交互部门技术总监张国峰对第一财经记者回应：“只是一项普通的研究实验，最后的目的也不是让两个机器人聊天，而是通过机器人和机器人的聊天，来提升机器人和人聊天的技巧。

显然还是为了构建人机之间的交互。”至于Facebook为什么要容许两个机器人之间展开交流，张国峰回应，因为机器人的表达方式受限，因此机器人与机器人的对话比较更容易做到，而目前的人工智能技术尚能不反对机器人的逻辑推理能力。

张国峰向第一财经记者说：“给机器原作策略和另外一个机器谈判，这显然看起来很智能，但这还是在人原作的逻辑框架下，目前的人工智能尚能不具备逻辑推理的能力。他更进一步说明道，Facebook“重开”的这个项目就是企图在对外开放领域通过相互对话来自学对话策略以及表达方式。“但这并不是说道发明者了新的语言，而是它们的语言几乎不发散，这个项目的方法拢了，没之后的适当。没内在的推理小说和记忆能力，通过统计资料方法自学是一条死路。

”通过机器之间的相互博弈论来自学，AlphaGo此前早已重新加入了棋士推理小说和记忆能力，所以自己和自己对局需要提升棋艺，但是这种推理小说还是由人类重新加入的推理小说，依然无法在对外开放领域构建。所谓对外开放领域，就是指没容许的对话。相比较于机器之间的对话，机器与人的对话更加无以，就是因为人的语言是没什么容许的。人工智能威胁论重现虽然人工智能发展很快，但是目前机器的智慧水平还近不及人类。

所以尽管人工智能威胁论完全每十年就不会被抛一次，但赞成的声音垫过威胁论。为此，FacebookCEO扎克伯格还和特斯拉CEO马斯克怼上了。马斯克说道他一谈及人工智能，就感到恐惧，他指出人工智能是人类不存在的仅次于风险。而扎克伯格却指出人工智能不会让人们的生活更加幸福，还称之为马斯克的威胁论近于不负责任。

创新工场董事长、CEO李开复也公开发表赞成马斯克的“威胁论”，他具体赞成马斯克“人工智能必将绝种人类”的悲观论调。李开复回应，人工智能现在意味着是人类的工具，离享有意识的“超级智能”的能力还十分很远。

针对此次Facebook重开“失控”AI事件，李开复发表文章称之为，人形机器人将立刻转入千家万户的众说纷纭是无稽之谈。当机器人在言谈举止各方面都与人类极为相近时，普通家庭用户对机器人的“人类素质”的希望也不会显得高不可攀。意味着这种希望所带给的沮丧就不足以让很多公司的“未来十年让科幻小说沦为现实”的未来发展挫败，更加别提消费市场对价格的严苛拒绝了。

对人工智能所持猜测态度的最强劲的代表是知名物理学家霍金。在今年早些时候举办的2017全球移动互联网大会(GMIC)上，霍金通过视频公开发表主题演说。

他回应：“人工智能的兴起有可能是人类文明的落幕。”这早已不是霍金第一次明确提出“人工智能威胁论”。

在今年3月，霍金向英国《独立报》回应，人类必需创建有效地机制尽快辨识威胁所在，避免人工智能对人类的威胁更进一步下降。不过，霍金也回应，虽然他对人工智能有各种忧虑，但他对人工智能技术本身还是抱着有悲观的态度。他指出人工智能带给的收益是极大的，人类也许利用这一强劲的工具，可以增加工业化对大自然的损害。但他回应不确认我们是不会被智能无限地协助，还是被无限地边缘化，甚至吞噬。

借出霍金的话说道：“这是一个美丽但充满著不确认的世界，而你们是先行者。

本文来源：米乐|米乐·M6-www.nbchengzhou.com