Facebook的AI实验紧张程度或超预期
最近，媒体中有关Facebook的人工智能实验的报道，导致机器创建出了只有自己能懂，而人类无法理解的语言。据进一步报道，Facebook将实验放在恐惧之下，创造出无法控制的东西。
虽然这个故事不完全是假的消息，却被扭曲和误报。机器人确实创造了自己的“语言”，但并不是要隐藏于人的主人公，而只是为了更有效率。实验停止的原因之一是因为它的目的不是证明研究人员已经知道机器生成语言的能力，而是因为他们特意希望机器能够与人交谈。
Facebook AI研究员Dhruv Batra 在Facebook上写道：“虽然AI代理人发明自己的语言的想法可能对外界人士造成惊吓/意外，但它是AI的一个成熟的子领域，出版物可追溯到数十年岗位。
他补充说，“试图解决任务的环境中的代理人通常会发现不寻常的方式来最大化奖励”，并强调“分析奖励功能和更改实验参数与”拔掉“或”关闭AI“不同如果是这样的话，每个AI研究员每次在机器上杀死一个工作时都会“关闭”AI。换句话说，这些机器在交谈时做了很多人做的事情，通过消除不必要的语言和冗余来达到这一点。
机器可以协商
中盈网专家获悉，实验的细节记录在Facebook人工智能研究的六月十四日的帖子中 ，该文章解释说，研究的目的是看看机器可以相互协商和与人进行谈判，讽刺的是，它没有什么与已知的事实相关的是，机器可以创建自己的语言，而是“是否可以与人进行有意义的对话”。
根据FAIR研究人员的说法，实验研究了“ 谈判多议题谈判任务”，由两名代理人组成，显示相同的项目集，并被指示划分他们之间通过谈判分开的项目。“ 像典型的人类一样，这些机器被编程为从自己的兴趣谈判获得最好的结果，但与许多人类谈判者不同，“这个实验中的模型直到达成一个成功的结果为止”这是非常聪明的。
有些情况下，代理人最初对无价值项目感兴趣，只有后来通过承认它，妥协，这是一种有效的谈判策略，人们经常使用。这个行为并不是由研究人员编写的，而是由机器人发现的，作为试图实现目标的方法。
而且，关于创建自己的语言的机器的偏执观点，研究人员专门处理了这个问题，不是因为恐惧机器人接管世界，而是让机器与人类进行交互，这显然是很好：
有趣的是，在FAIR实验中，大多数人没有意识到他们正在与机器人而不是另一个人交谈，表明机器人已经学会了在这个领域中进行英文流利的对话。
而且，像人类一样，最好的谈判代理人得到的结果是“ 与人类谈判者相匹配的结果”，与更糟糕的交易相比，实现了更好的交易，表明FAIR的机器人不仅可以说英语，而且还可以智慧地思考说什么。