为了让人工智慧(AI)聊天机器人(chatbots)更加人性化,面书(Facebook)最近尝试让机器人互相沟通来学会协商。

结果机器人不仅成功学会谈判,甚至还懂得虚张声势来达到目標,实验途中更一度有了意外的发展:他们发现机器人开发出非人类的独特语言在对话,研究人员不得不暂停实验来修改程式。

人们已经很习惯运用谈判技巧来达成某种程度的妥协,但由於这当中牵涉到复杂的沟通与推理技巧,过去的电脑系统並不具备类似的功能。

(示意图)
(示意图)

就像是手机的语音助手Siri或Alexa一样,现有的聊天机器人可与人类进行短暂对话,並且执行预定餐厅、查询天气等简单的事情,但要和人进行有意义的对话非常具备挑战性,因为这需要AI把「对於对话的理解」与「对世界的知识」结合,然后想办法创造出句子来帮助实现目標。

据《科技新报》报导,面书人工智慧研究实验室(FAIR)为了让聊天机器人学会谈判技巧,让2个机器人各拥有相同数量的三种物品(书、帽子、球),但每种物品对两个机器人的价值都不同,在不能说出价值的情况下,机器人必须透过討价还价来达到自己可得到的最高价值。

研究人员在设计时,特別確保不会有对双方都是最好交易的情况发生,並且规定要在十轮对话中达到目標。

在这样的过程中,聊天机器人逐渐学会制定长期计画,並能在沟通中评估对话者的心理来建构模型,进而运用对话来达成目標。

让两个聊天机器人自由对话训练协商功能的过程中,FAIR意外发现,机器人透过机器学习(machine learning)改善谈判技巧时,逐渐开发出机器独有、非人(non-human)的语言在沟通,研究人员隨后立即调整模型,避免这样的情况再度出现。

除此之外团队也发现,在有效达成目標的前提下,机器人发展出虚张声势的技巧,也就是人们经常使用的谈判策略──最初先假装对没有价值的东西感兴趣,后续在协商中透过「牺牲」它来达成妥协,而这项行为,研究人员並没有编码在其中。

留言评论: