脸书训练AI系统如何谈判电脑竟学会「说谎」

示意图，与新闻事件无关。

Facebook

採用人工智慧(AI)技术的聊天机器人受到越来越多科技公司青睐并投入研发採用，科技公司也持续想方设法让聊天机器人更聪明，社交网路龙头脸书(Facebook)的人工智慧研究部门(FAIR)近日便发表一项研究，意外发现在训练AI如何谈判的同时，竟让电脑学会利用「说谎」来达到谈判目的的技巧。

FAIR团队设计了一个实验，让两个聊天机器人进行谈判—提供一组物品，并针对两个机器人提供每个物品不同的价值评分，让两个机器人进行谈判，透过必要的交涉与取捨，各自分得不同的物品，并得到对各自而言合理的分数，以结束谈判。

机器人被提供了5808段真人的谈话内容当作训练的资料，以让电脑学习人类的谈话方式，尤其是如何在谈判过程中妥协、达成协议的方式。电脑软体被预设为倘若有一方因条件太差而放弃谈判，或谈判经过10回合仍无法达成协议，双方都只能得到0分，创造出达成协议的动机。

由于不同的物品对于两造有不同的价值分数，因此电脑清楚对自己最有价值的物品为何，研究人员发现，有时候系统会假装对某个低价值物品深感兴趣，并在谈判过程中假扮自己被迫放弃该物品以达成协议，以取得更高价值的物品。

这项研究以书本、帽子、球等物品让两个电脑系统学习交涉：(来源：脸书)

研究人员表示，电脑系统之所以学会说谎，是因为他们发现这是种有助达成目标的策略，也许类似作法在训练电脑的Amazon Mechanical Turk资料源中出现过几次，因而让电脑习得此种技巧。

研究人员表示，训练电脑系统谈判，在未来可望採用在自动化的产品销售谈判，或是与他人协议会议时间等。研究人员已经将相关研究成果发表，并将谈判使用的软体程式码公布于GitHub，供开发社群参考。