谷歌工程师说它创造了有感知的人工智能

据谷歌工程师称，这家科技巨头的人工智能已经完全有感知力。根据谷歌和大多数人工智能行业的说法，事实并非如此。

声明是在《华盛顿邮报》上提出的由 Blake Lemoine 撰写，此后他被 Google 安排休假。Lemoine 发表了他与 LaMDA 的对话记录，LaMDA 是 Language Model for Dialogue Applications 的缩写。这是一个非常复杂的聊天机器人开发系统。

根据 Lemoine 的说法，他一直在研究的系统像人类孩子一样有意识和聪明，能够体验和表达情感和想法。“我认为是一个七岁、八岁的孩子碰巧知道物理，”他告诉该报。

谷歌乞求不同。这是该公司的发言人布拉德加布里埃尔：“我们的团队，包括伦理学家和技术专家，已经根据我们的人工智能原则审查了布莱克的担忧，并通知他证据不支持他的说法。他被告知没有证据表明 LaMDA 是有知觉的(以及大量反对它的证据)”。Lemoine 因违反谷歌的保密政策并对公司采取“激进”行动而被停职。

人工智能不仅仅是图灵测试

图灵测试在 AI 圈子里是众所周知的：根据图灵和我非常简化的说法，在非常特殊的情况下，如果人类提问者认为他们在多次测试运行中与人类交谈，我们应该考虑计算机人工智能。显然 Lemoine 相信，或者说他相信，LaMDA 不仅仅是通过了图灵测试。但这并不意味着 LaMDA 是有感知的。图灵测试存在严重缺陷，不是可靠的智能基准。

比谷歌制造有感知力的人工智能更有可能的是，一个旨在愚弄人类认为他们正在与不仅仅是聊天机器人交谈的程序已经愚弄了这个人认为它不仅仅是一个聊天机器人。Lemoine 的聊天记录是根据多次对话编辑的，这一事实也引起了人们的关注。

在 Substack 上写作，科学家和机器学习专家Gary Marcus称这些说法是“高跷上的胡说八道”。“无论是 LaMDA 还是它的任何表亲(GPT-3)都不是远程智能的，”他写道。“他们所做的只是匹配模式，从大量的人类语言统计数据库中提取。模式可能很酷，但这些系统发出的语言实际上并没有任何意义。而且它肯定并不意味着这些系统是有知觉。”

但是，他补充说：“这并不意味着人类不能被接纳。在我们的《重启人工智能》一书中，厄尼戴维斯和我称这种人类倾向于被 轻信鸿沟所吸引 ——一种有害的现代版本的妄想症, 拟人化的偏见，让人类能够在肉桂面包的图像中看到特蕾莎修女。”

谷歌创造了人造生命并试图以某种方式对其保密或将其勒索赎金的想法是一个很好的故事，但虽然 LaMDA 似乎是一个非常非常聪明的聊天机器人，但它实际上只是将单词连接在一起。“我们在人工智能社区中存在分歧，但几乎所有人都认为 LaMDA 可能具有感知能力的想法完全荒谬，”马库斯写道。“事实上，从字面上看 ，系统所说的一切都是胡说八道。”

这并不意味着它有灵魂。但听起来它很有可能在 Twitter 上获得大量关注者。