我们能设计人类和人工智能之间的信任吗

多年来，与人工智能的互动一直是科幻和学术项目的一部分。然而，随着智能系统承担越来越多的责任、更换工作和参与复杂的情感决策，找到如何与这些系统合作成为一个务实的问题，需要务实的解决方案。

机器学习和认知系统是人们每天与许多产品交互的主要部分，但为了充分利用人工智能的潜力，人们需要更丰富的方式与他们使用的系统进行交流。设计师的作用是想出如何建立人与机器的合作关系，帮助智能系统增强人类的创造力和制度，而不是简单地取代它们。

人与技术的关系和更快的处理器一样重要。

为什么信任和共情很重要

Siri不会为你做出改变生活的决定，所以如果它不知道自己的结论是什么，那么它与一个采用模糊输入做出重要决策的系统进行交互也没有关系，然后它需要的不仅仅是几个按钮和一个状态指示器来给你模糊的输出。这种互动需要人与技术之间的信任和同情。如果智能系统的目的是做出不必要的复杂和微妙的决定，那么如果人们不相信他们这样做，那就没有意义。这意味着人与我们使用的技术之间的关系变得和构建更快的处理器一样重要。

想象一下，当你突然踩下刹车，改变路线，朝着一个新的方向行驶时，你正在自动驾驶你的车上下班。可能车子看到了一些你没有发现或者没有发现的事故，但是如果它没有告诉你所有的事情，你就不相信它做出了一个快速的决定，当然也没有迹象表明为什么会非常令人不安。在大多数情况下，汽车不会面临道德上具有挑战性的决定，但有时它们会，例如，在拥挤的事故中转向哪条路，因此人们可能不得不相信他们的汽车会为他们做出复杂且有时是道德上的决定，就像当另一个人驾驶汽车时一样。医疗保健等领域更令人担忧，人工智能也参与其中。

人工智能系统知道他们什么时候不明白事情。

创建反馈循环

在交谈中，我可能误解了你的要求，或者我可能需要更多的信息，但无论是哪种方式，交流的往复性都可以让你快速纠正错误，让我填补任何我需要知道的空白。类似的人机交互允许系统获得理解问题所需的信息，即使理解问题所需的信息无法提前定义。这也利用了许多人工智能系统的一个关键区别功能：当他们不理解某些东西时，他们会知道。

一旦系统获得了这种自我意识，它就可以进行根本不同的互动。界面设计中最大的挑战之一是确定哪些信息在给定的上下文中是合适的，这样剩下的信息就可以被删除或弱化。当系统本身可以做出这些判断时会发生什么？

像人类这样复杂的系统也会犯错。

设计差错

复杂系统和人类一样，也会犯错。完全避免它们是不可能的。我们的目标应该是减少它的影响，鼓励用户原谅他们，并随着时间的推移帮助系统学习。随着系统变得个性化和能够学习，用户轻松教他们如何行为的能力变得更加重要和强大。

即使在静音模式下，苹果让iPhone闹钟响起的决定也是这个问题的一个有趣例子。iPhone静音模式只是禁用声音，你没有明确的要求，但一般人的期待很简单；当你按下关闭按钮时，会有东西关闭。这种预期的不匹配会导致问题——例如，在电影院发出警报。客观地说，另一个问题——错过会议，因为你的手机处于静音模式，没有叫醒你——更糟糕。但是，如果有更好的相互理解和对系统错误影响的更大敏感度，这两个问题是可以缓解或避免的。目前，这些错误的影响可能可以忽略不计，但风险正在迅速上升。

建立信任和协作

是什么让坐飞机或者坐公交，被完全陌生的人驾驶的人连想都不去想，一想到要上无人车就会焦虑？部分原因是，我们通常认为其他人是合理和有能力的司机——机器可能管理的事情——但不仅仅如此。我们理解为什么人们会凭直觉行事，我们可以预测他们的行为。我们对当前的智能系统没有这种同情心。

在我们弄清楚如何建立信任之前，没有方向盘的无人驾驶汽车是令人不安的。

为了正确对待病人，医生，无论是人类医生还是虚拟医生，都需要聪明，她必须安慰、说服和激发信心。同样，在我们像其他人一样想出如何建立信任之前，进入一辆没有方向盘的无人驾驶汽车将是令人不安的。

在我们目前在人工制品的一个项目中，我们正在探索汽车向全自动控制过渡的未来。在部分自动驾驶模式下显示汽车对周围环境的解释，有助于建立驾驶员的信任，即汽车可以对其他汽车突然变道或行人踩在街上做出适当的反应。这有助于人们看到汽车可以接管，因为他们在驾驶时会放弃越来越多的代理。这种表达系统化解释或理解的思想也是一些有趣的Watson界面的核心，可以帮助人们对复杂的高级问题进行提问并获得答案。

许多人警告说，人工智能驱动的自动化可能会消除大多数工作岗位，从而摧毁经济。以上个世纪的转折点为例，汽车的广泛引入对大多数人的生活产生了巨大的积极影响，但也让几乎所有的马都失业了。21世纪初，我们会从今天的技术革命中受益，还是会成为拖着建筑材料去亨利福特新工厂的马？开发与人合作的人工智能，而不是简单地替代人