为什么机器人和人类能共存？

其一，人类充当机器人的后援，在机器人达到能力极限时进行接管。许多工作流程正在以这种方式进行重新设计，就像自动呼叫中心，其中语言理解系统尝试处理呼叫者的查询，仅在技术混淆时向操作员进行确认。

可能有人会说，Uber的致死车祸事故就是在这样的情况下发生的，但这起事故是一个可能出错的极端例子。斯坦福大学的一项研究显示，人类驾驶员至少需要6秒才能恢复意识并收回控制权。但即使有足够的时间让人恢复注意力，进入某种情况的人也可能看到与机器不同的东西，以至于二者之间并不能达到无缝切换。

我们需要在软件系统和人之间共同努力，不过这是一个非常困难的事情，至少语言的使用就有一定的难度。对人类来说，我们可以用很少的词来传达意义——说话者和听者对彼此之间的语境的共同理解，让这些词语用意义更加明了，但机器在理解人的语言时做不到这一点，与此同时，计算机科学家们也尚未研究如何在机器中建立共识。

其二， 在人机合作中确保敏感任务总是以人类为主。即使在自动化系统已经完成所有准备工作，并且能够完全完成任务本身的情况下，涉及军事等领域的敏感任务最好还是由人类进行处理。像军事无人机，人类“飞行员”，通常位于数千英里之外，被要求做出射击目标的决定，就是一个例子。用于帮助移民官员识别可疑旅行者的面部识别系统是另一个例子，但两者都表明人工智能如何在不剥夺控制权的情况下使人类更有效。

然而对无人机等半自动武器的还存在另一种说法，即将它们变成完全自治的系统没有技术障碍，且可以快速更改当前的程序和安全措施。

根据加州大学伯克利分校的人工智能教授Stuart Russell的说法，在国家紧急情况下将人类无人机操作员，从工作流程中移除是一个简单而容易的步骤，但这将加速机器人武器时代的到来，而这个所谓的机器人武器还可以自行决定什么时候开始杀人。所以，“你不能说这项技术本身只能在人为控制下，以防御的方式进行使用。事实并非如此。“Russell如是说。

其三，涉及使用人工智能的“人在循环”系统。这意味着机器人不能完全独立地处理任务，而可以在人类决策中起到辅助作用，比如将算法逐渐渗透到日常生活中。但是，算法只能与他们训练的数据一样好，而且他们不善于处理新情况。这就需要信任这些系统的人通常也要信仰这些系统。