阿西莫夫三定律漏洞百出，遵循三定律需要强大的计算力

新智元编译

来源：Knowridge

作者：Mark Robert Anderson

译者：张易

2017 新智元开源·生态 AI 技术峰会 【倒计时 7 天，点击“阅读原文”抢票】新智元和行业领袖英特尔联合举办，中国 AI 2017 开年盛典启幕在即，三大亮点不容错过：① BAT 领衔，英特尔支持各路人工智能技术领袖齐聚，洞察中国 AI 军团布局；② 引爆 AI 原力， 现场参与 AI 技术论坛顶牛对撞；③人工智能创业家巨星璀璨，看投资领袖预测 谁将成为中国 AI 独角兽。

【新智元导读】75年前，阿西莫夫在短篇小说《环舞》中首次提出了三定律，这成为人机关系互动中人类的保护伞。然而，三定律本身就存在着矛盾和模糊。同时，鉴于机器人领域已经发生了重大变化，且将继续变化，我们确实需要更新这三定律，来适应21世纪的人工智能发展。

75年了，阿西莫夫的机器人三定律也该更新了

在卡西莫夫的科幻世界里，机器人扮演着仆人的角色。需要给他们制定一套规则，防止他们伤害人类。

而今距阿西莫夫第一部小说出版已经75年了。人类科技取得了重大进步，我们对机器人的认识也发生了很大改变。阿西莫夫在故事里给机器人制定的伦理守则需要更新了。

从扫地机器人到军事无人机，再到整个生产流水线，自动化设备大量涌现。

与此同时，人工智能和机器学习长足发展，渗入到我们生活的方方面面。无论是个人在网络上搜索信息还是政府部门优化配置公共服务，背后都有AI技术在发挥作用。

这些发展很快就会导向一个机器人大爆发的时代。社会的各个领域几乎都会有机器人参与其中。人和机器人的交互将会显著增加。

而当我们想为这种交互制定一些规则时，我们仍会想起阿西莫夫三定律。韩国政府甚至在2007年提案了机器人伦理宪章，其内核正是阿西莫夫三定律。不过鉴于机器人领域已经发生了重大变化，且将继续变化，我们确实需要更新这三定律，来适应21世纪的人工智能发展。

三定律的矛盾性和模糊性

作为用于保护人类在和机器人互动时免受其伤害的规则，阿西莫夫三定律如下：

一 机器人不得伤害人类，或因不作为使人类受到伤害。

（A robot may not injure a human being or, through inaction, allowa human being to come to harm）

二 除非违背第一定律，机器人必须服从人类的命令。

（A robot must obey the orders givenit by human beings except where such orders would conflict with the First Law）

三 除非违背第一及第二定律，机器人必须保护自己。

• （A robotmust protect its own existence as long as such protection does not conflictwith the First or Second Laws）

如上文所述，一个明显的问题在于今天的机器人的种类远比阿西莫夫故事中机器人的种类要多。所以我们首先需要考虑是不是该设置一条标准线，低于这条线根本就不需要使用这三定律。

很难相信一个扫地机器人能伤害到人类，或者会具备遵循命令的能力。它毕竟只是执行单任务，按下开关按钮前，一切就都决定好了。

另一个极端则是军事战斗环境下的机器人。这些设备就是设计用来侦察、爆破或者运输军用物资的。它们似乎和阿西莫夫定律不违背，尤其是想到它们的用途就是代替人类进入到高危环境中。

但再往前走一小步，比如创造出能上战场的武装机器人，就和第一定律——不伤害人类——严重违背了。

战争就是通过伤害敌人来保护本方的公民和战士。这种情况下，需要从不同的立场和角度来思考机器人守则。

三定律的模糊性激发了很多科幻作家，包括阿西莫夫本人，来探索它们会如何被误读或错误地使用。问题之一在于定律没有准确定义什么是机器人。科学技术的发展造就了分子结构层面的自动化设备。举例来说，由DNA和蛋白质构成的“机器人”可以被用于纠正基因混乱的手术。理论上，这些设备的确应该遵守阿西莫夫定律。但它们为了完成工作，需要融合进入它们为之工作的人体，成为人体的一部分。

这种融合使得界定这种机器人是否还具备足够的独立性来遵循定律变得很困难。从实践层面上来说，它不可能再确定收到的命令是否对它融入的人体有害。

对于什么是对人类的伤害，这一点也有疑义。比如日本有一种机器婴儿，如果人类领养它们，确实可能对人类造成情感或心理的伤害。

但这种伤害并不直接来自这个机器人的行动，甚至在这次人机互动结束后的若干年之内都不显现。同样的问题在简单得多的AI上也会出现，比如用机器学习的方法来创造打动人心的音乐。

遵循三定律需要强大的计算力

定律的另一个大问题在于AI还需要更显著的进步，机器人才能理解这些定律。AI研究的目标有时被描述为研发像人一样行动和思考的机器。然而迄今为止，关于模仿人类行为的研究在AI领域并不多，对于理性行为发展的研究也只局限在有限的领域中。

所以，机器人的行动范围非常有限，被高度限制。一个能基于三定律进行推理和决策的系统需要相当巨大的计算能力，目前科技还远未达到。

有鉴于上述这些问题，阿西莫夫定律只是为机器人守则的建立建立了一些原则。我们需要补充一整套全面的守则。换句话说，没有AI的进一步长足发展，定律的实施还是不可能的任务。而我们甚至还没考虑人类和机器人坠入爱河后可能遭受的伤害呢。

原文地址：https://knowridge.com/2017/03/after-75-years-isaac-asimovs-three-laws-of-robotics-need-updating/

新智元“3·27”AI 技术峰会购票二维码：