关于.什么是机器人三定律，你需要知道这些李飞飞和机器人三法则

人类最糟糕的发明是什么？显然，不同的人会有完全不同的看法。

似乎中国人普遍认为是转基因。这个事儿挺有意思的。中国在整体上转基因技术相当落后，（当然，我们偏偏也拥有这一领域的世界顶级人才如张锋和高彩霞。）所以在市场上能够见到的转基因食品几乎没有。全国人民并没有什么机会吃转基因食物。但是对转基因却有全球最高级别的焦虑和恐惧。而美国市场上转基因食品占到70%以上。20多年来两亿多美国人民为全人类甘当小白鼠，天天吃转基因食物，吃了两万多亿顿。到现在没有一个人受到转基因食品的实际伤害，确确实实就是一例都找不到。你们谁能说出美国哪个人因为吃了转基因食品而生病、死亡或者生不出孩子啦？所以转基因这个发明到底是好是坏，至少到现在根本无法下结论。当然，这不是我们今天要讨论的事情。这只是个铺垫。

我要说：汽车才是人类最恶劣的发明。有大量充分而确凿的统计数据证明，因为车祸，全世界每年有100万到120万人死亡。有2000万到3000万人受伤，其中不乏终身残疾。和转基因不同，我们每个人几乎都能够说出自己知道的几个因为车祸而受到伤害的人的名字。是不是呀？但奇怪的是：我从来没听到有人谴责人类发明了汽车，或者要求禁止使用汽车。相反，中国人对汽车、好车、名车的追求和热爱始终高烧不退！当然这也不是我今天要讨论的事情。这也只是个铺垫。

我今天想要和大家讨论的是：前几天李飞飞同学告诉我们：人类居然还有一件事情比发明汽车更恐怖，那就是医疗。她说：每年，因为医院误诊和医疗事故造成的死亡人数，是车祸死亡人数的三倍以上。这意味着什么？这意味着每年人类因为错误的医疗导致的死亡人数高达300万到360万人！

毕业于普林斯顿大学和加州理工学院的李飞飞（1976-）博士是一位科学家，是谷歌云端人工智能的首席专家，是斯坦福大学的终身教授和人工智能实验室的主任。她不可能随意说话。况且，她的这番话是在刚刚举行的《2018世界人工智能大会》上的正式发言。

首先应该明确，李飞飞肯定不是一个否定现代医学、崇拜前现代医术的人（中国互联网上这样的人特别多）。就像我虽然严厉批评汽车，但我也不是一个否定现代出行技术、希望大家回到马车牛车人力车时代、或者驾云驾雾出行的人。

现代医学是伟大的科学。从根除大规模的传染病、包括根除那些曾经消灭过四分之一到二分之一人口的鼠疫、黑死病和天花，到给心脏安支架搭桥，现代医学把人类的健康提高到了过去不敢想象的空前水平。（我们千万要和那些反现代的传统复古分子划清界限。）但是，现代医学由于完全依靠人来操作运行；这一点正好和汽车一样，汽车也完全依靠人来操作运行；这就使得人为失误不可避免地给人类带来巨大生命损失。

正如90%以上的车祸都是“人的失误”造成的，90%以上的医疗误诊和操作过错也都是“人的失误”造成的。所以，汽车行业和医疗行业现在就成了人工智能的主要突破口。因为，显然，在人的失误最大的领域，人工智能肯定失误会最少。这也就是李飞飞她们的用武之地。

人工智能肯定是人类的下一个文明、下一个时代的生产力的核心。用人工智能战胜围棋选手，那只是人工智能的小试锋芒，是人工智能的初显实力。如果人工智能在汽车行业和医疗行业的运用，能够把这两个行业现在对人类造成的巨大生命损失降低哪怕一半，大家想想，那就是何等伟大的成就呀！以汽车为例，大多数专家都认为，如果汽车行驰最终完全实现人工智能化，也就是无人化，那么完全可以消除当前发生的90%以上的车祸。也就是说，挽救至少一百万人的生命。是不是非常酷！而这也完全可以同理推论到医疗上。

不过现在我们人类已经不那么简单了。大家都不会相信人类的科学技术进步是单一方向的。科学技术有可能给我们带来伟大的成就；同样有可能给我们带来无穷的灾难。不是吗？所以，人类从原始基因中带来的猜疑情结，现在不是在减弱，而是在增强。如果我们闭着眼睛一想转基因那么可怕，那人工智能会不会比它更可怕呀？

对周边世界保持强烈猜疑，很可能是原始人类能够存活下来并登顶生物圈的一个主要原因。那么，对未来科技保持强烈猜疑，也很可能是未来人类能够长远存活下去，并永远保持优势的一个基本条件。所以，人类从现在起，就要想到人工智能将来会不会危害人类？人类应当如何应对之？

我们高兴地看到，今天，人工智能最前沿的研究者们就已经注意到了这一点了。就在《2018世界人工智能大会》上，李飞飞说：

人工智能（AI）是如此强大，人类从来没有创造过一种技术它对社会影响会如此巨大。而我们，包括我们这些人工智能专家，对它的未来发展又知之甚少。这使我这个AI科学家诚惶诚恐！

为此，她提出，要应对AI这种技术给人类带来的新挑战，就要坚持以人为本的AI。具体地说，那就是：人工智能三法则：

第一，AI必须更深层次地反映人的思维。 第二，社会有责任引导和监测AI对人类发展所带来的影响，虽然工程化是第一个挑战，但更要关注AI带来的社会伦理挑战。 第三，AI应该增强人类而不是取代人类，AI可以替代危险性的工作，但人的素质会因为AI而有新的不断的发展。

李飞飞提出的三原则，确实对人和机器、特别是智能机器的关系有了突破性创新。过去，人类关于人和机器的关系的研究，很少从她这个角度来观察和探讨过。

如果追溯人类关于人和智能机器的关系的确定，毫无疑问，大家都会想到阿西莫夫（1920-1992）。他早在1942年发表的科幻小说《环舞（Runaround）》中，就提出了机器人三法则：

第一法则，机器人不得伤害人，或袖手旁观地坐视人受到伤害。 第二法则，除非违背第一法则，机器人必须服从人的命令。 第三法则，除非违背第一或第二法则，机器人必须保护自己。

阿西莫夫远在智能机器人根本就没有出现、甚至连计算机都还没有出现的时候，就率先提出了要给机器人定规矩；并从理论上概括了人和机器关系的主要原则。并且在他创造的三法则中，不容争议地确定了人类的绝对主人地位。所以，机器人三定律有非常重要的启蒙作用。

到1985年，计算机已经运行和飞速发展了40年，人工智能也诞生30年了。阿西莫夫这时看到：一方面智慧机器的出现即将成为现实；另一方面，人间越来越不太平，人类之间的冲突愈演愈烈。因此，他在新书《机器人与帝国（Robots and Empire）》中，把自己的三大法则扩展为四大法则，也就是增加了第零法则：

第零法则：机器人不得伤害整体人类，或坐视整体人类受到伤害。 第一法则：除非违背第零法则，否则机器人不得伤害人，或坐视人受到伤害； 第二法则：除非违背第零或第一法则，否则机器人必须服从人的命令； 第三法则：除非违背第零、第一或第二法则，否则机器人必须保护自己。

可以看得出来，阿西莫夫到晚年时，已经开始担心人工智能和机器人被用于武器、军备竞赛和人类相互残杀的战争。在他的最后一部科幻小说中，他希望通过自己提出的这些虚拟原则，来约束人类的行为。老爷爷用心好良苦呀！

但是，机器人三定律实际上有很强的局限性和模糊性。最重要的是，似乎没有谁能够完全按照阿西莫夫提出的原则，真正造出预先植入了他提出的三定律或者四法则的机器人。

应该说直到最近十年内，当人类创造和生产智慧机器或者智能机器人的工作真正全面展开后，第一线的人工智能专家，比如李飞飞他们，很快就认识到，人类和智慧机器人的关系，最终肯定不是谁指挥谁、谁领导谁、谁服从谁的问题。不是如何处理两者的对立关系的问题。而是人和人工智能、或者说机器人，如何互相理解、互相沟通、互相协同，甚至互相融入，成为一体的问题。

当你真正开始设计、创造和制造AI机器人的时候，你需要的根本就不是去判断AI到底是最好的发明，还是最坏的创造？我们到底是在制造一个伟大的天使，还是在生产一个邪恶的魔鬼。事实上，我们并不面对这种选择，而只是要让我们创造的这个AI系统，完全理解和遵循人类的价值和目标。这也就是李飞飞的第一条说的：AI必须更深层次地反映人的思维。

如果真的能够实现这一条，那人类创造的AI机器人，就不可能再是一种异化的、异己的、和人类对立的力量。而是和人类有着完全相同的价值取向和目标取向的力量。

人类创造的AI机器人，它们和人类之间将不再是非此即彼、互不相容的关系；而是人机携手、共生共荣、共创未来的关系。

AI机器人肯定有它远远超越人类的特殊优势能力，因此，从工程技术上看，AI机器人能做人类根本做不了的事情。但这也是和人类互补的。因为人类具有创造力、同情心、同理心、审美心和肉体性。AI机器人的工程技术能力再强，也必须理解人类的这五大特征，并努力使自己融入到这五大特征中，使自己卓越的工程技术能力用于支持人类特有能力的体验、增强和发展。从而在伦理上和人类同步，而不是和人类冲突。这也就是李飞飞的第二条说的，人类要应对好AI带来的工程化的挑战和社会论理的挑战。

从人机关系的最终目标看，那就是李飞飞说的第三条：AI应该增强人类而不是取代人类。……人的素质将会因为AI而有了新的不断的发展和提高。这也就决定了，人类开发的AI机器人将包容所有的人、支持所有的人、发展所有的人，而不是相反。人们创造的AI，永远是辅助人类、协助人类、尊重人类的力量，而不是相反。

根据我的观察，事实上，李飞飞提出的人工智能三法则代表了当今人工智能研发精英团队的共识。我也读过除了谷歌团队之外，比如苹果团队、微软团队的人工智能专家提出的一些原则和法则，无论大家提出的是三原则、四原则、五原则或者六原则，我深深感到大家其实有很大的共识。追求人类和人工智能的相互高度理解、支持和融合，代表了未来人工智能的主导方向。

---