刘培强 看《流浪地球》中刘培强与MOSS的相爱相杀

流浪地球的剧照

电影《流浪地球》从今年正月初一上映，在国内掀起了观影热。截至2月17日，总票房已经超过国产电影《红海行动》，在内地票房排行榜上稳坐亚军位置，充分证明了该片的超人气。这部里程碑式的作品，堪称国产科幻电影，不仅有令人眼花缭乱的伪现实特效画面和丰富的人物，更有不断高潮的精彩剧情，同样被影迷和科幻爱好者津津乐道。其中，刘培强与负责“领航”空站运营的人工智能“MOSS”的对峙主线，再次引发了对人工智能与人类关系的深刻伦理思考。

荷兰作家兰伯特·鲁亚科斯和蕾妮·范·伊斯特曾在他们的著作《人机共生》中指出，关于人类或反人类的争论通常围绕着“人的尊严”展开，而人的尊严是人权的基础；而“人的可持续性”同样重要，可以保护一些让人类成为真正人的因素。但如果未来在非人化道路上的部署不当，对两人都有很大影响。

人机共生的幌子

-"莫斯，你叛变了"

影片中有这样一个情节:当地球受到土星强大引力的影响，逐渐偏离轨道到最后，MOSS根据相关指令设定其快速计算，放弃“流浪地球”计划，改为“烈火计划”，不受现场任何干扰。当刘培强用自己的力量突破休眠仓库时，他发现空站，这个“流浪地球”计划沟通的关键，正在逐渐远离地球。他马上做出了自己的第一个判断:人工智能在全人类生存的关键时刻叛变了。

流浪地球的剧照

随着现代社会科学技术的发展，机器人已经从人类为主宰的简单机器发展到人类无法控制的全自动机器人。控制它们的关键是它们携带的人工智能。未来世界出现各种极端问题时，我们也可能面临同样的问题:我们是相信通过高速计算人工通知的结果，还是相信人类直到最后一刻都不会放弃希望？

在科学、文学等很多领域，我们总是强调“人的可能性”。面对逆境，我们可以正视困难，也可以通过思考和判断，选择抛弃地球上的人类，保留仅存的火种作为希望。但是，无论哪种选择，都有一种人性化的思考，而不仅仅是人性化的精确计算。影片的后半部分，刘培强在说服联合政府的时候，打电话人的长时间沉默，以及决定帮助救援队的全球直播，也能表达出那一刻对人性的思考和抗争。

——“莫斯，你在杀人！”——

为了操纵空站拯救地球，刘培强和马卡罗夫、中俄联手前往核心控制区。最后阶段MOSS以保护核心为由攻击我们的俄罗斯战友，让他们丢了性命。这还不包括空站隐形区对其他宇航员可能造成的伤害。

1950年，美国著名科幻作家艾萨克·阿西莫夫在他的中短篇科幻小说集《我，机器人》中提出了著名的“机器人三定律”:

第一定律:

机器人绝不能在目睹人类个体将处于危险之中的同时伤害人类个体或袖手旁观；

第二定律:

机器人必须服从人类给它的命令，除非该命令与第一定律相冲突；

第三定律:

机器人要在不违反第一第二定律的情况下，尽可能的保护自己的生存。

《我，机器人》剧照

这套规律作为未来世界的虚拟设定，不仅被很多作者所采用，在我们的科技设计中也有实际意义。人工智能和机器人领域的许多技术专家也同意这一规则。

2018年，百度CEO李彦宏在一次演讲中首次阐述了“人工智能伦理四原则”，即:

AI的最高原则是安全可控；

AI的创新愿景是促进人类更平等地获取技术和能力；

AI的存在价值是教人学习，让人成长，而不是超越，取代人；

AI的终极理想是给人类带来更多的自由和可能。

看上面的规律和原理，有很多相似之处，但最重要的核心还是“人”。在危机时刻，我们需要保护的是我们的人类群体还是个人，还是AI判断的“人”，仍然是一个有争议的话题。当我们还需要对一个人的生命剥夺进行多层审判时，我们是否允许人工智能在不受干扰的情况下，基于已有的信息做出判断，这样的行为是否道德？

——“莫斯从未叛逃，只是忠实地履行了授权指令”———

面对刘培强的不配合和各种指责，MOSS向他出示了联合政府对其行为的事前授权文件，表达了他每一次行动的合理性和合法性。甚至刘培强在和联合政府谈话时说“没有人类文明，什么是人类文明”，他切断通讯信号，拒绝他的牺牲救援帮助地球。

整部电影中关于MOSS的这一部分被解读为导演对电影《泰空漫游2001》的致敬。在这部1968年上映的科幻电影中，飞船泰空的人工智能叛变了，欺骗、隐瞒、伤害人类。

泰空漫游2001剧照

但在《流浪地球》中，MOSS的行为最后并没有被定性，这可能只是巧合，也可能是一个大谎言的开始。我们无法知道授权文件的细节，也无法判断AI是否像很多人猜测的那样，为了保护自身的生存，利用授权的漏洞和合法性欺骗了人类。

理性AI带来的非人化恐惧，与期待具有社会和道德能力的AI的梦想是相反的。MOSS在最终伤害之前说“让人类永远保持理性的确是一种奢侈”，但理性并不是人类唯一的追求。更多的希望、爱情等人为因素让我们的决定更有可能，我们也有一张没有绝对答案的试卷。

人机共生

——当爱情、生命、战争都自动化的时候，人类该如何自处

人类渴望借助先进的智能机器人达到前所未有的高度。迪拜街头的机器人警察，频繁飞行的无人机，特斯拉引发严重车祸的自动驾驶系统，以及韩国政府对家家户户即将拥有机器人的期待，这些都告诉我们，机器人产业已经发展到了一个重要的阶段，必将把人类带入一个人机共存的新机器时代。当机器人越来越受欢迎时，机器人带来的道德伦理问题也越来越突出。如何才能把握人文关怀的尺度？

这本书讨论了机器人学领域很多对机器人学在五个领域的发展有着最敏锐的洞察力、最冷静的分析和最深刻的思考的专家。这些想法只是我们最重要的教训之一。机器人时代的到来，这本书提供了一个冷静看待新机器人时代考虑社会行为的视角。这本书提出了关于机器人技术的前沿观点，包括这些技术能做什么，以及它们带来的伦理和监管问题。

这本书研究了各种类型的社交机器人，并考察了它们在家政、护理、交通、警察和军事中的社会重要性。鉴于这些领域的技术特点和社会预期，本书探索了机器人技术的各种可能性，也深入研究了机器人技术未来将带来的社会、道德和监管问题。

这本书对机器人的长期社会重要性给出了权威的观点。作者描述了与每个领域相关的政治、行政和监管结果，并强调了需要公众讨论或列入当今政治家和决策者议程的几个关键点。