机器人学三定律 阿西莫夫“机器人三定律”还现实吗？ 人类与机器到底谁怕谁

人和机器谁更强？这是科幻电影多年来讨论的话题。从《人工智能》到《她》和《机械纪》，都给我们提供了不同的思路。去年李世石输给AlphaGo后，作为智力游戏的最高象征，Go的失败让我们觉得有些害怕。神秘账号大师的出现再次印证了这一点。

短短7天，一个叫Master的神秘账号在几个在线围棋平台上连续击败了50多个世界围棋高手。目前中日韩最强选手柯洁、玉田山彦、朴正焕也未能幸免，甚至在比赛中没有与师父摔跤的可能。

此前，师父的真实身份引起了外界的热烈讨论。当时广泛猜测，Master是人工智能AlphaGo的“升级版”，去年击败李世石。

2016年12月30日凌晨，Twitter账号《科学新闻》发布了一条推文，内容是——alpha go“现在，我是主人”。1月4日晚，在某Go网站上，神秘大师终于宣布自己是AlphaGo。至此，一场轰动整个围棋界，引起大面积“围观”的事件终于告一段落。

不出所料，Master是AlphaGo的2.0版，它的出现无情地印证了人类智能在人工智能面前的最后一座堡垒已经彻底沦陷的事实。

面对咄咄逼人的人工智能，人们不得不思考一个问题。真的有临界点吗？到那个时候，人工智能将彻底碾压人类，把人类抛在身后...

上海交通大学科学史与科学文化研究所所长蒋说:“讨论临界点意味着我们想找到这个临界点，但事实上，虽然我们知道它在理论上存在，但我们不知道它在哪里。”

有人说，即使未来人工智能全面超越人类智能，我们至少可以在其底层强加一些限制性措施，比如著名科幻作家阿西莫夫提出的“机器人三定律”，其中第一条就是“机器人一定不能伤害人类”。

所以有人乐观的认为人工智能还有很多局限性。以Alpha Dog为例，它首先需要大量样本的训练，而人类在学习新事物时往往只需要很少的样本，其应用范围离“一般人工智能”还很远。不像人类，一个小学生可以学会下棋、画画等天赋。

至于人工智能，今年还有一个亮点。开发阿尔法狗的深度思维公司表示，下一个目标是著名的即时战略游戏《星际争霸》。与围棋不同的是，围棋双方都可以看到所有的棋子，这种游戏的玩家只能根据有限的视觉信息猜测对方的动作，因此决策更加复杂，对人工智能的挑战也更大。

这就带来了另一个问题，如果人工智能在这个游戏中击败了人类顶级玩家，是否应该“断开连接”阻止其前进，从而维护人类尊严。

不可忽视的是，人工智能领域吸引了大量的资金投入，这是由巨大的商业利益驱动的。未来人工智能在资本的威胁下会向何处发展，谁也说不清楚。有一天人工智能会威胁到人类的安全吗？上海交通大学的蒋教授是个悲观主义者。他认为，人工智能的威胁可以从短期、中期和长期三个层面来看。近期主要问题是会导致大规模失业和大规模军事化应用。中期来看，公众知道的最多，就是担心人工智能失控造反；但很多人并没有想到长远来看的终极威胁，因为人工智能“最终会消解人类存在的根本意义”。