打码网站 国内最大打码网站用人工智能窃取个人信息 一起网络黑产案拷问AI犯罪责任边界

资料图。

一个网络黑产案拷问AI刑事责任边界

在黑产链上，黑客利用网站漏洞进行入侵和“拖库”，在网站后台批量非法获取用户注册数据；当人力无法逐一识别用户账号和密码信息时，提供特殊服务的编码平台应运而生——提供AI技术帮助，一秒钟就能完成1000多个编码，识别验证码的成功率超过83%。AI编码犯罪在刑事实体法中应如何定性

法治周末记者邱飞

网络支付，AI编码，“刑法一通”...

对于腾讯网络安全与犯罪研究基地高级研究员肖伟来说，这些在公众眼中毫无关联的话，是他参与的一个网络黑灰制作案的关键词。

“你根本想象不到，在犯罪嫌疑人的宿舍里，除了用来犯罪的手机和电脑，还有《刑法一传》等法律书籍，还有各种关于人工智能的书籍。”在由中国犯罪学学会、中国人民大学刑法科学研究中心、腾讯网络安全与犯罪研究基地联合主办的“2017互联网刑事法律制度高峰论坛”上，肖伟以公安部监管的“快速回答AI编码案”为例，用人工智能讲述了犯罪分子非法活动的全过程。

人工智能每秒至少编码1000次

据公开报道，今年2月，浙江绍兴警方接到一条普通的网上支付诈骗线索，经调查，摧毁了一条集图书馆黑客、公民信息贩卖、网络诈骗、非法信息推广为一体的互联网黑产业链，截获10多亿组公民个人信息，查获赃款600多万元。

“在这个黑产链中，黑客利用网站漏洞入侵‘拖库’，在网站后台批量非法获取用户注册数据；然后，对数据进行“清洗”、排序和分类，消除重复和无效的数据；然后尝试‘撞库’，登录其他网站进一步获取有效信息。但是，由于大多数网站通常要求用户在注册和登录时输入验证码，黑客无法逐个识别用户的账户和密码信息，并提供专门的服务编码平台。它就产生了。”肖伟表示，“快速回答”案涉及的编码平台是国内最大的编码平台，为识别和破解字符型验证码提供AI技术帮助，一秒钟可完成1000多个验证码，验证码识别成功率超过83%。

绍兴市公安机关经调查发现，犯罪嫌疑人李、杨从2016年初至案发，搭建了一个“快速接听”平台，用于连接老板、技术人员、软件制作人员，制作人员为张等八人。另一批人，即张、等10人，担任“秘密工作者”。他们利用平台及其对接保密软件，自动匹配大量账号和密码，突破互联网公司验证码的安全防护策略，获取大量网站后台数据和公民个人信息。“涉密人员”批量登陆数据库后，可以获得大量公民个人信息数据，包括QQ账号和密码、QQ邮箱和密码、QQ好友相关信息等。这些可以分类并出售给多个下游欺诈集团。

诈骗团伙中的任某、庞某等86人，在购买上述公民个人信息数据后，通过冒充QQ好友、让人支付话费、冒充招聘人员诈骗、扫描二维码、冒充女大学生骗取微信红包、设立虚假网上抽奖平台等方式，骗取20多个省、自治区、直辖市受害者财物，金额达2000多万元。

法治周末记者获悉，目前，浙江省绍兴市越城区检察院已批准逮捕涉嫌提供入侵、非法控制计算机信息系统程序和工具、非法获取计算机信息系统数据、非法入侵计算机信息系统、侵犯公民个人信息和欺诈的涉案嫌疑人。

“在刑事实体法上如何定性AI编码犯罪，可以从AI编码犯罪与下游犯罪的关系来认定。如果有证据证明AI编码行为人与下游犯罪行为人存在故意接触，则AI编码行为人是下游犯罪的帮助者，可以按照共犯理论处理。如果AI编码行为人单纯想通过识别验证码获利，且与下游犯罪没有明显的犯罪联系，则可以非法获取计算机信息系统数据犯罪或帮助信息网络犯罪活动犯罪评估。”北京大学法学院教授王新在论坛上分析指出。

然而，在肖伟看来，随着人工智能的发展，证明共犯的故意联系越来越困难:“许多黑客会以其他形式窃取用户数据信息，并将其发布在免费论坛等平台上供人们下载。表面上和下载器根本没有任何交流。在这种情况下，只能根据双方的后续行为来判断是否有有趣的接触。”

只是工具和手段

记者注意到，当“快速回答AI编码案”被媒体曝光时，有一种观点认为，此案意味着人工智能犯罪时代已经到来。

那么，人工智能可以成为犯罪主体吗？

中国人民大学法学院教授陈卫东认为，在上述情况下，人工智能只是协助犯罪嫌疑人实施犯罪的工具和手段，犯罪主体仍然是人而不是机器。“机器造成的问题，要追究机器设备开发者和操作者的责任”。

根据人工智能社会信息平台新智元发布的最新《中国人工智能产业发展报告》，目前人类正处于人工智能的智障阶段，能够生产出真正能够推理和解决问题的智能机器，但这些机器并不真正具有智能，也不会有自我意识。

“目前，人工智能的‘思维’受到一定的算法限制，但人工智能的适用性已经变得非常明显。现代社会不能在享受技术红利的同时放弃对技术风险的思考。”中南财经政法大学刑事司法学院教授郭泽强指出，法律对人工智能没有相关的特别法或特别规定，难以正确评价人工智能的“违法”和“犯罪”行为，也使人工智能的部分利益相关者承担了不应有的法律责任，与法律人文主义不符。

未来的人工智能可能成为犯罪主体

郭泽强认为，未来人工智能将进一步自治化、智能化、拟人化，也就是说人工智能自由意志生成的可能性是可以预期的，人工智能成为犯罪主体的可能性相当大。

今年10月，沙特阿拉伯授予名为索菲亚的机器人公民身份，并声称是世界上第一个授予机器人公民身份的国家。

“沙特阿拉伯授予机器人公民身份与其法律主体资格并不相同，但具有一定的象征意义。如果赋予机器人法人资格，机器人人才可能成为犯罪主体。”西北政法大学刑法学院教授陈景春认为，什么时候进入强人工智能还是未知数。机器人的“主观意图”和“行为手段”受人类操作控制，自身的“主观意识”不足以独立划分机器人的刑事责任体系。

王新认为，关于人工智能是否可以成为犯罪主体的讨论不必仓促进行，而应保持传统，现有的法律规范可以是定性的。

此外，陈卫东指出，人工智能技术不能不受限制地应用于司法，在应用时需要尊重司法规则。

“如果刑事诉讼程序可以通过‘一键启动’来完成，那么调查将直接进行审判。这是违反审判中心制的以调查为中心的制度改革的翻版。”陈卫东补充道。

负责编辑:王硕