手机伦理 手机应用：工程和商业伦理不能忘

最近出租车APP滴滴出行又出事了。继三个多月前姐姐郑州空遇害后，又有一名少女在乘车途中遇害。在暴风骤雨般的攻击下，滴滴出行宣布“在全国范围内下线，内部重新评估业务模式和产品逻辑”。

游乐设备业务最受批评的设计是其“印象标签”功能，该功能允许车主评估乘客，包括面值、着装和个性。搭便车的人可以在接单前看到这些评论，可以选择自己想搭载的乘客。滴滴和风车的相关负责人已经明确表示，风车是具有一定社会属性的产品。也可以从广告语言上看出来，比如“不仅顺风顺水，还顺眼”，“不怕贴标签，就怕你不预约”等等。一旦带有性暗示的社交场景直接从社交平台过渡到极其私密的汽车，其风险指数和不可控程度大大增加。

滴滴出行是一款很受欢迎的出租车APP。现在人们的手机里，除了出租车app，还有社交、新闻资讯、游戏等等。它们深深影响着人们生活的方方面面。人好像被各种应用牵着鼻子走，天天沉迷手机。

滴滴和风车长期以来一直受到用户的好评，直到发生恶性事件，人们才警觉到背后不合理的产品逻辑。其他应用呢？是否存在通过打道德与法律的“擦边球”来吸引用户的情况？如何看待目前人们过度使用手机的现象？手机应用提供商需要怎样的监管？记者就此进行了采访。

1手机应用提供商的社会责任需要认真对待

在很多人眼里，手机依赖完全是个人的事情，可以选择不看手机或者少看手机。可以理解，各种娱乐或游戏应用都是为了“被爱”而设计的。对于互联网公司来说，能够留住客户意味着成功。

但其实在智能手机和各种应用强大的“攻势”和设计下，人们放下手机并不是那么容易的。如今，许多应用似乎有一种人们无法阻挡的力量，这使得应用与人之间很难切断联系。人们知道自己在APP上花了很多精力，却很难摆脱它的奴役，甚至是自愿被奴役。这种对手机的依赖导致行为成瘾，导致人们注意力的滥用，使人们的实际交流和体验萎缩。

北京理工大学人文社会科学学院教授范春平认为，智能手机作为最前沿的人类工具之一，不仅能延伸人的肢体，还能逐渐延伸人的心智。它们与一切信息工具一起，重构人类的主体间性和交往方式，培养新的行为，包括大家所担心的“吸毒成瘾消费”。“在这种背景下，手机应用除了个人调整行为、自主选择外，还应遵守工程伦理和商业伦理，承担相应的社会责任。”范春平说。

“手机应用的社会责任基于其相对于个人用户的‘不对称优势’。”上海交通大学科学史博士陈子夫说，比如新闻信息APP可以利用大数据来“刻画”个体用户，不断向用户推送感兴趣的信息；出租车APP可以利用女性的性别红利来拓展所谓的社交业务，吸引用户；游戏APP通过大数据分析深入了解用户心理，通过好奇、暴力等内容设计绑架自制力差的青少年和成年人。

“因为这些互联网公司拥有更强的资源和能力，相对于消费者具有不对称的优势，所以他们也应该承担相应的企业伦理责任。”陈子夫认为，企业应对其经营行为的社会后果负责。企业的经营行为导致各种不良社会后果被人们认可的，其行为应当受到道德谴责，违反公序良俗和法律底线的，应当坚决予以处罚。

2不能为了盈利而失去技术开发的初心

人们对手机的过度沉迷导致了一系列的个人和社会问题，如大脑疲劳、沟通和思维能力下降、道路安全、焦虑等。“这一切都是表象，其深层逻辑在于通过智能技术重建人类社会关系和行为模式。这种重建带来了深刻的危机。令人遗憾和危险的是，人们对这场危机的关注和反应远远不够。更多的人只是盯着商机，这让问题更加复杂。”范春平说。

湖南师范大学人工智能道德决策研究所研究员孙宝学指出，目前我们正在加速进入信息社会，基于效率和效用的技术理性比基于秩序和规范的价值理性受到了更多的关注。在法律法规尚不成熟的情况下，技术往往呈现多维度、发散性的发展趋势。

孙宝学引用，一些企业为了追求利润，往往在技术开发前期的“政策真相空”阶段尝试各种技术应用的可能性，打“擦边球”更为常见；激烈的商业竞争使一些企业铤而走险，走在道德和法律的边缘；鼓励技术创新的宏观政策也允许个别企业以“法律不禁止”为不符合要求的“技术创新”辩护，有时甚至援引技术的价值中立来为自己开脱。

“随着问题的不断暴露，一些不符合社会伦理和法律制度要求的行为会被社会或社会集体限制甚至禁止。”孙宝学坚信，价值理性的主导作用在未来会越来越受到重视。棱镜门、Facebook数据泄露等事件，都反映了这方面公众意识的觉醒。

新技术不是“洪水猛兽”，依赖并不可怕。从人类技术发展的历史来看，人们在生产和生活中依次形成了对车轮、铁犁、蒸汽机、内燃机、汽车、电力和网络的强烈依赖。在当时的历史时期，这些新事物的出现也遇到了一些人的反对或抵制，但最终还是全面深入地嵌入到社会生活中。在某种程度上，文明的进步是建立在对先进技术的依赖之上的。问题的关键在于，这种技术能否被正确使用，能否朝着人类最终福祉的方向发展。

陈子夫表示，从目前手机应用技术来看，为了追求效率和效益，忽视技术发展的初衷才是最警惕的。传统文化中的价值判断和定位未能很好地引导技术的发展方向。

“人类观察和改造世界的能力在不断增强。如果工业革命造成的环境污染的后果在某种程度上是由于无知造成的，那么当代社会对技术后果的预见能力更强，可以建立有效的监控和矫正。这种机制就像青藏铁路修建时对生态的积极保护。”陈子夫认为，谨慎开发和应用技术是促进人类社会发展和幸福的必要途径。

3如何引导手机应用提供商“做正确的事”

据统计，手机游戏的用户主要集中在青少年。一个做手机游戏的应用提供商曾经说过，他赚钱很容易。他一天跑几千万，但是他觉得愧疚。因为他们每天做的就是利用大数据分析孩子玩游戏的行为特征，从而吸引并留住心智尚未成熟的年轻玩家。他考虑与大脑开发公司合作，帮助孩子们提高游戏中的脑力。但是经过详细讨论，发现如果他合作的话，是无法和其他游戏公司竞争的，而且成本太高，所以放弃了。

这个应用提供商的情况就是移动应用领域劣币驱逐良币现象的缩影。在激烈的互联网业务竞争中，谈论“感情”似乎是一种奢侈。成千上万的互联网公司每天都在你死我活的斗争中生存。

“在责任不清的情况下，如果违法成本低，依靠市场主体提高主体意识和自律性往往是无效的。”孙宝学认为，一个安全的方法应该是将价值理性置于技术理性之上，这需要完善社会治理体系和信用体系。只有把这种外部约束固化为社会系统的一部分，才能尊重用户，使用积极的价值，而不是沦为空空谈。他认为，可以成立伦理算法审查委员会，对市场上的APP进行规范，使其在设计上符合伦理规范。

樊春平建议可以利用媒体平台讨论手机应用开发的算法规则、手机应用提供商的社会责任和职业道德等。，从而启迪大众，提高人们的媒介素养，用伦理共识引导和约束互联网产业的发展。

谁来塑造智能社会中“拇指一代”的完美人格？工业社会知识流通不畅，创新不足，社会发展不平衡的问题谁来解决？互联网公司，包括手机应用，责无旁贷。只有当技术与人文价值的追求相统一，关怀和社会责任才是人们所期待的。

陈子夫指出，在这方面，西方发达国家的产业巨头和我国一些负责任的互联网企业都有成功的例子。比如谷歌的信条从“不作恶”变成了“做正确的事”；微信不仅改善了人们的交流方式，还创造了一个相对干净的环境。他认为不是做不到，而是商业利益驱使不愿意去做。担心行业自律和外部控制会影响行业发展不足以成为不作为的借口。

陈子夫认为，平台企业具有自然垄断优势，主要可以通过行业自律、外部立法、用户评价等方式进行规制。必要时，企业需要出具相关的伦理责任报告，以表明自己没有滥用这一优势。就像公交、铁路、供电等行业一样，它们的产业形态有一定的垄断性，但前提是外部立法约束。)而自我证明并没有滥用这个优势。

“政府、学术界、非政府组织等。也应该采取行动。比如大学加强工程师的伦理教育；政府为信息生产内容和APP的发展建立有效的价值导向机制；通过对话、协商、公约、行政法规、用户投诉曝光、APP排名机制提升移动互联网治理水平。”陈子夫说。