elsagate “艾莎门”调查：视频审核主要靠人又是KPI惹祸？

去年，外国视频网站“你管”上出现了大量充满暴力、色情和低级笑话的视频，这些视频是用孩子们最喜欢的动画角色制作的。由于《冰雪奇缘》中的艾莎公主是这类视频中使用频率最高的角色，因此此事件被称为“艾尔莎门”。最近有家长在微博上反映，这些在海外被禁的视频，悄悄流入国内市场，优酷、爱奇艺、腾讯、搜狐等视频网站全部被招。南方记者的调查显示，虽然国内各大视频网站都做出了紧急处理。但这不仅仅是一次意外的清理。视频网站如何审核监督UGC(用户创作内容)？这种视频怎么能当众通过审核？艾传媒咨询集团CEO张毅在接受记者采访时表示，UGC内容是目前的一大趋势，对这种模式的监管和审计应该越来越受到重视。

审核主要靠手工？

上周，微博网友“肉恶魔”呼吁网友关注并在微博上举报问题视频。事件引起关注后，1月20日，腾讯、爱奇艺、优酷等。发布紧急声明，所有这些声明都表明他们将采取措施。主要是通过销户、屏蔽搜索关键词、下架视频。昨天上午，南方记者搜索了几家主流视频网站，发现大部分关键词搜索都被屏蔽了。

不过南方记者注意到微博网友“汉斯憨憨”在优酷声明微博下评论:查查有没有人被曝光，没人被曝光就发视频...这位网友的评论其实指出了这一事件背后的根本问题——视频网站对UGC内容的审查机制是否存在漏洞？大型问题视频是如何通过审核的？

南方记者了解到，目前视频网站主要依靠关键词筛选、视频画框、人工审核等手段来审核UGC内容。一位知情人士告诉南方记者，部分视频审核依靠机器筛选，主要借助视频中的关键词和图像识别。机器审计视频是基于深度学习图像识别云，它实际上是对视频进行截图，机器审计每个截图的安全性。但是无论是3秒还是5秒的剪辑，松紧都是视频网站自己控制的。机器审计视频的原理是先建立模型，再导入海量数据建立数据库，让多台机器同时学习深度样本，然后标记不能通过的图像类型，再对这些样本进行碾压旋转，加上“噪声”，提高机器识别能力。对于失败的视频，机器审核会给出两种结果:失败的，准确率几乎在99.5%以上；那些仅供参考，准确率在95%到97%之间，这意味着再次需要人工审核。机器基本可以筛选99%的视频，只需要再手工使用1%。

“在实践中，上述过程是一种理想状态。更多上传的视频其实主要靠人工审核，机器只是辅助。”一家视频网站的相关负责人向杜南透露，例如，机器检测到流量的变化，点击量和评论量等数据在短期内飙升。有了这个辅助手段，审核员会对视频进行两次审核，如果涉及暴力，会进行处理；如果视频涉及色情暴力，但数据没有飙升，那就不好找了。“视频总量太大，只能手动采样。没有办法进行人口普查。发现问题其实是概率事件。”

KPI考核压力？

这是不是意味着目前没有好的办法监管视频上传，主要靠人力审核？对于以上问题，目前爱奇艺、优酷土豆、搜狐等。不愿详细解释审计和监督的细节。

但也有不少网友抱怨上传视频在线审核时间过长。南方记者之前的实验也发现，白天上班时间上传一个5分钟的视频，大概半小时到一小时就可以批下来。但是半夜上传一个5分钟的视频，要等3个小时以上才能审批。对此，业内人士表示，夜间接受审计的人很少，会比较慢。

上述视频问题出现后，有网友建议视频网站加强算法，采用更好的技术手段来解决这个问题。但也有网友指出，有些上传的视频其实反映了非常隐晦的价值观，目前的AI技术根本无法筛选出来。比如表面上是教孩子DIY橡皮泥的视频，中间有明显类似内脏的东西，橡皮泥颜色类似器官。昨天中午《南方记者》还看到了比这位网友在优酷描述的更晦涩的含有暴力暗示的视频内容。表面上是一个视频制作人和芭比娃娃、小猪佩吉一家玩过家家游戏，但中间会有一张猪头被“不经意”扭断的画面。

一位负责某内容平台视频内容审核的业内人士向《南方记者》透露，“如果平台上的视频不够，用户留存率不高，这些问题视频在人工审核时会有意识地增加。”比如今天网上有5000个视频。根据KPI评估，为了轰动人气和点击量，可以选择规模大、影响大的视频上线。这个比例每天都在调整。至于影响内容的规模，“就看审核负责人了。很多人不看具体内容，只看视频的栏目标签。这些列标签都是人加的。色情和恶搞的点击率明显高于高质量视频。”这位人士表示，虽然审核人员与视频人气的KPI评估没有直接联系，但KPI评估仍然会影响选择在线视频的倾向。

至于机器审核的截图和动画，“这些可以根据需要手动操作和规避。”上述人士表示，这些其实都是行业潜规则。

使用实名认证来防止？

视频网站如何在问题视频被“销户、屏蔽搜索关键词、下架视频”净化后，防止此类内容和事件再次发生？目前视频网站的审核监管还存在哪些不足，未来如何提高审核水平？

与目前的审查方式相比，业内认为实名制的推广可以减少对用户权益的损害。2017年6月1日正式实施的《中华人民共和国网络安全法》要求“网络经营者向用户提供信息发布、即时通讯等服务，在与用户签订协议或者确认提供服务时，应当要求用户提供真实的身份信息。如果用户不提供真实身份信息，网络运营商不得为其提供相关服务。”去年7月，Bilibili (bilibili)宣布将采用实名制。上传者(视频创作者或上传者)上传视频内容(包括添加、编辑、更改来源等)必须通过实名验证。).昨天，优酷土豆告诉杜南，它没有收到任何关于实名制的消息。搜狐和爱奇艺对此没有回应。