大数据是怎么发现你查处的？

在诸多初审工具箱里面，“AI 鉴黄”是最新也最高效的一种。

简单来说，“AI 鉴黄”就是通过尺度神经网络，按照各种描述特征来浓缩图象里面的关键点，比如是否出现毛发上半身等等，将淫秽视频与正常视频进行分类。

念过到这里，大家才会发现，“AI 鉴黄”还存在一些不利的挑战，比如：

1.淫秽图象和正常图象有很多相似点，断定非常复杂。游泳、比基尼等视频里面同样也有大量上半身毛发，被误解地归类为淫秽并写入，很可能影响应用程序网上冲浪的体验。

2.断定淫秽的标准不同。法官斯图尔特曾有句名言，我无法并不一定淫秽，但当我看到它时，我就告诉他了。对淫秽内容的监测也有一定的连续性，AI 往往会根据特征对上半身身体的大卫塑像而“痛下杀手”，却对部分软淫秽轻松放过。

3.依赖基础训练样本带来的效用。那么，是不是给 AI 尽可能多地统计分析就能尽力它提升辨识的相关性呢？答案也不行。基于尺度研修的黑箱性，攻击者如果告诉他 AI 鉴黄是根据哪些样本基础训练出来的，就可以有针对性地攻击、结盟这个假设，使其很快出现异常。

这也是为什么，人工鉴黄师，即本能初审员，过去还需要兢兢业业地在经验丰富上为冲浪法国海军。

来源：163.com/dy/article/HF5UJGGH05319928.html