日前，网易易盾CTO朱浩齐受邀出席2016移动视频生态论坛。在谈到直播行业的崛起和乱象时，作为一位在内容安全领域有着近十年经验的资深技术专家，朱浩齐认为内容问题直接牵涉到互联网产品的运营安全及用户体验，当下UGC类的直播产品仅靠人工审核已经力不从心，人工智能技术将在直播内容审核方面发挥越来越大的作用。
(网易易盾CTO朱浩齐做分享)
朱浩齐自2008年进入网易后，一直担任信息安全的工作，在同黑客、黑彩、微彩、互联网异物的“斗争”中积累了丰富的经验。据他介绍，当下网络垃圾内容的制造者已经不是单打独斗，而是形成了完整的灰色产业链：“一方面拥有完整的技术研发团队，所开发的平台可以自动形成相关内容，并规避传统的关键词检测，并且研发了一些专用的电子设备;另一方面，代IP、包月、包年等等，垃圾信息的上游产业链已经非常完善，垃圾短信、UGC评论、骚扰电话等等，几乎渗透到了互联网的每一个角落”。
这就意味着两个问题，一是互联网内容反垃圾的技术手段要与时俱进，二则要投入足够的资金和团队做好“斗争”的准备。
从1997年以邮箱起家到现在的人工智能阶段，网易在内容安全方面积累了一套完善的解决方案，涵盖了从业务要应用层的各个环节。朱浩齐介绍了网易深度学习技术在内容审核方面的两大应用：
其一，提高机器识别的准确率。传统基于算法的肤色、肢体、人脸等识别方式，大概能做到70%到80%的准确率，并不能区分内容是否违规。网易的技术团队通过深度学习技术，将图片拆分成像素再做组合，然后模仿人脑的思维方式把分层后的像素组合成真正的物体模型。得益于此，机器识别摆脱了靠模型和样本库识别的阶段，识别准确率可以达到99.8%。
其二，自主研发的反作弊技术。在电商、金融等很多互联网领域，用户行为数据识别分析显得尤为重要，如何甄别真实用户还是“刷红包”的机器人等等。网易部门构建了一套完善的反作弊机制，在安全层面也完成了诸多创举，比如更智能的验证码，在保证用户体验的同时又保证了良好的效果。
朱浩齐介绍说，对于很多企业来说，在信息安全领域投入过高并不理性，如何在低成本的情况下实现安全保障，成为互联网行业的一大需求。为此，行业内出现了一些第三方解决方案，网易也推出了网易易盾这一反垃圾云服务。
以直播行业最为常见的广告和鉴黄功能为例，网易易盾推出了专门做直播的解决方案，用户只需要把直播房间的URL提交，就可以自动进行检测。通过对直播画面的视频流实时检测+图片截帧检测进行判断分析，并将分析结果递交给用户处理。同时，对昵称、头像、弹幕等直播场景中的广告、色情、谩骂、灌水等同样可以实现智能识别处理。
同时朱浩齐表示，网易易盾还拥有成熟的大数据分析平台和庞大的特征资料库，以云服务的形式帮助客户减少在内容安全层面的人工成本，以“人工智能+人工审核”的形式实现对垃圾信息的反击。
据了解，凭借网易深厚的技术实力，网易易盾在移动视频生态论坛上荣获了“2016年互联网最具信赖产品奖”。目前网易易盾的客户已经涵盖直播、医疗、财经、社交产品等众多行业。在今年早些时候网易易盾牵头成立了国内首个“互联网内容安全联盟”，联合行业组织、互联网内容平台或提供商、及业界合作伙伴，为互联网企业提供方便、低成本的反垃圾解决方案，帮助提升产品内容质量和用户体验、降低产品运营风险和成本，同时致力于推动互联网内容产业的安全、绿色、健康等新风尚。
