前言

随着互联网的飞速发展，新闻客户端、门户网站已成为政府、媒体、高校等机构的宣传窗口，是民众获取信息的重要来源，特别是近几年信息量迎来爆发式增长，如果出现信息审核不严，亦或是网页被黑客攻击篡改，从而导致发布的内容出现涉及“政治敏感”“黄赌毒暴恐”等不良信息，常常会引发较大的影响，严重时甚至会造成政治事件。2019年，国家网信办关闭、取消备案网站4644家，内容审核的必要性和紧迫性日益凸显，如何使信息网络系统内容安全并及时发现隐患，已成为政府、媒体等机构信息化健康发展所要考虑的重要事情之一。

案例背景及需求

案例背景：

湖南日报社旗下拥有新湖南、华声在线等10家新闻门户网站和10家纸媒、100多个移动互联网媒体（微博、微信、客户端），其承建的新湖南云省级技术平台也已入驻69个县级融媒体中心，受众覆盖全省7000万用户，日均发稿总量约3万条，图文、视频等历史稿件数据总量达上亿条。

案例需求：

由于内容之多，使得内容审核工作相当繁重，非常容易出错，其中还包括大量风险更高的UGC内容（用户生成内容），传统人工+关键词审核已经无法满足媒体网络安全发展需要，当前也无高效手段对历史稿件按动态变化的新审核标准重复审核。

综上，建设新一代基于深度学习的“湖南日报社内容审核、巡查系统”，实现对报社稿件内容的在线审核与全程跟踪管理，确保涉政敏感内容正确，及时预防拦截“黄赌毒暴恐”内容迫在眉睫。

建设方案

通过建设内容自动检测系统，使湖南日报各媒资内容在其生命周期内按照相关工作要求实现发布前有审核、发布时有监测和拦截、发布后可巡查和清理。同时，配合硬件化的流量采集、识别和还原，实现内容检测云服务与现有系统和网络的无缝快速对接，并平台中运行的流量进行有效的监控，以及时发现平台中的异常流量，从而有效阻断恶意流量对平台的恶意行为。

01 文本检测

可检测新闻稿件、评论、聊天中的敏感内容，包括涉政、色情、辱骂、广告等内容检测。

02  图片检测

能支持OCR、人脸识别、场景识别、logo检测，包括涉政恐暴、色情、广告等内容检测。

03 音频检测

能对不同语种进行识别，支持人声、性别、年龄识别，包括转文本涉政恐暴、特殊波段涉黄内容等内容检测。

04 视频检测

能实现以图搜视频，视频敏感内容提取等，通过视频多方面信息与截帧切片进行内容检测。

05 检测策略可持续优化

支持围绕检测目标，不断研究和优化策略，实现细粒度、精准的内容检测服务。

06 检测状态实时可视化展示

系统内容检测过程全程可视，提供检测展示动态界面，可按当天、本周、本月等要求查看检测情况。系统用户可观看正在检测的目标文件、结果状态，花费时间等指标。

07 网络流量分析与识别

实现面向新闻平台网络流量的识别和分析，从而完成对平台流量的有效监控，以及时发现平台中的异常流量。

写在最后

智能化内容检测平台能辅助传统的人工审核，极大的降低人力成本、减少人为视觉疲劳而导致的失误。湖南文盾信息技术有限公司专注于内容安全与人工智能技术，提供内容检测与辅助审核、敏感内容过滤拦截、内容安全稽查与预警等系列服务，为实现文化传媒守正创新贡献自己的力量。