背景:

  互联网内容数量井喷式增长,传播内容容易出现各类良莠不齐;主要表现在,一是反对宪法所确定的基本原则的;二是危害国家安全,泄露国家秘密,颠覆国家政权,破坏国家统一的;三是损害国家荣誉和利益的;四是歪曲、丑化、亵渎、否定英雄烈士事迹和精神,以侮辱、诽谤或者其他方式侵害英雄烈士的姓名、肖像、名誉、荣誉的;五是宣扬恐怖主义、极端主义或者煽动实施恐怖活动、极端主义活动的;六是煽动民族仇恨、民族歧视,破坏民族团结的;七是破坏国家宗教政策,宣扬邪教和封建迷信的;八是散布谣言,扰乱经济秩序和社会秩序的;九是散布淫秽、色情、赌博、暴力、凶杀、恐怖或者教唆犯罪的;十是侮辱或者诽谤他人,侵害他人名誉、隐私和其他合法权益的十一是针对近年来多发的艺人违法、失德等事件,严重污染社会风气。如果放任以上有害信息泛滥,势必会对网络环境造成恶劣影响,影响广大网民的正常上网,尤其影响广大青少年网民的身心健康,影响社会安定团结和长治久安。

  党中央多次对内容生态治理做出重要指示,利用网络鼓吹推翻国家政权,煽动宗教极端主义,宣扬民族分裂思想,教唆暴力恐怖活动等等,这样的行为要坚决制止和打击,决不能任其大行其道。 

“人民清锋”内容风控:

   “人民清锋”内容风控是基于AI智能识别算法技术,为政府等企事业单位互联网内容生产企业和互联网内容服务企业提供一站式的内容信息安全服务,包括图像、文本、音视频、直播等内容的检测;依托海量样本数据,可精准高效的自动检测识别涉政、涉黄、商业广告、涉黑、涉暴等敏感内容。对用户上传的图片、文字、音视频进行内容检测,帮助客户降低业务违规风险。

内容风控业务能力:

 基础能力:图像、文本、音视频、直播。

 增益服务:   调度平台、舆情监测服务、智能审核系统。

 解决方案:文档、网站、直播、音视频、在线检测解决方案 。

应用场景:

  视频直播:在互动直播场景中,成千上万个房间并发直播,人工审核直播内容几乎不可能。基于图像检测能力,可对所有房间内容实时监控,识别可疑房间并进行预警。

  在线商城:智能审核商家/用户上传图像,高效识别并预警不合规图片,防止涉黄、涉暴、政治敏感类图像发布,降低人工审核成本和业务违规风险。

  网站论坛:不合规图片的识别和处理是用户原创内容(UGC)类网站的重点工作,基于内容审核,可以识别并预警用户上传的不合规图片,帮助客户快速定位处理,降低业务违规风险。

  媒资内容审核:自动识别媒资中可能存在的涉政、违禁品等信息,避免已发布的文章存在违规风险。

系统架构:

 文本检测-技术架构:

 图片检测-技术架构:

 视频检测-技术架构:


我们优势:

  1、在“人民日报”技术平台上建立的“内容风控”内核。

  2、响应速度快:视频直播响应速度和单张图像识别速度小于0.1秒。

  3、快速迭代:持续快速的迭代文本词库,及时识别新型不合规内容。

  4、海量词库:内置海量词库,支持各种匹配规则。

  5、规则灵活定制:接受灵活的规则定制,支持自定义关键词。

服务行业:

  新闻媒体行业

  通信运营行业

  直播短视频行业

  金融证劵行业

  电商行业

相关案例