低调的赶路者陈小平:“互联网没有焦虑 干传统企业才有焦虑” | 探营白云机场T2航站楼 五一“云之道”将成岭南第一美景 | 支持双流双显,华望视频会议新品X6即将上市 | 监管金箍当头 内容安全需要火眼“金睛” | 百度上线英语语音输入功能识别准确率高得惊人 | 卡巴斯基实验室:网络安全责任靠大家 | 数据泄露泛滥成灾 金山云为企业数据安全保驾护航 | 居易智能:唤醒智慧城市,用心维护智能小区 | 一站式维权 国内首个知识产权保护APP“企卫”广州上线 | 旷视科技Face++印奇入选“2017知识产权领域最具影响力人物” |
当前位置: 新闻>滚动>
字号:
 

监管金箍当头 内容安全需要火眼“金睛”

发布时间:2018-04-26 10:42:41  |  来源:天极网  |  作者:   |  责任编辑:科学频道

近期,短视频、直播行业从“集万千宠爱于一身”到深陷舆论泥潭,值得深思。回顾当前中国短视频发展现状,2017年,用户规模已超过2.42亿,日活跃用户数量超过6300万人,每日使用次数达到7亿次。与短视频遥相呼应的视频直播行业在经历一番野蛮生长之后,到2017年用户规模达到4.22亿,年增长率依然高达到22.6%,行业热度空前。

井喷式的行业发展,使得各方监管变得心余力绌。违规内容成了平台审核之痛,发展之殇。在此背景下,主管部门重拳出击,多个短视频平台遭约谈、整改、下架。短视频、直播平台持有对违规内容绝不姑息的坚定立场以及从严处理的决心,在投入庞大资金的同时,并已开始大幅度扩大审核团队,加大人工审核力度进行紧急应对。

规范传播内容、保护未成年人健康成长,弘扬正确的社会主义核心价值观,各视频平台和关联企业都有着不可推卸的责任和义务。然而,由于视频量巨大,人工审核力有不逮,在加大人工审核力度之外,金山云金睛——一站式AI内容安全服务为视频平台提供了全新的解决方案。

“金睛”上岗 配合人工大幅提高审核效率

金山云AI内容安全监管平台——“金睛”,早在2016年直播、短视频方兴未艾之际,紧随《互联网直播服务管理规定》同步上线,致力于为平台方提供一站式AI内容安全服务。“金睛”见证了短视频、直播行业的整个兴盛过程,同时夯实了自身基础。

说明: 250028628798397700

当前,每天新增的短视频、直播数量不低于5000万条,不良“UP主”、主播使出“十八般武艺”钻监管漏洞,常出现图像正常而语音违规、违规行为持续时间短、打规则擦边球等问题,都会加大审核难度。巨大的审核工作依靠现有的“堆人”战术已经很难从当下的困局中突围,引入基于深度学习、图像识别、云技术的AI内容安全监管能力,提升审核效率和精准度,变得尤为重要。对比发现,采用传统的人工审核方式,可做到3万张/人/天,准确率约80%,而金山云“金睛”可以做到全天24小时不限量识别,1s之内响应,准确率高达99%以上,可大大提升效率。

单一依靠人工审核来保持网络环境的洁净安全,成本之高和耗时耗力之大显然无法应对飞速增长的数据量。面对复杂的网络环境,“金睛”与人工审核相结合的方式,是金山云提供给行业“破局”最行之有效的解决方案。

目前,金山云为90%的互联网、媒体及广电等行业头部客户提供服务,业务覆盖直播、短视频、长视频、OTT等多种视频业态。从最早入局视频、直播行业,经过多年积累,目前拥有10亿精标数据,夯实了金山云“金睛”广泛应用的基础。“金睛”基于精准AI算法模型,支持涉黄、涉恐、涉政、不良广告等多种违规场景的内容审核,同时提供直播实时AI内容安全监管服务、短视频AI安全审核解决方案,从而有效净化网络环境。基于深厚的大数据沉淀,金山云“金睛”对违规场景进行精细化标签,目前分别支持200+暴恐类标签识别和1000+敏感人物识别,鉴黄识别方面准确率超过99%。

金山云“金睛”低俗场景判断结果与其他平台对比

“金睛”严审违规与辅助平台深度运营同举

众多直播、短视频平台都先后选择使用金山云“金睛”来进行内容安全监管服务,例如龙珠直播。龙珠直播是国内最全的赛事直播,最丰富的游戏视频互动平台。龙珠直播借助金山云“金睛”平台领先的内容监管能力,确保平台上不出现淫秽色情、凶杀暴力等有害信息,不传播泛娱乐化、低俗、恶搞等不良内容。

区别于传统的SDK、API方式的技术应用,龙珠直播将实时的直播流同步共享在金山云“金睛”平台上,“金睛”高效对直播流进行抽帧解析,从审核、响应、复审到违规结果传输给龙珠运营人员,全程30s之内高效执行并同步发送给龙珠运营人员进行跟进。另外,金睛根据龙珠平台上主播直播时间、行为、内容的抓取进行数据沉淀,利于运营方对主播的管理,对有潜在违规倾向的主播进行监控。

监管同时,关注用户的视频消费体验也是重点,监管做到不“死”管,才是真正的维护消费者的切身权益。例如维护体赛事直播的健康发展,“金睛”为龙珠直播上球类内容进行识别,杜绝非版权赛事视频在平台的恶性传播。对于游戏玩家,金睛针对平台上热门的“吃鸡游戏”进行了定制化的内容识别,精准识别主播游戏数据,辅助直播平台进行深度运营,增加电子竞技的观赏性,实现用户体验和主流价值观正确引导的统一。

文章来源:天极网
分享到: