云计算

在线直播平台色情事件频出,如何使用技术手段提高鉴黄效率呢?


005Ac5iNgw1f11pb0uku6g30be095kjm

一夜之间,在线直播平台如雨后春笋,冒出了上百家。存在即合理,我们不去考察观看直播的网民都是什么目的,反正直播领域的创业者就是想站在创业风口做出一个独角兽企业。

这些直播平台创始人面对最大的挑战不是融资困难,也不是缺主播,而是在于运营监管上容易把控不住主播的直播内容尺度。所以,直播平台最消耗人力的地方在于审查大大小小的直播间。

审查有多难?

4月29日国家扫黄打非网公布了一则信息:全国“扫黄打非”办等多部门,齐力开展网络直播平台涉“黄”专项整治,前段时间签署的互联网直播公约,主要是针对电脑平台的主播们,现在查处的则是手机类直播平台和软件。其中,“都秀”“在直播”“新浪show”等平台有多个主播表演淫秽色情内容;“映客”向注册用户提供的视听节目中,含有淫秽色情信息内容;“小咖秀”客户端、“秒拍”网站存在传播淫秽色情信息的情况。最具代表性的是今年1月的“直播造人”事件:一名95后男生深夜在武汉“斗鱼”平台直播性行为,视频传出后,引起极大争议。

对监管层来说,这是一个全新的商业领域。

北京文化市场行政执法总队执法四队副队长秦永明也发现,直播违规的时间集中在18时至次日凌晨1时,但并不确定,执法人员要7×24小时值班,“某个主播可能前10个小时没事儿,第11个小时就违规了”。

全国“扫黄打非”办案件督办处副处长李泽泓说:由于网络直播的特点正是与观众实时互动,事前审核并不容易。很难采取延时播出等办法对有害信息进行过滤。直播平台是网络视频行业在新媒体时代的自主创新和有益尝试,整个行业总体上迅速蓬勃发展,但任何新生事物都具有两面性,“网络直播给观众带来愉悦和满足的同时,也不可避免地产生了一些负面效应”。

结合日常监测经验,执法人员总结了重点观察的4类直播间:

一是主播不露脸,这样的主播通常只将身体在镜头前扭来扭去,“没准播着播着就脱了”;

二是经常有挑逗、关于性言论的主播;

三是衣着暴露或者怪异的平台;

最后一类关注重点是热门主播,“或者直播间流量一瞬间比较大的”。

006fl9Dwjw1f3ic3pd3n5g30dw09kkhw

技术能提高鉴黄审核效率?

为此,我们采访了国内知名云计算公司 UCloud,他们表示,UCloud 已经上线了云直播 ULive 鉴黄服务。下面是 UCloud 技术同学的解答:

UCloud自动鉴黄服务采用人工智能领域最新算法,针对现在网络上日益复杂的内容进行高效率自动智能识别,包括色情/暴恐/时政敏感的图片和视频识别,精确度可达99.5%,有效节省超过90%的人工复审工作。

用户可通过在直播控制台中点击“自动鉴黄”进入UCloud自动鉴黄服务开通页面。在鉴黄控制台中,用户可根据实际业务需要对指定的直播加速域名选择开启或关闭自动鉴黄功能,UCloud自动鉴黄后台将依据用户的选择自动进行相关配置。在鉴黄控制台上,UCloud将为用户提供最新的智能鉴黄结果。用户可浏览涉嫌违规的直播内容,待人工审核确定之后,用户可在监控台上对该直播流进行禁播操作。同时,用户可通过鉴黄信息统计页面查询指定时间内的鉴黄服务运行信息,UCloud将为用户提供自动鉴黄信息统计报表。

使用指南

进入自动鉴黄服务开启页面

6

选择需要开启自动鉴黄服务的直播域名

7

系统识别出涉嫌违规内容时将在控制台中显示,用户可根据内容的实际情况进行“禁播”或“忽略操作”

8

在鉴黄服务管理页面可以对指定的直播域名进行鉴黄服务的开启和关闭操作”

9

看来人工智能确实能不少人力成本啊,直播领域的创业者快快尝试下吧!

与UCloud技术小伙伴交朋友请加微信:Smithliu验证消息:加速会读者