您当前的位置 : 前沿 > 时政 > 法与理

AI鉴黄师走红 净化网络环境意义重大

  • 2017年03月20日 16:57 来源:羊城晚报
影音先锋特物资源站

 

 

  一位“鉴黄师”的电脑上贴着便签,上面注明了甄别色情信息的标准 图/

  羊城晚报记者 龚卫锋

  前晚,“斗鱼直播”一档名叫《职男职女职播》的综艺节目与观众见面。这档节目每周会请来不同行业的专家们,为青年人解决职业困惑。本周是该系列的第二期:上一期在武汉直播,请来的嘉宾是法医;这一期在广州直播,请来的嘉宾身份更具话题性——他们是“AI鉴黄师”。

  三位嘉宾中,姜泽荣是互联网“图像识别”领域龙头企业“图普科技”的运营总监,也是一名“AI鉴黄师”。他这个“老司机”带着两位“小司机”同事在直播中谈笑风生,让观众了解到:这份网友眼中很酷的工作,其实并不轻松;而有了AI人工智能技术(Artificial Intelligence)的助力,“鉴黄”的效率已经大大提高。

  背景

  “网络监管加强,

  越来越多直播平台请鉴黄师把关”

  “快播被禁”堪称2014年的年度事件。2014年4月16日快播科技发布公告称,快播将关闭qvod服务器,停止基于快播技术的视频点播和下载,清理低俗内容与涉盗版内容。同年8月,全国“扫黄打非”办公室发布消息称,深圳快播科技有限公司网上传播淫秽色情信息案主要犯罪嫌疑人、快播公司法定代表人兼总经理王欣于8月8日被依法抓捕归案。

  “国家非常重视对淫秽色情信息的监管,我们公司成立时,就把‘鉴黄’作为公司的重要工作,第一个客户是迅雷。”姜泽荣透露,当时迅雷给了很多数据帮他们调整并优化系统,不过,迅雷如何利用系统则不在他们的控制范围内,“迅雷不存储内容,用户下载并分享的过程中触发‘过滤’机制才有可能被禁,但达到多少基数会被禁,我们不知道。”

  “AI鉴黄师”与“传统鉴黄师”通过肉眼浏览过滤色情信息不同,他们的工作是将大伙儿从互联网上搜集的图片、视频进行分类整理,分别放入系统“正常”、“性感”、“色情”三大板块中,“我们调教机器去识别色情信息,通过样本建立模型,最终趋近于达到人眼识别的效果,原理和AlphaGo一样。”图普科技客户经理周耀辉说道。

  他们公司现在有上百个客户,其中直播客户占了很大的量,这与近两年直播行业的急速发展密不可分。“部分直播平台为了赚快钱,专门请美女主播滚动直播色情内容,结果上线没多久就被禁。”图普科技市场经理邓柯解释,“对网络信息管控比较重视的企业会走得更远。”

  国家对直播平台的监管也在逐渐加强,去年4月13日,百度、新浪、搜狐等20余家直播平台共同发布《北京网络直播行业自律公约》,承诺网络直播房间必须标识水印;内容存储时间不少于15天备查;所有主播必须实名认证;对于播出涉枪、涉毒、涉暴、涉黄内容的主播,情节严重的将列入黑名单;审核人员对平台上的直播内容进行24小时实时监管。

  《互联网直播服务管理规定》2016年12月1日起在全国施行,明确禁止互联网直播服务提供者和使用者利用互联网直播服务从事危害国家安全、破坏社会稳定、扰乱社会秩序、侵犯他人合法权益、传播淫秽色情等活动。

  于是,越来越多的直播平台开始找“AI鉴黄师”帮助,一旦有主播传播色情信息、系统判定为“色情”后,会立即通知直播平台“封号”;系统拿不准的信息,会被发送到直播平台系统中,让鉴黄师人工判定。通常,从“判定信息为色情”到“查封账号”,平均用时为30秒。

  工作

  “机器帮忙识别色情信息,实时监控直播的越轨举动”

  邓柯介绍:“视频直播的利润空间之大,普通人难以想象。比如一个以喊麦著称的主播,办一场活动号称‘日薪百万’,很多直播平台不惜花百万元甚至千万元去挖一个TOP级别的主播。”据悉,一些美女主播为了维持足够的用户粘度,常常一段直播长达两小时,甚至有人曾表演长达8小时的丝袜舞,平均每隔三分钟念一遍感谢粉丝赠送礼物的名单……当她们做出一些越轨举动时,往往能收获很多礼物,折合成人民币数额相当可观,于是一些美女主播不时打打“情色”擦边球。

  去年11月28日,女主播“雪梨枪”因传播色情视频内容被判有期徒刑4年,给这类突破底线的主播们敲响了警钟。“利用色情谋利是直播平台的大忌,以身犯险极易触犯法律。”周耀辉说。姜泽荣也强调违法行为是不能容忍的:“人有需求很正常,但释放途径要得当,利用这一点做违规、违法的事情很不好。”

  周耀辉表示,直播平台对于“AI鉴黄师”的需求量很大:“因为直播是实时性的,随时可能有人做出越轨举动,机器(系统)会把视频实时导出成一张张图片,以方便鉴别。”不过,各个平台的尺度不一样,姜泽荣说:“我们把机器给直播平台使用,但他们在调用时选择的尺度是不同的。”

  “内容管控是个世界性课题,很多人觉得海外网络管控很松,可以随意浏览色情网站,其实这是一种误解,不少国家和地区的管控相当严格,比如在实名认证的情况下,Google Play对色情是零容忍的,而日本AV有明确的分级制度。”周耀辉指出了人们的一些认识误区。

  有人责难“鉴黄师”,认为他们堵塞了人性的出口。对此姜泽荣持反对意见。他认为,在尚未“分级”的情况下,“宁可错杀一千,也不能放过一个”,而“一刀切”目前看来是必要的,必须防止色情视频对青少年身心健康的危害,但他们希望另一方面,“性教育”也该完善。他表示:“我们调查也发现,很多家长没有正确引导孩子,一味压抑也是不对的。”

  在机器和人的努力下,如今色情直播现象明显少了很多,“我们平台数据显示,现在直播过程中,出现色情内容的比例是万分之四。”邓柯说。

  感受

  “安静理性适合当鉴黄师,

  太活泼的人干不了”

  “刚开始做这份工作有些不适应,当你打开屏幕,满屏都是不堪入目的内容,我整个人都凌乱了。”姜泽荣的同事毛毛,是这次斗鱼直播节目《职男职女职播》的一位嘉宾,“美女鉴黄师”的标签让她在几位嘉宾中特别抢眼。

  姜泽荣被同事称为“老司机”,是AI鉴黄的元老。“公司刚成立时,部门只有四个人,加班非常多,一天起码有六个小时在搜集数据,简单说,就是看黄图、黄片,然后把它们扔到数据库中。”他们部门“技术宅”居多。“我们在招聘时对性格有要求,太活泼的人当不了鉴黄师,性格安静、理性的人比较适合。”姜泽荣说。

  2013年,百度、腾讯、金山等10多个互联网公司组成的“安全联盟”,公开招聘“首席淫秽色情鉴定官”,条件是年薪20万元、五险一金、每天有酸奶水果福利,工作内容就是对着电脑专职识别色情淫秽网站。很多人觉得这份工作很酷,但随后也不断传出有鉴黄师申请“工伤”索赔的新闻。姜泽荣吐槽道:“说当‘鉴黄师’是件很酷的事情的人,都不了解这个职业。凡事都有个度,什么事都耐不住天天看啊!”姜泽荣解释,“鉴黄”只是他工作的一部分,他们还在开拓其他智能识别项目。

  “我们组有6个人,全是男性,都不会跟外界说自己是‘鉴黄师’,因为对很多人来说,这不是什么很好的工作,说出去会影响别人对你的看法。但另一方面,净化网络环境的工作是有意义的。”姜泽荣通常会跟亲友说自己是做互联网技术的,如今还有种高大上的说辞——“我在做‘人工智能’。”

上篇:助理晒杜淳健身照吐槽腋毛 杜淳:招了一个黑粉

下篇:王源回学校遭同学爬窗围观 校长发博:要淡定

 
分享到:

热点新闻

  • 罗志祥夸海口"一口气唱周杰伦" 唱三个字就换气

  • 李维雪地演绎为爱折磨 《劫爱》MV今日上线

  • 李易峰方否认有恋情:没空跟各位“她”谈恋爱

  • 正青春!张柏芝回眸一笑尽显潇洒好气色

  • SING女团曝《背对着想念》MV 演绎别样恋爱絮语

  • 张靓颖现身机场当甩手掌柜 老公冯轲帮忙提重物

  • By2斥狗仔颠倒黑白 谈整形“用智慧超出一切”

  • 宋丹丹批小鲜肉不懂做人 为什么搬出了成龙做例子?

  • 谢娜获全额奖学金将赴意大利留学 不会离开快乐大本营

  • 锦荣:你不知道我刚分手吗?澄清与Miko约会真相

  • 教授纠正还珠歌词 琼瑶背错诗误导几代人?

  • 常远:最怕爷爷常宝华,宁愿跑到迪厅说相声

  • 王俊凯穿女仆装露大腿竟这么好看 大家被萌的不要不要的

  • 沈梦辰拍沐浴戏画面香艳 背后真相竟是这样

  • 白百何这双鞋都戳进肉里了看着好疼!宋茜更是脚趾都外翻了

  • 《鸡飞狗跳》首发概念海报 定档4月7日搞到你笑

  • 雨神很无辜!长沙下雨不停 观众怒求淘汰萧敬腾

  • 童星长大就变残?杨幂杨紫李小璐告诉你:我一直都很美

  • 北影才女岳小涵 毕业大戏饰演性感火辣的模特

  • 《二十四小时》金晨扮鬼脸 展现"惊人"观察力

  • 咘咘饿了想喝奶 看到奶瓶大眼睛都发光了

  • 林依晨俏丽短发现身 透视露肩长裙尽显优雅

  • 林志玲穿透视薄纱裙亮相 满屏美胸玉腿

  • 专家:假票房、假收视也算侵权,需重罚!

  • 曹颖与儿子做直播 网友直呼认不出!

  • 陈浩民娇妻晒儿子近照 越长大越像爸爸年轻时候

  • 白岩松:新闻发言人最大的错误是沉默

  • 发生了什么?徐若瑄发怒大骂:有病看医生

  • 安陵容深夜发文想退出娱乐圈 女儿曾遭到网友恶意攻击

  • 霍尊疑曝恋情 带神秘女家中相聚甜蜜依偎

  • 红发钟丽缇表情太浮夸 面对镜头摆夸张POSE

  • 好莱坞女星自曝18岁时遭好友性侵 曾考虑自杀

  • 周扬青捧花称“难忘的夜晚” 网友:小猪求婚了?

  • 好萌!董璇爱女小酒窝和爸爸互动 堪称“灵魂舞者”

  • 《最强大脑》像宫斗剧 孟非拒绝质疑节目组

  • 《玛格丽特的春天》今日上映 爆笑追爱开启

  • 演了《琅琊榜》《伪装者》《欢乐颂》的她 终于又飚神演技了!

  • 王俊凯穿女仆装露大腿竟这么好看 大家被萌的不要不要的

  • 《零零大冒险》张亮遭遇最强对手 小勇士虽败犹荣

  • 舒淇晒出游自拍照 面色红润比V卖萌似少女(图)

  • 王源回校同学们爬窗围观 网友调侃:引体向上终于派上用场了!

  • 陈妍希外公去世 怀念:天堂有婆婆陪他吵架

  • 霍思燕扎麻花辫晒素颜自拍 肤白貌美清纯似少女

  • 汪小菲自认帅过韩国演员 没想到大S却这样回应

  • 揭胡歌被黑用替身拍戏真相 第一个为他发声的还是这个女星

  • 惊呼!霸气的“陈浩南”居然单纯地像白纸

  • 离婚后独带娃不含糊!朱莉手牵儿女逛书店心情不错

  • 杨幂旧照仙女气十足?没PS过的原图令人惊讶

  • SNH48《彼此的未来》首发 诉说心路历程感恩粉丝

  • 霸气不再!大S想"炫耀"成绩女儿不买账 跪地学狼嚎

  • 阅读推荐

    ICP备案/许可证编号:津ICP备15008203