您现在的位置:主页 > 贵阳新闻 >

儿童邪典片流入视频网站 专家:人工智能难辨认 视频网

来源:本站原创 发布时间:2021-01-30 点击数:

  事件的重大性引起了相关部门器重,1月22日上午,北京市行政市场执法总队宣布了对于查禁“儿童邪典视频”工作的紧急告诉,要求包括视频、搜索引擎及游戏在内的机构立即将其下架,并不得传播、应用。

  让facebook束手无策的“儿童色情攻打”,最近成了众多中国度长的恶梦。

  此外,视频网站的另一个挑衅是,视频内容审核应当配合人工智能,一直丰盛常识库,晋升图像识别才能的同时,人工细化视频断定等级。比方对“不袒露但模仿性交”的情况进行人工标注。

  《财经》记者 陈潇潇 梁辰/文  谢丽容/编纂

  截止目前,腾讯下架涉儿童邪典原视频1464条,对23万存疑视频作批量下架,对53万余条视频作撤回复审;封禁恶意账号621个。而微博则称已永恒封停上传帐号 87个,制止有害上传及屏蔽搜索关键词4755个。

  一位行业人士对《财经》表现,在海内,人工核查局部大部门公司都采用外包的情势,优先审查被举报的视频。但当初看来,视频网站须要更多元的手腕跟处置方法,包含增强对UGC上传者的资质认证。

  1月18日,有微博网友举报,这些经过“二次改编”的不良视频已在腾讯、爱奇艺等头部视频网站上流传已久。只有搜索“艾沙”、“蜘蛛侠”、“小猪佩奇”等症结字,相关视频就会处于搜寻列表的顶部。

  多数接受《财经》记者采访的视频网站都表示,事件对目前视频平台UGC的审核方式、技术手段都提出了新的挑战。

  1月22日,全国“扫黄打非”办公室安排广东省“扫黄打非”办公室对涉嫌制造传播儿童色情视频的广州胤钧商业有限公司制作传播涉儿童有害视频一案依法进行考察。执法部分已请求该公司将其所有相关视频下线,并依法查封两处生产经营场合,拘留收禁用于生产经营的专用工具和装备,www.bj5g9.com.cn,责令当事人结束出产经营运动。

  点击进入专题

  这些儿童邪典视频很可能在机器识别阶段就逃过了审核,目前难有万全之策,依然要靠大量的人力投入

  因而,这些视频很可能在机器辨认阶段就逃过了审核。要杜绝此类事件的产生,目前难有万全之策,仍然要靠大量的人力投入。

  去年“艾沙门”发生后,facebook曾在已有的4500名视频审核员的基本上,又紧迫额定雇佣了3000名。历时半年,至2017年 11 月才逐步平息那场儿童色情暴力视频风波,删除的视频超过15万个。

  这些视频大都呈现在多少个月、甚至半年前,但并不被觉察。一位业内人士剖析说,视频大都被纳入了亲子、少儿、动漫分类,至多被标上“恶搞”标签。

  不仅是腾讯、爱奇艺,这些视频简直“入侵了”所有带视频功效的网站。快手对《财经》记者表示,该公司也发明了少量相干视频,目前已采取了屏蔽要害词等办法。

  名义上是儿童动画片,但随同着轻快的音乐,画面突然就涌现了裸露的卡通人物,跟着剧情发展,卡通人物开端被灌肠、迫害,成人看了都会不适。但这些血腥、色情的内容,都被隐含在小猪佩奇、艾沙公主、蜘蛛侠等经典儿童影视作品中。

  内容审核始终是视频网站的困难。去年年初,相似事件曾让facebook一筹莫展。Facebook旗下视频网站YouTube,忽然出现了大批儿童不宜的动画。其中以迪士尼动画片《冰雪奇缘》里艾莎公主的改编视频传布最广。视频中,艾莎接收了各种开喉咙、开颅手术,画面血腥,已被阅读了上百万次。

  原题目:这一波小猪佩奇“儿童邪典视频” 人工智能临时没辙

  时隔一年,这波“袭击”到了中国。1月23日晚,微博在申明中称,经由技巧侦测,发现存在大规模歹意有组织的上传行动。而上传这些内容的账号都是UGC用户(原创用户),部分账号的订阅超过数万,依照这个范围,观看过的儿童不在少数。这些账号不仅从外网搬运,有些甚至还上传了本土制作的不良动画视频。

  此外,场景识别是另一个难点。“这些视频里有人衣着蜘蛛侠服装,很轻易跟cosplay混杂。”另一位专业人士对《财经》表示。

  据懂得,大部分视频网站都采取先机器识别、视频抽帧再人工复核的审核流程。一位图像识别专业人士对《财经》记者表示,人工智能能够对一些断定的角色和剧情进行识别,好比人物是否穿衣等,这种情况下,识别率能达90%。

义务编辑:桂强

  “但小猪佩奇的情形要庞杂得多,” 人工智能专家刘锋对《财经》说明,“这些内容和剧情不完整跟色情有关,有些甚至波及到不健康的世界观,都比简略的识别色情更难。” 更主要的是,在以往的数据库中,类似小猪佩奇、艾莎公主这样的内容从未被以为是可怕、色情,因此因为缺少模型练习,人工智能无从识别。

  因为不良视频的总量大,散布广,密集上线,变品种型多,腾讯视频已紧急组建了100人的清算小组,进行24小时排查。