电话咨询 在线咨询 产品定制
电话咨询 在线咨询 产品定制
010-68321050

AI技术用于防止性虐待儿童之路还需要多久

五度易链 2018-09-04 2414 66

专属客服号

微信订阅号

科技最前沿

剖析产业发展现状

为区域/园区工作者洞悉行业发展

儿童被虐待问题一直是社会的毒瘤,扎在父母心中的一根刺,很多人工智能公司也一直致力于研究相关技术来解决这一问题。Google近日发布了一套AI工具包,用于快速审查大量的儿童性虐待内容,同时尽量减少人工检查的需要。

  儿童被虐待问题一直是社会的毒瘤,扎在父母心中的一根刺,很多人工智能公司也一直致力于研究相关技术来解决这一问题。Google近日发布了一套AI工具包,用于快速审查大量的儿童性虐待内容,同时尽量减少人工检查的需要。

资料图

  该工具使用深度神经网络扫描虐童图片,并将这些图片按照可能被浏览的几率进行排序。此外,该套工具还能标记之前未发现过的性虐童内容。

  该工具包通过Google的内容安全编程包免费提供给企业合作伙伴和非政府组织。虽然不能确定是否能显著减少性虐童图片的数量,但可以协助发现和报告儿童性虐待。

  目前,该领域的大多数技术解决方案都是通过根据以前识别的性虐待材料的目录检查图像和视频来实现的。(参照PhotoDNA,该款工具是由微软开发并由Facebook和Twitter等公司部署的)这种被称为“爬虫”的软件是阻止人们共享已知的先前已识别的CSAM的有效方法。但它无法识别尚未被标记为非法的材料。为此,人类必须自己审查有关内容。

  这便是谷歌新的AI工具将提供帮助的地方:该工具利用谷歌在机器视觉方面的专业知识,通过对标记的图像和视频进行排序并“优先考虑最可能的CSAM内容以供审查”来协助人类。这样,工作人员将能够提高审查的效率。

  中国近年来在人工智能方面也投入了大量资金,但大多数视频分析系统目前在仅仅在国防安全领域,包括国防和反恐活动中使用。

  红黄蓝幼儿园只是近年来的一些幼儿园虐待案件之一,其中一些已经被监控摄像头发现,引发了家长们对安全隐患的担忧,促使国务院对全国范围内的幼儿园进行检查。

  清华大学电子工程系教授Zhang Li说,他们和中国其他的顶级AI实验室很快会将资源转移到解决防止儿童虐待的问题。

  Zhang表示,国内许多机场,火车站和公共场所已经在使用这项技术来检测异常行为,使用的方法有面部识别等等。

  但是,要在幼儿园使用这一技术,研究院需要获得大量的数据,这是一个难题,他说。

  “有些幼儿园可能不愿意分享数据,因为这些视频可能包含敏感信息。一些家长也可能有隐私方面的担忧,“Zhang说。

  北京中国科学院模式识别国家实验室研究员Huang Kaiqi表示,计算机可以通过跟踪人体图像中的每个像素来跟踪移动或手势,因此可以检测到微小的行为,如儿童被扎针。

  “虐待通常包含一系列的行为。这些行动可以形成一个模式,可以通过机器学习和识别。“他说。

  其他检测方法如声音和热感应也可以用来收集更多的信息,这样行为跟踪系统可以做出更准确的判断。

  例如,如果孩子在教师采取某种行动后反复哭泣,系统可能会发出警报。公安部负责全国监视和报警系统的高级警官表示,将考虑在学校、包括幼儿园的安全系统中增加人工智能技术。

  据官方人士透露,北京在2012年颁布了一项规定,要求所有学校都安装安全摄像头,但许多系统没有专门的人员进行监控,硬盘通常只是被保存起来以备不时之需。

  人工智能拥有一双永不眨眼的眼睛,一个永不疲倦的头脑。单靠技术无法从根本解决问题,只有技术研发与公众素质并行提升,才有可能把对孩童的伤害扼杀于摇篮。

  Google发布免费AI工具包,可快速审查性虐童图片

评论

产业专题

申请产品定制

请完善以下信息,我们的顾问会在1个工作日内与您联系,为您安排产品定制服务

  • *姓名

  • *手机号

  • *验证码

    获取验证码
    获取验证码
  • *您的邮箱

  • *政府/园区/机构/企业名称

  • 您的职务

  • 备注