政府和学术界的领军人物近几个月来一直关注共同的事业 - 如何最好地解决越来越多的在线恐怖主义内容问题。然而,尽管面临未决立法的压力越来越大,陪审团还是看看像Facebook,Twitter和YouTube这样的大数字媒体公司是否能够胜任这项工作。这个好消息看起来像是一个强大的基于深度学习和神经网络的新型图像识别技术,可以提供一个解决方案。
在6月份的同一周,德国立法者通过了一项法案,要求大型互联网公司在24小时内排除“明显违法”的内容,否则将面临高达5,700万美元的罚款。哈佛大学举行了一个会议,名为“网上有害言论:交叉口算法和人类行为。它讨论了如何最好地限制有害的在线内容,并由哈佛大学的互联网与社会伯克曼克莱因中心,哈佛肯尼迪学院媒体,政治与公共政策中心,以及战略对话研究所(ISD)伦敦智库。
开幕致辞指出,网络空间极端主义可能对舆论,包容和政治产生巨大影响。它还指出了在线上有害言论问题和现有的解决方案之间在资源配置,行动主义甚至基础研究方面存在的巨大差距。
自动检测
就在9月份的几个星期之后,英国,法国和意大利的国家元首在纽约联合国大会会见了互联网公司,讨论这个问题。在会议前的一次演讲中,英国首相特蕾莎·梅如果不能在两个小时之内想出一个方法来检测和清除恐怖分子的内容,就会以巨额的罚款威胁互联网巨头。这个时间跨度是非常重要的,因为在两个小时内共有三分之二的宣传 - 所以你可以质疑两个小时是否真的太长。
作为回应,谷歌和YouTube宣布他们正在增加使用技术来帮助自动识别视频。同时这个问题还在继续,只会越来越糟。“电讯报”最近的一篇文章透露,根据官方数据,去年八月至五月期间,所谓的伊斯兰国家组织的支持者在网上发布了54,000个不同的网站,其中载有关于制造炸弹的建议以及使用卡车和刀具进行攻击今年。
更重要的是,思科预测,到2020年,将有65万亿图像和6万亿个视频上传到网络,这将在不到三年的时间内使所有互联网流量中的80%以图像或视频为基础。对于极端主义和其他不适当的材料来说,这是很多内容,但是人工智能(AI)的最新进展可能是解决这个难题的关键。
Viztech的新兴领域
Viztech新领域的先驱已经开发出了高效的成人和暴力视频过滤器。它使用AI来自动识别恐怖分子和其他有害的数字内容 - 而不是在发布两个小时之内,但在它实际上线之前。它可以发现不适当的数字内容,例如ISIS旗帜或已知仇恨传道人的脸。Viztech还可以快速高效地检测和分类视频以及静止图像,像人脑一样处理信息,但速度提高了1000倍,不仅仅模仿人类行为,而且表现更好。
在深度学习和神经网络的驱动下,它与iPhone X面部识别系统背后的技术相似,但更为复杂。而不是反动,它是预测性的,过滤,识别和分类视频内容,甚至出现在网上之前。在Viztech公司,解决方案是遏制在线恐怖分子的材料及其不幸的后果,这是政府,学者,当然还有数字媒体企业都急于做的事情。最终,它为每个人提供更安全的互联网的关键。