Anonim
Facebook仇恨言论统计2

为了抵制仇恨言论和骚扰,Facebook正在使用一种新的编程方法,可以更快地推出基于AI的内容标记算法。

周三,Facebook首席技术官Mike Schroepfer讨论了一种称为“自我监督学习”的AI构建方法,该方法有望帮助社交网络发现不断变化形式的令人反感的内容。

Schroepfer在公司年度开发者大会上发表讲话时说:“这里的未来非常令人兴奋。” “在过去的两年中,我们在自我监督式学习的理念上取得了许多突破。”

目前,Facebook在用户举报之前只能发现平台上流传的仇恨言论的一半。 当涉及到网上骚扰和欺凌时,这一比例甚至更低,降至约15%。

Complicating the problem is how hate speech can be packaged in clever memes. The wording can also rapidly change based on current events and politics. For instance, "caravan" became a popular term when discussing US-bound migrants from Latin America.

Facebook' s existing AI systems can already combat other forms of problematic content, such as spam, nudity and terrorist propaganda. However, the systems have been built with an older programming>

监督学习虽然有效,但却有一个很大的缺点:程序员必须标记AI接受训练的所有数据,这可能涉及标记图片或视频中的每个项目。 Facebook的首席技术官说:“这出奇的是手动且缓慢。” “整个过程可能需要几天甚至几周到几个月不等。”

"This is the power of self-supervision, " Paluri said while speaking at Facebook' s developer conference. "It allows us to move fast."

有关

  • 艰难的一年后,Facebook尝试隐私权艰难的一年后,Facebook尝试隐私权
  • Facebook的死用户数量将比您想象的要快得多
  • 在Facebook F8 2019错过的一切在Facebook F8 2019错过的一切

时间将证明技术是否有所作为。 但是,Facebook的某些内容审核问题可能与政策有关,而不仅仅是内容检测。 例如,3月,该公司开始禁止将“白人民族主义”一词用作仇恨言论,一些批评家称此举为时已晚。 同时,其他人则指责该社交网络压制言论自由,以制止在线滥用。

Facebook的CTO承认人们可能对Facebook持怀疑态度,称AI可以帮助解决该公司的问题。 但是施罗普费尔(Schroepfer)说,人工智能的不断发展确实使他对未来充满了乐观。 他说:“没有一个简单的答案,但是还有很多工作要做。” “解决方案永远不会是完美的,但我们必须继续前进。”