问与答：为什么文化细微差别在打击网络极端言论方面很重要？ 地平线杂志

Udupa教授说，独立于大型媒体公司或社交媒体公司而运作的事实检查人员可以塑造和使用AI来超越关键字来帮助定位特定于上下文的模式。 她说，这是因为他们受过训练以获取虚假信息-极端言语是其中的近亲。

是什么促使您研究在线虐待和极端言论？

当我注意到印度在线滥用现象普遍存在时，我正在研究印度的政治文化在线中介。 在线滥用似乎是当今政治的语言。

在线演讲已成为当今一种影响政治的有影响力的方式-不仅参与选举等民主进程，而且还成为我们通过数字通信过着每天民主生活的方式。 如果这些不礼貌和烦人的交流在网上如此盛行，那么我们需要了解如何才能使我们了解它们之间的细微差别。

在某些方面，在线硫酸被认为很有趣，但它也可能导致恐吓和羞辱。 我们不确切地知道笑话何时停止，侮辱何时开始……何时侮辱停止以及恐吓何时开始。 要了解这种湿滑的坡度，了解上下文非常重要。

极端语音回推机制的效果如何？

越来越多的公司和政府正在尝试部署AI系统以应对极端语音的规模和速度。 根据我的研究，很明显，极端言语在很大程度上取决于上下文，而AI算法所基于的数据集却并非如此。

当事情失控或这种情况极为重要时，例如Facebook之类的公司往往会调查极端言论的实例，例如美国或印度大选，因为这涉及大量人员。

但是，公司的AI系统仍然缺乏语言能力来检测全世界有问题的语音-例如，在印度东北部的阿萨姆邦（Facebook），AI系统在2019年对宗教和少数民族的言论没有激增。相比之下，该公司加强了资源并试图招募能说这种语言的人来对抗极端言论。在缅甸，该地区在军队镇压罗兴亚穆斯林（2017年）后造成数千人越境逃往孟加拉国后引起了国际关注。

因此，社交媒体公司应对在线极端言论的方式是零散的-在训练数据集以训练其AI模型方面，以及在危机爆发时及时采取行动。

为了解决这种不平衡，我们需要创建协作框架，这些框架不仅关注英语，普通话和西班牙语，还包括许多不同的语言。 我们还必须超越基于关键字的方法，并确定文化和上下文标记。

最好的方法是动员并联系现有的社区，例如事实调查员，他们可以带来文化差异和背景知识。 他们接受过训练以获取虚假信息，极端的言语是其中的近亲。

“在一个特定国家被视为极端言论，在另一个国家可能并非如此。”

德国慕尼黑路德维希马克西米利安大学Sahana Udupa教授

您如何在AI4Dignity项目中应对极端言语？

我们正在以一种基于社区的方式来获取有问题的在线极端语音。 希望建立一个框架，该框架可以帮助事实检查人员标记此内容，而不会破坏其举报虚假信息的核心活动。

在接下来的几个月中，我们将要求事实检查人员携带这些带注释的数据集，这些将成为训练AI模型的基础。 如果一切顺利，我们将在7月将事实检查人员，学术研究人员和AI开发人员聚集在一起。 之后，我们希望开发一种基于多种算法的工具，并将其与至少一个特定的平台或浏览器集成。

该模型应该能够提取出一些有问题的表达式。 目前可能无法达到一流的准确性，但这是一个垫脚石。 此过程非常动态，因此必须重复进行。

而且，如果我们能提供更多的资金，我们可以使用更广泛的事实检查人员网络在更大范围内复制此过程，并从更多国家/地区引入语言和方言。

该项目的另一个目标是还查看是否存在全球共享的极端言语模式。 例如，在不同的右翼团体中，对遗留媒体的批评已得到充分记录。 但是，我们想实际调查数据集，看看是否存在全球流行的话题-例如，特朗普的支持者是否实际上正在为印度的印度教民族主义者提供话语资源，或者这种反移民的话语正在巴西被采用？等等。

像我们这样的项目将帮助创建关键的知识，这些知识可能在第二天就不适用，但会带来长期的社会效益。 我们正在尝试为后退的反移民和仇外言论建立后备机制。

在线极端言论表达中的文化差异有多明显？

直觉是有很多变化，但是我们在研究中也对此进行了记录。 很明显，某些表达和目标群体在文化上都有很深的渊源。 例如，有文献记载，智利北部被边缘化的人试图向来自玻利维亚和秘鲁等地的人兜售反移民言论。

但是当您看到像丹麦这样的国家时，他们的百万富翁就为极右翼运动提供了支持。 因此，实际上从事极端言语的人之间存在巨大差异。

使事情变得更加复杂的是，兜售贬义和极端言语行为的人从事文字游戏并采用编码语言以避免被发现。

对于我们来说，重要的是要理解文化差异不仅在言语世界中存在，即人们使用的表达形式，而且还涉及参与其中的行为者以及促进尖酸交换的政治结构。

您看到祖国和散居社区的极端言论之间的模式吗？

国土社区和侨民社区由于互联网渠道而紧密相连，因此我们看到的是一种共同的话语。 无论您是否支持特定的政治意识形态，表达方式和隐喻在社区之间盘旋。

但是仍然可能存在文化差异，我不排除它。 在一个特定国家中被视为极端言论的情况在另一个国家中可能并非如此。 例如，“反民族”在某些国家可能是贬义标签，而在另一些国家则不是。 标签本身在国家和地区内发展。

在线极端言论通常与离线暴力相关。 您的研究显示了什么？

要回答这个问题，需要在肯尼亚和南非等地进行全面的基于案例研究的实地研究和研究，这表明特定的社交媒体言论可能会加剧冲突局势。 在北美和欧洲，也有一些数据表明这种关联。 在印度，我记录了所谓的“社交媒体暴动”，因为在计划的抗议集会之前，WhatsApp上的视频流传了下来。 这是一个复杂的社交活动，因为抗议穆斯林被指控被混为一谈描述缅甸和印度东北部暴力事件的视频“煽动”。

但是，要真正遏制网络极端言论与离线暴力之间的因果关系非常困难。 但是，您可以清楚地识别趋势和相关性。 在某些情况下，暴力事件发生之前，极端言语表达会达到峰值。

这次采访经过了长度和清晰度的编辑。

本文中的研究由欧盟欧洲研究理事会资助。 如果您喜欢这篇文章，请考虑在社交媒体上分享。