跳转到内容
主站 新闻 控制台

我们分析了 78 个选举深度伪造内容。政治虚假信息并不是 AI 问题。

分析实践

AI 生成的虚假信息是 2024 年美国总统大选期间最受关注的问题之一。2024 年 1 月,世界经济论坛 声称:“虚假信息和误导性信息是全球面临的最严重短期风险”,并且“AI 正在放大被操纵和扭曲的信息,这可能破坏社会稳定。”关于 2024 年选举的新闻标题也讲述了类似的故事:

与此相反,我们在过去的写作中预测,AI 不会引发一场虚假信息“末日”。当 Meta 发布其开放权重的大语言模型(称为 LLaMA)时,我们 论证 说,它不会导致虚假信息的洪流。在后续文章中,我们 指出,虚假信息的传播是影响行动的关键瓶颈;而生成式 AI 降低了制造虚假信息的成本,却并没有降低传播它的成本。还有一些研究者也提出了 类似观点。

这两种观点中,哪一种更符合事实?

幸运的是,我们可以借助 2024 年全球各地选举中 AI 的使用证据来回答这个问题。许多新闻机构和研究项目已经整理了已知的 AI 生成文本与媒体实例及其影响。与其猜测 AI 的潜在作用,不如看看它迄今在现实世界中的实际影响。

我们分析了 WIRED AI Elections Project 收集的所有选举中 AI 使用实例。该项目追踪了 2024 年全球选举期间已知用于创建政治内容的 AI 用法。在每个案例中,我们都识别了 AI 被用于什么,并估算了如果不用 AI 制作类似内容所需的成本。

我们的发现是:(1)一半的 AI 使用并不具有欺骗性;(2)即便是使用 AI 生成的欺骗性内容,在不使用 AI 的情况下也同样廉价,容易复制;(3)与其关注虚假信息的供给,不如关注其需求,这样更有助于诊断问题并找到干预措施。

需要明确的是,AI 生成的合成内容确实带来许多真实风险:包括制作针对个人的非自愿色情图像和儿童性虐待材料,以及助长“说谎者红利”,使掌权者能够把关于他们的真实但令人尴尬或有争议的媒体内容轻描淡写地归为 AI 生成。这些都是重要的挑战。本文聚焦于另一个问题:政治虚假信息。