AI による虚偽情報の生成は、2024年の米大統領選挙で最も注目を集めた問題の一つでした。2024年1月、世界経済フォーラムは 次のように主張しました。「虚偽情報と誤情報は、世界が直面する短期的なリスクの中で最も深刻なものだ」そして「AI は、操作され歪められた情報を増幅しており、それが社会の安定を損なうおそれがある」。2024年選挙に関する見出しも、同様の物語を伝えていました。
これに対し、私たちは過去の文章で、AI が虚偽情報の「終末」を引き起こすことはないと予測してきました。Meta がオープンウェイトの大規模言語モデル(LLaMA)を公開した際には、それが虚偽情報の洪水を招くことはないだろうと 論じました。その後の文章では、虚偽情報の拡散こそが行動を左右する重要なボトルネックだと指摘しました。そして生成 AI は虚偽情報の作成コストを下げる一方で、それを広めるコストは下げていない、というわけです。これと同様の見方を示す 研究者もいます。
では、この二つの見方のうち、どちらが実態に近いのでしょうか。
幸いなことに、2024年に世界各地で行われた選挙における AI の使用事例を手がかりに、この問いに答えることができます。多くの報道機関や研究プロジェクトが、AI で生成されたテキストやメディアの既知の事例と、その影響を整理してきました。AI の潜在的な役割を想像するより、これまでに現実世界でどんな影響を及ぼしてきたのかを見たほうがよいのです。
私たちは、WIRED AI Elections Project が収集した、選挙における AI 利用の事例をすべて分析しました。このプロジェクトは、2024年の世界各地の選挙期間中に、政治コンテンツの作成に使われたことが判明している AI の利用を追跡しています。各事例について、AI が何に使われたのかを特定し、同様のコンテンツを AI なしで作る場合にかかるコストを見積もりました。
その結果、次のことが分かりました。(1)AI 利用の半数は欺瞞的ではない。(2)たとえ AI で生成された欺瞞的コンテンツであっても、AI を使わずに作ることも同じくらい安価で、再現も容易である。(3)虚偽情報の「供給」よりも「需要」に目を向けたほうが、問題の診断と介入策の発見に役立つ。
ただし、AI で生成された合成コンテンツが多くの現実的なリスクをもたらすのは確かです。たとえば、個人を標的にした非同意の性的画像や児童性的虐待素材の作成、そして「嘘つきの配当」を助長し、権力を持つ側が、自分たちに関する本物だが不都合だったり論争を呼んだりするメディアを、AI 生成だと軽く片付けられるようにしてしまうことです。これらはいずれも重要な課題です。本稿では、その中でも別の問題、すなわち政治的虚偽情報に焦点を当てます。
