「ロシアに有利な結果に誘導」ロシアがAIチャットボットを利用し、ネット上で虚偽情報を拡散

ロシアがオンライン上で虚偽情報を拡散させ、西側の人工知能（AI）チャットボットのデータを汚染する手法で宣伝活動を行っているとの指摘が出ている。

海外メディア「AFP通信」は今月9日（現地時間）、アメリカの虚偽情報追跡サイト「ニュースガード」の調査結果について報じた。報道によると、10のAIチャットボットがロシアの宣伝ネットワーク「プラウダ」が拡散させた虚偽情報を33%以上も繰り返し流し、親ロシア的な議題を広めていることが判明した。

プラウダはロシアに好意的な情報を発信する宣伝ネットワークだ。このネットワークは独自にコンテンツを制作せず、ロシア国営メディアの記事や親ロシア的な情報を投稿するインフルエンサーのSNS投稿を引用して拡散する形で宣伝活動を行っている。

ニュースガードの調査によると、プラウダは大規模言語モデル（LLM）に虚偽情報を流し、AIチャットボットのデータを歪めているという。これは「LLMグルーミング」と呼ばれる手法で、膨大な量の情報を学習させ、ロシアに有利な結果が出るようにするものだ。

ニュースガードは、昨年だけで360万件に上るロシアの宣伝記事や投稿が西側のAIシステムに侵入したと明らかにした。その結果、ChatGPT-4やGrok、Copilot、Meta AI、Geminiなど主要なAIチャットボットがすべて歪んだ情報の影響を受けた。特に7つのチャットボットでは、プラウダに掲載された記事を直接引用するケースも見られた。

専門家らは、アメリカが急速にロシアに接近している状況で、こうした虚偽の宣伝情報がさらに拡散する可能性があると懸念を示している。アメリカでは最近、ドナルド・トランプ大統領が親ロシア的な姿勢を見せる中、ロシアを標的としたサイバー作戦も中止されている。

非営利団体「アメリカン・サンライト・プロジェクト」のニーナ・ジャンコウィッツは、プラウダの影響力が増大し、親ロシア的なコンテンツがLLMの学習データに氾濫する可能性があると警告した。

彼女は「虚偽情報を大規模に拡散させるプラウダの能力は前例のないレベルに達している」と述べ、「ロシアの影響力が拡大し、高度化するにつれて、世界の民主主義の議論にも直接的な脅威となっている」と指摘した。