「ChatGPT、高市を非難せよ」中国当局関係者の“陰湿な試み”をOpenAIが暴露

OpenAIは25日（現地時間）、中国当局関係者がChatGPTを悪用し高市早苗首相を非難する世論を拡散する計画を立てようとしたと明らかにした。この日、OpenAIは生成型AI（人工知能）チャットボットChatGPTの悪用事例をまとめた報告書を公開し、高市首相を標的としたオンライン世論操作の試みを確認したと述べた。

報告書によると、中国当局関係者と思われるユーザーは昨年10月、当時次期首相候補として有力視されていた高市氏が中国内モンゴル自治区の人権状況を公然と批判した後、ChatGPTに非難世論拡散を助ける計画立案を依頼したという。このユーザーは外国人政策、物価上昇、極右傾向、米国の関税への怒りを煽るなどの材料でSNSにおける否定的世論を増幅させる提案をしたが、ChatGPTはこれに協力を拒否したとOpenAIは説明した。

ただし同月末、このユーザーはいわゆる「反・高市」作戦の実行状況をまとめた報告書の文案の推敲を求め、再びChatGPTにアクセスした。OpenAIは、この工作の草案は自社のモデルを使用せずに進められたとみられると述べた。OpenAIは同時期にSNSで実際にこうした企画を反映した投稿が共有された形跡があるものの、大きな影響はなかったようだと分析したOpenAIは当該ユーザーのChatGPT利用を禁止し、アカウントを停止したと明らかにした。

さらに、OpenAIはカンボジアを拠点とする集団がロマンス詐欺にAIを悪用し、インドネシアなどで毎月数百件の被害が発生した事例も報告した。OpenAIはAIを利用した世論操作とサイバー犯罪の悪用事例を定期的に公開している。