中国がOpenAIのChatGPTを利用して米国内で世論工作を試みた兆候が捉えられた。OpenAIは10日（現地時間）に発表した「脅威レポート」で、中国関連と推測されるChatGPTのアカウント集団2つを発見し遮断したと明らかにした。レポートによると、彼らは昨年末から今年初めにかけて活動し、米国内の人工知能（AI）政策に関連するエネルギー問題や関税を含む貿易政策などの現案に食い込み、分裂を煽ろうとしたという。
ある集団は、AIデータセンターが一般家庭の電気料金を引き上げているという扇動を主導した。彼らはメディア報道などを基に電力網のオークション価格に関する風刺漫画を描くようChatGPTに求めたり、一般的な電力市場のイメージに「AI産業は好況だが、そのコストは庶民が負担している」との文言を追加するよう依頼したりした。彼らはVPNを使用して中国以外の地域から接続したように装ったが、ChatGPTに入力したコマンドプロンプトは中国本土で使われる簡体字の中国語だった。
レポートは、彼らが中国地方政府を顧客にする中国の民間企業だと分析した。別の集団は、米国の関税政策が技術覇権を掌握しようとする試みだと批判するキャンペーンを展開した。彼らは米国と中国の技術競争をテーマにした政治風刺の漫画をChatGPTで大量生成した。その際、「漫画には米国のドナルド・トランプ大統領だけを登場させ、中国の習近平国家主席を登場させてはならない」というコマンドプロンプトを繰り返したことが判明した。
こうして生成した漫画は「X（旧Twitter）」などのSNSを通じて拡散された。彼らは自分たちを「水軍」と称したが、これは組織的な批判活動を行うオンラインアカウントを指す中国の隠語だとされる。ただし、彼らの世論操作はほとんど実際の影響力を持たなかったことが明らかになった。OpenAIの発表に関し、在米中国大使館は「中国への根拠なき攻撃や誹謗に対し、断固として反対する」とし、「中国政府はAIが皆のための善なる力になるよう努力している」と反論した。
コメント0