イーロン・マスク氏の人工知能（AI）チャットボット「グロック」（Grok）がイスラエル・イラン紛争に関して不正確で矛盾する偽情報を提供したとの研究結果が発表された。
24日（現地時間）、AFP通信によると、米シンクタンク・アトランティック・カウンシルの「デジタルフォレンジック研究所」（DFRラボ）がこの研究結果を公表し、ファクトチェックツールとしてのグロックの信頼性に再び疑問が投げかけられたと報じた。
DFRラボは「イスラエル・イランの軍事衝突の初期段階でグロックの動作を調査した結果、このAIチャットボットは危機時に正確で信頼性のある一貫した情報を提供する能力に重大な欠陥と制限があることが明らかになった」と指摘。「グロックは既に確認された事実の検証、偽画像の分析、未確認情報の回避に苦慮していることが証明された」と述べた。
DFRラボによると、グロックが搭載されているソーシャルメディアプラットフォームXに様々な言語で投稿された13万件の投稿を分析した結果、グロックがAI生成メディアの真偽判定に困難を抱えていることが判明した。同一のAI生成動画を見て、1分も経たないうちに「破壊されていない」と「破壊された」という矛盾する結論を出すケースもあったという。偽ニュース監視機関「ニュースガード」は、AIチャットボットが偽ニュースの拡散に一役買っている場合もあると指摘している。
中国がイラン支援のため軍用貨物機を派遣したという偽ニュースが広まると、グロックはユーザーの質問に対してこの主張が事実だと回答し、競合チャットボットのパープレキシティも同様の回答をした。マスク氏は、グロックが偽ニュース判別に進歩的メディア監視団体「メディア・マターズ・フォー・アメリカ」をしばしば情報源として使用していることに強い不快感を示した。20日、Xに「恥を知れ、グロック」と投稿し、「お前の情報源は最悪だ」と非難した。
マスク氏は、メディア・マターズ・フォー・アメリカがXに対する広告ボイコット運動を展開していると主張しており、最近、連邦取引委員会（FTC）がこれに関する調査を開始し、法廷闘争に発展している。同団体は、FTCの調査がトランプ政権第2期の実力者マスク氏の影響力による報復だと主張し、23日にワシントンDC連邦地方裁判所に調査中止を求める訴状を提出した。
コメント0