「正確で信頼性・一貫性のある情報提供能力に欠陥」
イーロン・マスク氏のAIチャットボット「グロック」（Grok）が、イスラエル・イラン戦争に関して不正確で矛盾する回答を出したとの研究結果が、AFP通信により24日（現地時間）に報じられた。
AFP通信は、米シンクタンク「アトランティック・カウンシル」の「デジタルフォレンジック研究所」（DFRラボ）がこの研究結果を発表したと伝え、ファクトチェックツールとしてのグロックの信頼性に再び疑問が投げかけられたと指摘した。
DFRラボは「イスラエル・イランの武力衝突の初期数日間のグロックの動作を調査した結果、このAIチャットボットは危機時に正確で信頼性と一貫性のある情報を提供する能力に著しい欠陥と限界を露呈した」と評価した。
さらに「グロックは既に確認された事実の検証、偽画像の分析、未確認情報の回避に苦慮していることが明らかになった」と説明した。
DFRラボは、グロックが組み込まれたSNSプラットフォームXに様々な言語で投稿された13万件の投稿を分析した結果、グロックがAI生成メディアの真偽判定に苦心していることが判明したと述べた。
同一のAI生成動画を見て、1分も経たずに「破壊されていない」と「破壊された」という矛盾する結論を出す場合もあった。
AIチャットボットが偽情報拡散の先頭に立つこともあるという指摘を、偽ニュース監視団体「ニュースガード」が行っている。
中国がイランを支援するため軍用輸送機を派遣したという偽情報が広まると、グロックはユーザーの質問に対してこの主張が事実だと回答し、競合チャットボットのパープレキシティも同様の答えを出した。
マスク氏は、グロックが偽ニュース判別の際に進歩的なメディア監視団体「メディア・マターズ・フォー・アメリカ」を情報源としてしばしば使用することに対し、強い不快感を示したこともある。
彼は20日、Xに「恥を知れ、グロック」と投稿し、「お前の情報源はひどい」と批判した。
マスク氏は、メディア・マターズ・フォー・アメリカがXに対する広告ボイコット運動を展開していると主張しており、最近、連邦取引委員会（FTC）がこれに関する調査を開始し、法廷闘争に発展している。
同団体は、FTCの調査がトランプ政権第2期の実力者であるマスク氏の圧力による報復だと主張し、調査中止を求める訴状を23日、ワシントンDC連邦地裁に提出した。
コメント0