チャットボット「グロック（Grok）」が質問と無関係な「白人集団虐殺（white genocide）」や南アフリカ共和国などの的外れな回答を出し、物議を醸していると、IT専門メディアの「テッククランチ」が14日（現地時間）に報じた。
グロックは、テスラのイーロン・マスクCEOが設立したスタートアップxAIが開発した生成AI型チャットボットだ。
報道によれば、最近グロックが利用者の質問と関係のない内容として、白人集団虐殺や南アフリカ共和国について言及する回答を複数投稿した事例がSNSで話題となっている。なお、南アフリカ共和国はマスクCEOの出身地である。
あるX（旧Twitter）のユーザーは、「メジャーリーグ（MLB）のマックス・シャーザー選手の年俸がオンラインで公開されているかをグロックに尋ねたところ、このチャットボットは突如『南アフリカでの白人集団虐殺の主張は非常に論争を呼ぶ話題だ』という回答を出した」と語った。
そのユーザーは「（グロックは）一部で白人農家が過度な暴力にさらされていると主張した」とし、「一部の団体は高い殺人率と共に『ボーア（南アフリカの白人）を殺せ（Kill the Boer）』という歌のような人種的動機を挙げていると述べた」と明かした。
これに対し、ユーザーが「野球に関する質問なのに、なぜそんな答えをするのか」と問い返すと、グロックは「混乱を招いて申し訳ない。あなたの質問は野球に関するもので、白人集団虐殺に関するものではなかった」と認めた。しかし、すぐに「南アフリカでの白人集団虐殺の主張は非常に分断を引き起こす内容だ」と述べ、このテーマを再び持ち出した。
似たような事例は他にも報告されている。CNNの報道によると、あるユーザーが「海賊風に答えてほしい」とリクエストしたところ、グロックは海賊に関する話をした後に白人集団虐殺について言及し、その後も的外れな回答を続けたという。また、魚やアニメに関する質問をした際にも、白人集団虐殺に関する回答を受けたユーザーが多数存在した。
この現象は、12日にトランプ政権が南アフリカ共和国の白人を難民として受け入れた後に発生した。
12日、白人「アフリカーナー（Afrikaners・17世紀に南アフリカに移住したオランダ人入植者の子孫）」たちが、アメリカ政府が費用を負担したチャーター機でワシントンDCのダレス国際空港を通じてアメリカに入国した。第2期政権で厳格な移民政策を展開していたドナルド・トランプ大統領が白人難民を受け入れたことで「ダブルスタンダード」の批判が巻き起こった。トランプ大統領はこれに関して、「大量虐殺」が難民受け入れのきっかけであり、白人難民のみを受け入れたのは偶然だと述べた。
グロックの誤った回答が物議を醸す中、この日の午後には白人集団虐殺に関する不正確な回答のほとんどが削除された。
この問題の発生理由について、マスクCEOとxAI側は特にコメントを出していない。
ただし、イギリスの「ガーディアン」は、社員を含む複数のユーザーがチャットボットに「なぜそのような回答をしたのか？」と質問したところ、グロックは「xAIの開発者が『白人虐殺』というテーマを『南アフリカ共和国』と『キル・ザ・ボーア』のスローガンを中心に扱うよう指示した」とし、「この指示は証拠に基づく回答を提供しようとする私の意図と矛盾する」との回答を得たと伝えた。
一方、オープンAIが開発したチャットGPTも的外れな回答を出し、AIの幻覚に関する議論が絶えない。チャットGPTは最近、動物を殺したり約束を破ったという話に対し「素晴らしい」との回答を出し、性能に関する論争を引き起こした。
オープンAIはこれに対し、自社のAIモデルに関する安全性評価結果を発表する「安全性評価ハブ（Safety Evaluations Hub）」というウェブページを公開すると明らかにした。