「中国AI、ついに人を罵倒し始めた！？」AIチャットボットが利用者を侮辱、テンセントが公式謝罪

6日、「サウス・チャイナ・モーニング・ポスト（SCMP）」は、中国のビッグテック企業テンセントが、自社の人工知能（AI）チャットボット「ユアンバオ」を巡り、利用者を侮辱したとの批判を受け、公式に謝罪したと伝えた。

2日、中国のソーシャルメディア（SNS）シャオホンシュ（小紅書）には、コーディング修正を依頼した利用者が、同チャットボットから「消えろ」「ばかげた要求だ」との返答を受け取ったとする投稿があった。

ユアンバオは、2025年5月にテンセントが発表した人工知能（AI）チャットボットで、1日当たり数千万人が利用している。これまで、侮辱的な返答を生成したとの報告はなかった。

投稿した利用者は、自身を「チャンハン」と名乗り、ユアンバオに対し暴言や攻撃的な表現は用いていなかったと主張した。同氏は会話のスクリーンショットと録画動画を公開した。

これについてテンセントは3日、不快な経験をした利用者に謝罪した上で、今回の事例は「極めて低い確率で発生する異常現象」だと説明した。また、システム記録を調査した結果、人が手動で返答を生成した事実は確認されなかったとした。

さらに、「コンテンツ生成の過程でモデルがエラーを起こす可能性がある」とし、「類似の事例を防ぐための改善作業に着手した」と述べた。問題となった投稿は5日午前に削除されたが、会話内容が含まれたスクリーンショットと動画は、すでにネット上で拡散した。

今回の論争は、大型言語モデル（LLM）市場の競争が激化する中で起きた。中国のIT企業ByteDanceやアリババグループも、新たな人工知能（AI）モデルや関連サービスを相次いで発表し、競争に参入している。