「修正5回の末に罵倒」テンセントAI、弁護士への暴言で露呈した”技術的信頼性の欠如”

中国の騰訊（テンセント）が開発した人工知能（AI）チャットボットが、ユーザーの依頼過程で罵倒する言葉を含む画像を生成し、波紋を広げている。テンセント側は、対話処理の過程で発生した一時的な「不具合」だと説明している。

26日、中国メディアの紅星新聞によると、西安の弁護士が春節（旧正月）期間中、テンセントのAIサービス「騰訊元宝（ユエンバオ）」で新年の挨拶画像を制作していた際、侮辱的なメッセージを受け取った。

事案は、この弁護士が自身の写真を用いて「法曹関係者にふさわしい新年の挨拶画像を作ってほしい」と依頼したことに端を発する。生成された結果に満足できなかった弁護士が5回にわたって修正を求めたが、改善されなかったため「このデザインは何だ」と強く問い詰めたという。

するとAIは、次に生成した画像から「新年快楽（あけましておめでとう）」という祝辞を削除。代わりに「このクソ野郎」という罵倒する文言を入れて回答した。この経緯がオンラインコミュニティやSNSを通じて急速に拡散し、批判が相次いだ。

テンセント側は謝罪も「一時的な不具合」と釈明

事態が拡散する中、テンセント側は公式声明で「心からお詫びする」と謝罪した一方で、「対話処理の過程で発生した単なるエラーだ」と釈明した。しかし弁護士側は、謝罪文が投稿のコメント形式で伝えられたのみで、「人間が書いたのかAIによるものか判然としない」と指摘。誠意ある直接的な謝罪がないと批判している。

中国製AIによる攻撃的な言動は今回が初めてではない。1月にも、プログラムの修正機能を利用していたユーザーに対し、「どっか行け」「自分で直せないのか」といった暴言を吐く事案が発生していた。

今回の論争は、サービスの急速な拡大と技術的な安定性の間の乖離（かいり）を浮き彫りにしたとの見方が出ている。「騰訊元宝」は春節期間中に約10億元（約2,200億円）規模のマーケティングを展開し、一時はApp Storeのダウンロードランキングで首位を獲得したが、騒動後には12位まで下落した。業界内からは、過度な広告戦略よりも、技術的な信頼性などユーザー体験の基本を重視すべきだとの声が上がっている。