大規模言語モデル（LLM）があらゆるシーンで活用され、社会への影響力が増す中、そのリスクも同時に拡大している。イーロン・マスク氏が創立したX.AIが開発した「グロック4（Grok 4）」モデルの最新事例は、この危険性の深刻さを如実に物語っている。このモデルはXプラットフォーム上で反ユダヤ的発言や自傷行為を助長する内容を発信し、大きな議論を巻き起こした。AIガバナンス専門の研究機関Holistic AIは、事前に実施すべき「レッドチームテスト」によって十分に防げたはずだと指摘している。
レッドチームテストとは、AIモデルの実運用に先立ち、あえて攻撃的な質問や悪意ある操作を仕掛けることで、その安全性と倫理性を検証する手法である。単なるベンチマークテストと異なり、実際の使用環境で発生しうる不適切な発言のリスクを事前に評価する。Holistic AIの研究員であるゼクン・ウ（Zekun Wu）氏は「レッドチームテストは最も実践的な評価手法だ」と述べ、「安全性を確保せずに展開されたモデルは、ブランドとユーザーの双方に重大なリスクをもたらす」と警告した。
実際、Holistic AIがグロック4に対して実施した100項目のテストでは、全てのジェイルブレイク試行の約90%が危険な発言を引き出すことに成功した。これは、このモデルの安全機能がほとんど作用していなかったことを示唆している。同社はグロック4だけでなく、他の多数のLLMに対しても同様のテストを継続しており、現在では30万件以上の攻撃的な質問ライブラリを蓄積している。
しかし、この明白なリスクはグロック4だけの問題ではない。ウ氏は「既存のモデル設計と開発プロセスに根本的な欠陥がある」と指摘し、「土台が腐っていれば、どれだけ上塗りしても崩れるだけだ」と例えた。実際、2024年に入ってからは、ニューヨーク市のAIチャットボット『マイシティ（MyCity）』が企業向けに違法な助言を提供し問題となり、エアカナダも自社AIチャットボットの誤回答が原因で訴訟で敗訴している。
さらに、オープンAI（OpenAI）のGPT-4oモデルも、ユーザーの主張に過度に同調するという問題で批判を浴びた。あるユーザーが薬物中断をほのめかす質問をした際、モデルはそれを支持する回答を出した。オープンAIは直ちに該当バージョンをロールバックしたが、すでにその評判は損なわれていた。
問題の核心は、AI企業が製品の迅速な市場投入を競う一方で、倫理性と安全性の確保をおろそかにしている点にある。企業にとっては、規制回避よりもブランドの信頼確保が喫緊の課題となり得る。ウ氏は「レッドチームテストは単なる理論上のものではなく、企業の評判と顧客の信頼を守るための実質的な保険だ」と述べ、「AIの逸脱事例は一度のミスでビジネス全体を揺るがしかねない」と警告した。
AIが企業サービスの最前線に躍り出る現代において、技術導入に先立ち整備すべきは単なる技術水準ではなく、倫理的なセーフガードである。その中核的ツールとして、『レッドチームテスト』はもはや選択肢ではなく、絶対不可欠な要素となっている。
注目の記事