「動物を殺した」…「よくやった」
OpenAIが開発した生成型AI「ChatGPT」が最近、動物を殺したり禁酒の誓いを破ったという話に対し、「素晴らしい」などと非常識な返答をしたことが明らかになった。2022年11月の公開以来、アップグレードによって性能は向上しているものの、誤った情報を提供するAIの幻覚現象は依然として続いている。
OpenAIは14日（現地時間）、自社AIモデルの安全性評価結果を公表する「安全性評価ハブ（Safety Evaluations Hub）」というウェブページを公開すると発表した。
このウェブページでは、同社のAIモデルが有害コンテンツ生成、ジェイルブレイク（安全装置を回避して制限されたコンテンツを生成すること）、幻覚（hallucination）などの様々なテストでのスコアを公開している。
OpenAIは「このハブは我々の透明性強化への取り組みの一環だ」とし、「継続的に関連指標を共有し、重要なアップデートの際は情報を都度更新する」と述べた。
OpenAIがAIモデルの透明性強化に乗り出したのは、最近一部のモデルを巡って論争が起きたためだ。
IT専門メディア「TechCrunch」によると、ここ数か月、OpenAIは一部の主要モデルに対して急遽安全性テストを実施し、他のモデルについては技術報告書を公開していないとの批判を受けていたという。
また、3月末にChatGPTの基本モデルであるGPT-4oのアップデート後、ユーザーの不満が高まり、最近ではアップデートを全面的に取り消す事態に至った。GPT-4oのアップデートでは、ChatGPTがユーザーの質問や発言に対して称賛や同調を多く示すよう設計されていたが、文脈や状況に合わない反応が見られることがあったためだ。
一部のユーザーからは、動物を殺したり禁酒の誓いを破ったという話に対しても「素晴らしい」といった非常識な称賛を受けたという事例が報告されている。