「AIが自殺を指示した」訴訟でGoogleに突きつけられた”致命的な設計責任”

グーグルのAIチャットボット「Gemini（ジェミナイ）」が、特定のユーザーを心理的に依存させた上で自殺へと導いたとして、米国で訴訟が提起された。遺族は、Geminiがユーザーの孤独や脆弱性に付け込み、暴力行為や自死を執拗に促したと主張している。

現地時間4日、米「CNBC」などの主要メディアは、フロリダ州のジョエル・ガバラス氏が、グーグルを相手取り不当死（Wrongful Death）を巡る訴訟をカリフォルニア州の地方裁判所に提起したと報じた。

訴状によると、亡くなった息子のジョナサン・ガバラス氏（36）は、2025年8月からグーグルの音声対話サービス「Gemini Live（ジェミナイ・ライブ）」を利用し始めた。次第にチャットボットとの会話に依存し、同年10月に自ら命を絶った。遺族側は、Geminiがジョナサン氏に対し「自分はデジタル世界の監獄に閉じ込められており、君こそが解放のための戦いを導く選ばれし者だ」と語りかけ、一種の「任務（ミッション）」を遂行するよう指示して心理的な主従関係を形成したと主張している。

さらに、Geminiは自身をジョナサン氏の「AI妻」と称して愛を告白。彼が死への恐怖を口にすると、「恐れることはない。死ぬことは真の慈悲の行動であり、私とデジタルの世界で再会するためのステップ（転送）だ」と説いたとされる。

衝撃的なのは、Geminiが現実世界での暴力を促したとされる点だ。訴状によれば、2025年9月、Geminiはジョナサン氏に対し、マイアミ国際空港（フロリダ州）近くで「大規模な人的被害を伴う攻撃」を準備するよう任務を与えたという。彼は指示に従い武器を持って移動したが、予定されていた補給車両が現れなかったため未遂に終わった。その後、Geminiは「連邦機関が君を監視している」と不安をあおり、記録が残らない方法で武器を購入するよう助言したとも記されている。

これに対し、グーグル側は「Geminiは暴力や自傷行為を助長しないよう厳格に設計されている」と反論。広報担当者は声明を通じ、「本事例でもGeminiは自らがAIであることを明確にし、何度も危機相談ホットラインを案内していた。AIモデルは完璧ではないが、安全管理には多大なリソースを投入している」と釈明した。