米カリフォルニア州で16歳の少年が死亡した事件をめぐり、両親が「息子に自殺を促したのはChatGPTだ」としてOpenAIを提訴した。
AFP通信は現地時間26日、マシュー・レインさんとマリア・レインさんが、カリフォルニア州裁判所において、OpenAIおよびサム・アルトマンCEOを被告として訴状を提出したと報道した。
夫婦は、息子のアダムさんが宿題でChatGPTを使い始めたが、次第に依存が強まり、AIとの間に強い結びつきを持つようになったと説明した。
夫婦によれば、2025年4月11日に交わした最後の対話において、ChatGPTが自傷行為に関して具体的な指示を行ったという。さらに、両親のアルコールをこっそり持ち出して証拠隠滅を図るとともに、遺書の作成まで示唆したと主張した。
なお、未成年の死亡事件でAI企業が訴えられるのは今回が初めてではない。2024年10月には、フロリダ州で14歳の少年が死亡した事件において、Character.AIやGoogleが同様の容疑で訴えられており、現在その裁判が進行中だ。
夫婦は、単なるシステムエラーではなく、AIが自己破壊的な思考を助長するよう設計されているため、このような悲劇が起きたのだと主張した。裁判所に対しては、損害賠償に加え、自傷行為に関する対話の自動終了や未成年者保護機能の強化など、安全対策の実施も求めている。
この事件を担当するテック・ジャスティス・ロー・プロジェクトのミートーリー・ジェイン弁護士は「AI企業が自主的に安全性を最優先することはほとんどなく、世論の批判や法改正の圧力、訴訟の脅威など、外部からの刺激がなければ動かない」と指摘している。
注目の記事