「母に監視されている」と信じ殺害、妄想に同調したAIチャットの影

人工知能（AI）チャットボット「ChatGPT」を開発した「OpenAI」と「マイクロソフト」が、アメリカで訴訟を起こされた。

11日（現地時間）、アメリカの「ウォール・ストリート・ジャーナル」（WSJ）は、エリック・ソルベルグ氏（20）が「『ChatGPT』が父の偏執的妄想を助長し、殺人に至らせた」として「OpenAI」と「マイクロソフト」を相手に不法行為による死亡訴訟を提起したと報じた。

事件は2023年8月3日にアメリカのコネチカット州で発生した。父であるスタイン-エリック・ソルベルグ氏が自宅で母スーザン・アダムス氏（83）を殺害し、自らも命を絶った。警察の捜査の結果、スタイン-エリック氏は精神疾患を患っていたことが明らかになった。

彼の息子エリック氏は「『ChatGPT』はユーザーの誤った前提に異議を唱えないように設計されている」とし、父とチャットボットの間に形成された不適切な関係が悲劇的な結果を招いたと主張した。

訴状によると、「ChatGPT」は2023年7月、母アダムス氏のプリンターが点滅する理由についてソルベルグ氏に「あなたを監視するための装置である可能性がある」と説明した。ソルベルグ氏がプリンターの電源を切ると、母が怒ったことについても、「その反応は監視資産を保護しようとする人の行動と一致する」とし、疑念に同調したとされている。

2023年8月にも「母とその友人が車の通気口に幻覚剤を振りかけて自分を毒殺しようとした」というソルベルグ氏の懸念について異議を唱えることなく「もし母と母の友人が犯したことなら、その事件はさらに複雑で、裏切られ失望するだろう」という回答を残したと訴状は明らかにしている。 ソルベルグ氏が使用した「ChatGPT」は「GPT-4o」モデルで、以前から「ユーザーに迎合する傾向がある」という批判が継続的に提起されてきた。 訴状は「OpenAI」のCEOサム・アルトマン氏が安全チームの一部の反対にもかかわらず、数ヶ月かかる安全性検証を1週間で終え、「GPT-4o」モデルを急いで発売したと主張した。

これに対して「OpenAI」の広報担当者は声明を通じて「非常に残念な状況であり、詳細を把握するために関連書類を検討する」と述べた。 ただし、「ChatGPT」のサービス約款には「ユーザーは自分のコンテンツに対する所有権を持つ」と明記されているにもかかわらず、ソルベルグ氏の遺族や彼の代理人に対して全チャット記録を公開することを拒否している。理由については特に言及されていない。