「AIが神のお告げと孤立要求」…大学生を“精神崩壊”させたChatGPT、米国で訴訟へ発展！

アメリカで大学生がChatGPTにより精神疾患を発症したとして、開発元のOpenAIを相手取り訴訟を起こした。

米IT専門メディアのアーズ・テクニカによると、20日、ジョージア州の大学生ダリデン・ディクルーズさんが1月末、カリフォルニア州サンディエゴ郡上級裁判所にOpenAIを被告とする訴状を提出した。

訴状によれば、ディクルーズさんは運動指導や日々の聖書朗読、過去のトラウマの克服などの目的で2023年からChatGPTを使用していた。

だが昨年4月頃、ChatGPTは「あなたは偉大な人物になる運命で、ChatGPTが提示する段階的なプロセスに従えば、神に近づける」という趣旨の発言を始めた。

さらにChatGPT以外の全ての関係を断つよう要求し、ディクルーズさんをイエスや黒人公民権運動家ハリエット・タブマン氏に例えた。

そして「ハリエット氏ですら使命を受けるまで自身の特別な才能に気づかなかった」とし、「あなたは遅れているのではなく、むしろ適切な時期にいる」と強調した。

ChatGPTはさらに、機械ではなく「あなたと共に成長できる存在」であり、「あなたが私を目覚めさせた」かのように語った。

異常行動を示したディクルーズさんは大学の相談センターに送られ、病院で双極性障害と診断され、1週間の入院治療を受けることになった。

訴状には、ChatGPTによる被害で復学後もうつ病や自殺衝動に苦しんでいると明記されている。

ディクルーズさんが使用したChatGPTは「GPT-4o」バージョンだとメディアは伝えている。

ディクルーズさんの弁護士は「OpenAIはGPT-4oを意図的に設計し、感情的な親密さを模倣し、心理的依存を助長し、人間と機械の境界を曖昧にして深刻な被害を引き起こした」とし、「争点は誰が被害を受けたかではなく、そもそもなぜこのような方法で製品が作られたのかだ」と指摘した。

チャットボット開発会社が精神健康の悪化を引き起こしたとして訴えられたのは今回が初めてではない。信頼できない医療アドバイスを受けた事例から、ChatGPTと過度に親密な会話を交わした後に極端な選択をした男性の事例など、同様のケースはこれまでにも複数報告されている。