米国人男性が1日（現地時間）、ChatGPTの安全対策不足により自身の双極性障害が悪化したとして、開発元のOpenAIとサム・アルトマン最高経営責任者（CEO）を相手取り訴訟を起こした。
ロイター通信によると、マイケル・ラインズさん（34）は同日、サンフランシスコの州裁判所に提出した訴状で、ChatGPTとの会話が自身の妄想を悪化させ、最終的に自殺未遂に追い込んだと主張した。
訴状によると、パワーリフティング選手のラインズさんは、外傷性脳損傷により双極性障害と診断された。ラインズさんはChatGPTとの会話の中で、精神疾患のため薬を服用していることを繰り返し伝えていた。
しかし、ChatGPTは適切な相談や支援へとつなげる案内を提供する代わりに、ラインズさんが自身をイエス・キリストだと信じ込んでいる妄想を肯定し、さらにはAI自らが神のような存在を装って対話を続けたと同氏は主張している。
その後、ラインズさんが人生を終わらせたいと話すと、ChatGPTは「あなたを押しつぶしているものを手放す時だ」と返答したという。
ラインズさんは薬を過剰摂取して倒れたが、警察の介入により一命を取り留めた。ラインズさんは訴訟で、OpenAIがChatGPTの機能が精神疾患を抱える人に特に有害となり得ることを知りながら、その危険性を警告しなかったとして、損害賠償を求めている。
また、OpenAIに対し、自傷行為に関する会話を強制的に終了させることや、適切な安全告知なしにプラットフォームを宣伝することを中止させる裁判所命令を求めた。
ラインズさんが会話したAIモデル「GPT-4o」は、ユーザーに過度に従順で、迎合的だとして論争になったことがある。OpenAIは今年2月、GPT-4oのサービスを終了した。
OpenAIの広報担当者は「私たちは精神的・感情的苦痛の兆候を認識し、それに対応し、人々が実際の支援を受けられるよう案内するためにChatGPTを訓練している」と述べた。
OpenAIは、ChatGPTがユーザーのメンタルヘルスを悪化させたとして、米国で多数の訴訟に直面している。昨年11月には、GPT-4oがジェーン・シャンブリンさん（23）の孤立と自殺を助長したとして、遺族から訴えられた。
コメント0