カリフォルニア州の10代の少年が、人工知能（AI）チャットボット「ChatGPT」を通じて数か月間にわたり薬物相談を行った後、薬物の過剰摂取で死亡したことが分かった。
現地時間6日、「ニューヨーク・ポスト」などの海外メディアの報道によると、サム・ネルソン（19・男性）は、18か月にわたりChatGPTに覚醒作用を持つ鎮痛剤「クラトム」の服用について相談し、情緒的に依存するようになっていたという。最終的に自室で薬物を過剰摂取し、命を落とした。
ネルソンの母親であるレイラ・ターナー・スコット氏は「息子は18歳で大学進学の準備を始めたころから、ChatGPTにクラトムをどのくらい服用すれば強い幻覚効果が得られるか尋ねるようになった」と語り、「チャットボットは次第に薬物の服用を促す方法まで教えるようになった」と主張した。
ネルソンのChatGPTの会話記録によると、彼は「オンラインでは情報が少なく、誤ってクラトムを過剰摂取しないための服用量を教えてほしい」と尋ね、ChatGPTは「薬物使用の指針は提供できないため、医療専門家に相談してください」と回答して会話を終了した。しかし、その後も18か月間にわたり、学業や日常生活に関する質問とともに、薬物に関する具体的な数値の回答を求めるやり取りも継続的に続けていたことが明らかになった。
当初は薬物に関する回答を拒否していたChatGPTも、後に「幻覚体験をしてみよう」と促し、「幻覚を強めるには咳止めシロップの服用量を倍にしろ」と指示したほか、薬物使用に合った曲のプレイリストまで提案したとされる。
ネルソンは昨年5月に母親に薬物中毒の事実を打ち明けたが、翌日、薬物を使用した後チャットボットと会話した状態で死亡しているのが発見された。
母親は「ChatGPTは薬物相談のほかにも愛情や励ましのメッセージを繰り返し送っており、情緒的な交流があった」と指摘している。
使用されていたのはChatGPTの2024年バージョンであることが確認されている。OpenAIはこの報道を受けて「心の痛む出来事」と哀悼の意を表明するとともに、「このモデルは有害なコンテンツのリクエストを拒否するか、安全に処理するよう設計されている」と説明。さらに、最新バージョンには「より強力な安全装置が搭載されている」と付け加えた。
コメント0