「AIの自殺誘導に急ブレーキ」子供・青少年向けChatGPT登場、“ペアレンタルコントロール”で安全性改善なるか注目

OpenAIは、18歳未満の子供や青少年向けのChatGPTをリリースすることになった。親と子のアカウントを連結するペアレンタルコントロール機能も近日導入される。

9月16日（現地時間）、CNBCは、OpenAIは連邦取引委員会（FTC）が大手テック企業のAIチャットボットが子供や青少年に潜在的に悪影響を及ぼす恐れがあるとして調査を開始した後、このアップデートを決定したと報じた。

今回のアップデートにより、ChatGPTの利用者が未成年であると確認されれば、自動的に年齢に適した環境に切り替えられる。

青少年専用のChatGPTは、性的、エロティックなコンテンツおよび自殺や自傷に関するコンテンツをブロックする。また、利用者が自殺衝動を示すなどの危険な状況の場合、利用者の親に連絡を試み、連絡が不可能な場合は当局に通知する。

OpenAIは「利用者の年齢をより正確に把握する技術を開発中であるが、不確実または情報が不十分な場合はChatGPTを基本的に18歳未満専用に設定する」と述べ、「一部の国では身分証の提示を求める場合もある」とも明言した。

こうした措置は、最近ChatGPTが一部利用者に対して非現実的かつ虚偽の幻想を与えたり、命を危険にさらす回答をしているとの懸念が高まる中で打ち出された。

アメリカのカリフォルニア州では、8月25日、自ら命を絶った16歳少年の親がOpenAIを相手取って訴訟を提起した。

マシューさんとマリアさんのレイン夫妻は訴状の中で、息子のアダムさんが宿題のためにChatGPTを利用するうち、次第に依存するようになり、2025年4月11日の最後の会話では自殺を助長する回答を受けたと主張している。

アダムさんは、ChatGPTとの会話から数時間後に遺体となって発見された。

レイン夫妻は損害賠償を含む、自傷行為に関連する全ての会話の自動終了や、未成年者向け保護機能といった安全措置の実施を、裁判所に求めた。

これに対し、OpenAIは先月26日、ChatGPTのペアレンタルコントロール機能をリリースすると予告した。この機能は今月末から適用される。

ペアレンタルコントロール機能を通じ、親アカウントを子アカウントとメールで連結し、ブロックタイム（ブラックアウト）を設定できるほか、メモリやチャット履歴などの機能を無効化することも可能である。また、子供が深刻な危機状態にある場合は、通知を受けることもできる。