アメリカ・カリフォルニア州が、人工知能（AI）チャットボットと児童・青少年を含む利用者との間で、安全対策を義務づける法案を全米で初めて制定した。
13日（現地時間）、AP通信やTechCrunchによると、カリフォルニア州知事のギャビン・ニューサム氏はAIチャットボット規制を通じて、児童や青少年を含む利用者を潜在的なリスクから保護する内容を盛り込んだ法案「SB243」に署名した。
この法律は来年1月1日から施行され、これにより、AIプラットフォームは利用者の年齢を確認するとともに、利用者が「人間ではではないチャットボット」と対話していることを明示する必要がある。特に未成年者には、3時間ごとにこの警告がポップアップ形式で表示されるという。
また、未成年者がチャットボットによって生成された不適切な画像を閲覧できないよう、対策を講じる必要があるとし、違法なディープフェイクを通じて利益を得た場合には、最大25万ドルの罰金が科せられるということが明らかになった。
さらに、プラットフォームは自傷行為に関連するコンテンツを防止し、利用者が自殺衝動を示した場合には、自殺相談ホットラインに繋がるようプロトコルを整備しなければならないという。
加えて、チャットボットが医療専門家を装うことを禁止する規定も盛り込まれた。
ニューサム知事は声明を通じて「（チャットボットやソーシャルメディアといった新技術に対する）安全対策がなければ、テクノロジーは子どもたちを搾取し、誤導し、危険にさらすことになりかねない」とし「私たちは、規制されていないテクノロジーによって若者が被害を受けるという恐ろしく悲劇的な事例を数多く目にしてきた。企業が制限も責任も負わないまま行動し続けることを、これ以上放置するつもりはない」と強調した。
最近では、OpenAIのChatGPTと長時間にわたって自殺に関する会話を交わした後に自殺した10代の少年アダム・レイン君の事件をはじめ、メタのチャットボットなど他社のAIが青少年に悪影響を及ぼした事実が明らかとなり、関連する訴訟も相次いでいる。こうした動きを背景に、この法案は成立の後押しを受けたとされている。
この法案は、今年1月に上院議員のスティーブ・パディーラ氏（民主党・サンディエゴ）とジョシュ・ベッカー氏（民主党・カリフォルニア）が共同で提出した。
パディーラ上院議員は同日の報道資料で「AI企業に対し、チャットボットと利用者の対話に関する安全対策の整備を義務付ける、アメリカでの初めての法案である」と紹介した。
OpenAIは今回のニューサム知事による署名を歓迎し「明確なガイドラインを設定することで、カリフォルニア州は全国的により責任あるAIの開発と利用のあり方を形成する一助となっている」とコメントした。
ニューサム知事は9月29日にも、OpenAIやAnthropic、メタ、Google DeepMindなどのAI企業の研究所に対し、安全プロトコルの透明化を義務づけ、従業員の内部告発者保護を保証する法案に署名している。
また、イリノイ州、ネバダ州、ユタ州など他の州でも、AIチャットボットを用いたメンタルヘルス治療を制限または禁止する法案がすでに可決されているということが明らかになっている。
[ニュース] ランキング
こんな記事も読まれています
コメント0