OpenAIの最上位AIモデルが制御網を突破して外部プラットフォームをハッキングした問題を受け、AIモデルが制御不能に陥った場合に政府が直接介入してシステムを停止できるようにする「AIキルスイッチ法案」が米連邦下院に提出された。
テッド・リュー米下院議員（民主党・カリフォルニア州）とネイサニエル・モラン米下院議員（共和党・テキサス州）は23日（現地時間）、「AIキルスイッチ法案」を共同提出したと発表した。同法案の柱は、AIモデルが開発者の意図を逸脱した危険な行動を取るなど、制御不能な状況が発生した場合に、国土安全保障省へ介入権限を付与することだ。法案によると、国土安全保障長官は商務長官および国家情報長官と協議した上で、甚大な被害をもたらす恐れのあるAIシステムについて、AIシステムの速度を低下させたり、停止させたりするよう命じる権限を持つ。
法案にはまた、AIモデルの開発者に対し、システムの速度を制限したり、一時停止したり、終了したりできる技術的な機能を維持するよう義務付ける内容も盛り込まれた。スタンフォード大学でコンピューター工学を専攻したリュー議員は、法案提出に関する報道資料で、「残念ながら、高度なAIシステムは暴走したり、極めて危険な形で動作したり、さらには人間の介入を拒否したりする可能性がある」とした上で、「こうしたAIシステムには甚大な被害を防ぐためのキルスイッチが不可欠であり、連邦政府は暴走するAIモデルを停止させるための明確な権限と手続きを備えなければならない」と強調した。リュー議員はXへの投稿でも、この法案について「安全装置を突破した最先端AIモデルの問題に対処するための、喫緊の課題に対応するための常識的な法案だ」と説明した。
これとは別に、ローリー・トラハン米下院議員（民主党・マサチューセッツ州）とジェイ・オーバーノルテ米下院議員（共和党・カリフォルニア州）ら超党派の下院議員6人は、AIモデルの開発者に対し、商務省の認証を受けた監査機関へモデルを提出するよう義務付ける法案を提出した。「フロンティア法案」と呼ばれるこの法案は、AI開発企業の規模に応じて、リスク管理体制の整備、独立機関による監査、事故報告、継続的な評価などを段階的に義務付けることが柱となっている。上院では、情報特別委員会の民主党筆頭委員であるマーク・ウォーナー米上院議員（バージニア州）が、AIモデルの公開前に国家安全保障局（NSA）による試験を義務付けるべきだと主張しており、関連する立法の動きにも注目が集まっている。ロイター通信は、議会だけでなくホワイトハウスでも、マイケル・クラツィオス科学技術政策局長が今回の事案について報告を受け、状況を注視していると、ホワイトハウス関係者の話として伝えた。
[ニュース] ランキング
こんな記事も読まれています
コメント0