国連事務総長であるアントニオ・グテーレス氏が6日（現地時間）、人工知能（AI）を制御するため世界的に調整されたルールを整備する必要があると述べた。
6日（現地時間）AFP・ロイター通信によると、グテーレス事務総長はこの日スイス・ジュネーブで開かれた初の政府級「AIガバナンスに関するグローバル対話」で、AIが規範・制度が追いつくのが難しいほど急速に発展していると指摘した。
同氏は「経済を再編し、仕事の世界を変え、選挙を揺るがし、安全保障のバランスを崩しかねない技術が、それを作る者さえ追いつけない速度で広がっている」としたうえで、「革新には安全装置が必要だ。AIが強力になるには必ず（人間による）管理が不可欠だ」と強調した。
また、AIがすでに世界を変えているとした上で、「我々がこの変化を主導して形作るのか、それとも変化に翻弄されるがままになるのかが問われている」と述べた。
そして、AIシステムがもはや命令を待つ道具ではなく、コードを作成し、オンラインで活動し、人間の監視が減るなかで選択を行っていると指摘した。そのうえで、「我々の制度は命令に従う機械を管理するよう設計されている。決定を下す機械を扱う準備はできていない」と警鐘を鳴らした。
グテーレス事務総長はAIが何が真実で何が偽りかをより曖昧にしており、重要な課題をAIに任せた後、その結果を盲信する傾向も高まっていると懸念を示した。
同氏は人が直接コーディングせずにAIに望む結果を伝えれば自ら実現可能なプログラムコードを実装してくれるいわゆる「バイブコーディング」について「驚くべきことを成し遂げられる」と評価した。しかし「我々は真実や人類の未来をバイブコーディングできない」とも述べた。
そして、AIから子供を守る必要性も強調した。「我々は安全性が証明されるまで子供に薬を与えず、全てのおもちゃを検査する。しかしAIは誰もそれが子供たちに何をするか尋ねる前に、すでに子供たちの学習、友情、最もプライベートな質問にまで及んでいる」と指摘した。
さらに同氏は、企業に対し、子どもがアクセスできるAIシステムの安全性を証明し、性的虐待を断固容認しない原則を適用する「AI児童安全国際誓約」への参加を提案した。また、AIシステムが苦痛の兆候を示す子どもを実際の人間による支援へとつなげるべきだとした上で、「どの子どもも規制のないAIの実験対象になってはならない」と訴えた。
AIによる被害の可能性を減らし、AIを活用したルール設定の方法を議論するために開かれた今回の会議に参加した各国政府と技術企業、学界、市民社会の関係者は、国連の支援を受ける科学パネル所属の専門家40人が作成したAI関連の予備報告書を検討する。パネルは来年、より包括的な内容を含む報告書を公開する計画だ。「AIガバナンスに関するグローバル対話」の第2回会議は来年、米国ニューヨークで開催される予定だ。
コメント0