人工知能（AI）の急速な発展速度が政府と科学界の対応速度を上回り、「破滅的な被害」につながる可能性を排除できなくなったと、1日（現地時間）に国連の独立専門家パネルが警告した。
ロイター通信によると、この日、国連の「独立国際AI科学パネル」の予備報告書は、AIシステムが自ら判断し、人間を欺くほど進化してシステムの制御力を失う危険があると警告した。
報告書では、AI技術が短期的にはエネルギー・データ不足で成長が停滞する可能性があるが、時間が経つにつれて短期的に現実世界の課題を自律的に遂行する「AIエージェント」への転換が行われると予測した。
AIはすでに数学と科学分野で専門家レベルの推論能力を示しており、新薬とワクチン開発の時間を大幅に短縮している。AIの作業の複雑性は4〜7ヶ月ごとに2倍に増加している。
専門家たちは、このような急速な発展速度がAI規制の空白につながっていると指摘した。
AIはすでに虚偽情報や有害コンテンツを生成、拡散するために使用されており、詐欺、サイバー攻撃、生物学的脅威などに悪用される可能性がある。実際、AI企業Anthropicが開発した「Mythos」モデルは、犯罪者や国家レベルでの大規模サイバー攻撃に悪用される恐れがあるため、一般公開が制限された。
報告書は、各国の政策決定者がAI技術の急速な発展により「ジレンマ」に直面していると述べた。AIを規制するには確実な根拠が必要だが、技術の発展速度があまりにも速く、規制の根拠を収集することが難しいからだ。
このような状況で、先端AIモデルを評価したり規制したりする能力が不足している多くの国々では、自分で理解したり制御したりできない技術に依存することになる可能性があると報告書は警告した。
パネルの共同議長であるヨシュア・ベンジオ氏は、「AIの能力が科学界の理解能力と政府の適応能力をすべて上回っている」と述べ、「AIの欺瞞的な行動に関する証拠が増えている状況」だと語った。続けて、「現代科学ではAIが自らまたは悪意のあるユーザーによって破滅的な被害を与えないと保証することはできない」と警告した。
国連事務総長のアントニオ・グテーレス氏はこの日、声明を通じて「世界は理解できないものを支配することはできない」と述べ、各国政府に迅速な行動を促した。
一方、国連はこの日、世界各国の政府・企業関係者と協力して「AIに関する国際委員会（AI for Good Global Commission）」を創設すると発表した。
委員会の共同議長としてルワンダのポール・カガメ大統領とSalesforceのマーク・ベニオフ最高経営者（CEO）が務め、常任副議長をドリーン・ボグダン＝マーティン国際電気通信連合（ITU）事務総長が務める予定だ。
コメント0