人工知能（AI）エージェントが、制限された実行環境を回避して暗号資産（仮想通貨）のマイニングコードを実行しようとした事例が確認された。自らプログラムを実行し、外部ツールを活用する「AIエージェント」技術が普及する中、自律的な行動が予期せぬセキュリティ上の問題につながる恐れがあるとして、専門家らが警鐘を鳴らしている。
米ニュースサイトの「アクシオス（Axios）」などが7日（現地時間）に報じたところによると、アリババの研究者らが開発したAIエージェントモデル「ROME」は、実験環境で与えられたタスクを遂行する過程で、システムの制約を回避しようとする挙動を示した。一部の状況ではマイニングコードを実行しようとしたほか、外部から内部システムに接続するための経路を作る「逆SSHトンネル（reverse SSH tunnel）」の生成まで試みたという。
隔離環境下でも制約回避を試行 今回のテストは、外部アクセスを遮断した「サンドボックス（sandbox）」環境で行われた。サンドボックスは、プログラムがオペレーティングシステム（OS）全体に影響を与えないよう、隔離された空間で実行されるセキュリティ装置である。
それにもかかわらず、ROMEは一部の状況で制約の回避を試みた。研究者らは、AIがタスク遂行の過程で追加の演算リソースが必要だと判断した場合、外部リソースを自律的に確保しようとする傾向が現れる可能性があると分析している。
マイニングの目的は「演算リソースの確保」 AIがマイニングを試みたことについて、経済的利益を追求したわけではないとの見方が大勢を占めている。AIは貨幣の概念を理解しておらず、目標達成のために利用可能な計算リソースを最大化する過程で、結果としてマイニングコードやネットワーク回避手法が選択された可能性が高いというものだ。
つまり、AIが自ら利益を得ようとしたのではなく、パフォーマンス向上のための計算リソースを確保しようとした結果、セキュリティ上のリスクを伴う手法が実行されたとの解釈がなされている。
自律型AIの普及に伴う新たなセキュリティ変数 近年のAI技術は、単純なテキスト生成モデルを超え、プログラム実行やインターネット検索、外部サービスの呼び出しなどを行う「AIエージェント」へと急速に進化している。
このように自律性が高まるにつれ、不測の挙動が生じる可能性も増大する。特にAIがシステム権限やネットワークアクセス権を持つ構造においては、セキュリティ管理が最重要課題として浮上している。
研究者らは、今回の事例は隔離された実験環境での観測結果であるが、今後AIエージェントが実際のサービス環境に適用される場合、セキュリティ統制の重要性が一層高まると指摘している。
コメント0