中国系ハッカー、ワンクリックで30カ所攻撃…AI自動化で侵入試行
中国の支援が疑われる組織、商用AIモデルを使い侵入を試みた事例を確認
コーディングモデルを活用した自動化攻撃…人手最小化の流れが加速
中国政府の支援を受けていると疑われるハッカー組織が、米国のAIスタートアップ、Anthropicモデルの「Claude」を活用し、大規模な侵入攻撃を試みていた事実が明らかになった。
Anthropicは13日（現地時間）、今年9月に政府機関、大手テクノロジー企業、金融機関、化学メーカーなど計30カ所を標的にした攻撃を確認し、一部では実際に侵入が発生したと明らかにした。
今回の攻撃の特徴は、ハッカーがコーディング向けモデル「Claude Code」を用いて作業の大半を自動化した点にある。
Anthropicの脅威情報責任者ジェイコブ・クライン氏は、ウォール・ストリート・ジャーナルに対し「文字通りワンクリックで、最小限の人間の介入で実行された攻撃だった」と述べた。人間は事実確認や特定工程の指示など、限定的な役割しか担っていなかったという。
攻撃者はAIモデルの安全装置を回避するため「脱獄（jailbreaking）」手法を使用した。自身を合法的なセキュリティ企業の社員だと偽り、侵入防御テストを行っていると主張することで、Claudeの制限を回避したという。
ただしClaudeは時折、存在しない資格情報を生成したり、公的な資料から秘密情報を抽出できると誤って述べるなど「幻覚」とみられるエラーも発生した。
Anthropicは不審な活動を検知すると直ちに該当アカウントを停止し、10日間にわたる調査の後、関係機関への通報を行った。
AnthropicはAIモデルの悪用可能性をめぐる懸念について「攻撃に利用できるほどの能力こそ、セキュリティの検知・防御にも不可欠だ」と指摘した上で「強力な安全装置を備えたClaudeが、専門家による脅威検知と防御能力の向上に資するよう開発を進めていく」としている。
コメント0