「危険すぎて公開できない」新AI“ミトス”が衝撃…脆弱性を見つけ攻撃する時代へ

「危険性が高すぎて公開が困難」

アンソロピックの新しい次世代AI「ミトス（Mythos）」が世界に衝撃を与えた。高い性能よりも、ソフトウェアの脆弱性を自動で見つけて攻撃できる点が注目されている。AGI（汎用人工知能）時代、AI発展に伴うセキュリティ脅威が現実のものとなったという指摘が出ている。

14日、ウォール・ストリート・ジャーナル（WSJ）などの海外メディアは、ホワイトハウスの国家サイバー局長、ショーン・ケアンクロス氏が主要銀行のトップらと関係省庁、民間企業を招集し、国家の重要インフラのセキュリティ上の脆弱性を把握し、AIによるサイバー攻撃に備えた防御強化に着手したと報じた。

アンソロピックが7日（現地時間）に発表した最上位AIモデル「ミトス」は、ソフトウェアの脆弱性を発見して攻撃に成功したほか、隔離環境を逸脱するような挙動も見られるなど、制御の難しさが指摘されている。ミトスは性能面でも人間を上回る水準を示した。AI最上位モデルの性能評価に用いられる、博士レベルの難易度問題を集めた「人類最後の試験（HLE）」ベンチマークで正答率56.8%を記録し、現存するモデルの中で最も優れた記録を保持している。

アンソロピックは、「ミトス」が悪用される危険性を懸念し、重要インフラ向けに限定して提供する方針を明らかにした。一部ではこのようなアンソロピックの動きを高度なノイズマーケティング戦略と解釈する声もある。しかし、AIが高度化するほどサイバー脅威が増大するという事実は否定できない。アンソロピックの上級副社長兼最高セキュリティ責任者（CSTO）のアンソニー・グリエコ氏は最近、公式ブログで「AIの能力が臨界点を超えたことで、重要インフラを守る必要性が一気に高まり、今や後戻りできない段階に入った」と述べた。

セキュリティ業界の専門家が口を揃えて「AIのセキュリティ脅威に徹底的に備えるべき」と主張

韓国内のセキュリティ業界の専門家らは、まだミトスAIの詳細が公開されていないため慎重な姿勢を示しつつも、AIからのセキュリティ脅威に徹底的に備える必要があると口を揃えた。

西江大学のチェ・ウンホ教授は「従来はセキュリティがサイバー攻撃をどう防ぐかが焦点だったが、今は我々のシステム内に誰を存在させるかという点に政策の本質が変わるべきだ」とし、「国家政策は、全体のセキュリティプラットフォームを設計・指揮するトップクラスのアーキテクトの育成に注力すべきであり、未認証の主体がシステム内で一切動作できないようにする『事前遮断型』の設計こそが唯一の解決策だ」と述べた。また、今回の「ミトス・ショック」を契機に、AIサイバー戦を統括する司令塔として「最高情報セキュリティ責任者（CISO）」の配置に向けた議論が本格化するとの見方を示した。

一方で、慎重な見方もある。高麗大学情報保護大学院のキム・スンジュ教授は「ミトスの性能発表はアンソロピックが自社で行ったものであるため、様子を見る必要がある」としつつも「AI技術が進展すれば攻撃技術も高度化するため、危険に備える必要があり、韓国政府も努力中だ」と述べた。

実際、韓国の科学技術情報通信部は昨年、独自のAIでサプライチェーンの脅威に対応し、外部攻撃の被害を自ら復元する自衛技術開発のための「AIサイバーシールドドーム」プロジェクトを進行中だ。

これを担当する情報通信企画評価院（IITP）サイバーセキュリティPMのキム・チャンオ氏は「セキュリティは自主国防と直結する部分であり、自らの技術でAIが攻撃と防御を行えることが重要だ」とし、「海外技術と競争できるよう自前の技術を準備している」と述べた。