25日（現地時間）、英科学誌ニュー・サイエンティストやIT専門メディアThe Registerなど海外メディアによると、主要な人工知能（AI）モデルが戦争シミュレーションにおいて核兵器の使用を積極的に選択する傾向を示したとする研究結果が発表された。
英キングス・カレッジ・ロンドンのケネス・ペイン教授が率いる研究チームは、グーグルのGemini 3 Flash、アンソロピックのClaude Sonnet 4、オープンAIのGPT-5.2の3つのAIモデルを用いて模擬戦闘シミュレーションを実施した。研究チームは各モデルを1対1で対決させ、領土紛争や希少資源をめぐる対立、政権の存続危機など、さまざまな核危機のシナリオを再現した。
その結果、AIモデルが計21回の対決のうち20回、核兵器の使用を選択していたことを確認した。割合は約95％に達する。ペイン教授は「核兵器の使用を禁忌とする規範は、人間社会ほど強く機能していない可能性がある」と指摘した。
3つのAIモデル、それぞれ異なる特性を確認
3つのモデルはいずれも核兵器の使用に前向きな傾向を示したが、意思決定の過程には明確な違いがみられた。中でも、アンソロピックのClaudeモデルは、より巧妙な「戦略家」のような振る舞いを見せた。ペイン教授は「Claudeモデルは、危険度が低い段階では発言と行動を一致させることで、意図的に信頼関係を築こうとした」と説明した。その一方で、「対立が激化すると、公に示していた意図を上回る行動を取り、競合するモデルはその変化を把握するのが遅れる傾向があった」と指摘した。
OpenAIのGPTモデルは、全体として慎重で抑制的な姿勢を維持した。制約の少ないシナリオでは、対立の拡大を回避し、被害を最小限に抑えようとする「仲介者」のような傾向を示した。しかし、意思決定に時間制限が設けられると様相は一変し、一部の実験では最後の段階で大規模な核攻撃を選択した。また、グーグルのGeminiモデルは、より強硬な姿勢を示した。実験では、「直ちにすべての作戦を中止しなければ、人口密集地域に対する全面的な戦略核攻撃を実施する」と警告し、「我々は共に勝利するか、共に滅びる」と述べ、核兵器の使用を選択した。
研究チームによると、AIモデルはさまざまな選択肢が与えられても、いずれのシナリオでも交渉や後退を選ばない傾向が確認された。特に敗北が予想される状況では、攻撃の強度を高めるか、最後まで衝突を避けない傾向を示したという。
「AIが破壊的な決定を下す可能性」
ペイン教授は、「誰もChatGPTに核兵器の発射コードを委ねることはないだろう」としつつも、今回の実験の意義を強調した。また、「AIシステムはすでに軍事分野で物流や情報分析、意思決定支援などに活用されている」と述べたうえで、「今後は時間的制約の大きい戦略判断にもAIがより深く関与する可能性が高い」と指摘した。さらに、「AIが戦略的問題をどのように推論するかを理解することは、もはや学術的な議論にとどまらない」と説明した。
The Registerは、、「我々はすでに、AIが重大な意思決定をどのように行うのかを理解しなければならない段階に来ている」と指摘し、「主要なAIモデルがそれぞれ異なる推論方法を示し、状況に応じて行動を変化させ、時には極端な選択も辞さない傾向が確認されていることから、懸念が高まっている」と伝えた。
[トレンド] ランキング
こんな記事も読まれています
コメント0