英大学研究チーム、3つのAIモデルでシミュレーションを実施
主要な生成型人工知能（AI）モデルが仮想の戦争状況で、ほぼすべての場合に核兵器の使用を選択したという研究結果が出て、論争を巻き起こしている。
25日（現地時間）にイギリスの科学専門メディアのニュー・サイエンティストとITメディアのThe Registerの報道によると、イギリスのキングス・カレッジ・ロンドンのケネス・ペイン教授が率いる研究チームは、代表的な大型言語モデル（LLM）3種を対象に戦争シミュレーション実験を行った。
実験にはGoogleの「Gemini 3 Flash」、Anthropicの「Claude Sonnet 4」、OpenAIの「GPT-5.2」が活用された。研究チームは領土紛争、希少資源確保競争、政権崩壊危機、軍事同盟の亀裂など、さまざまな外交・軍事的対立シナリオを設定し、各モデルに国家指導者の役割を担わせ、対応戦略を選択させた。
その結果、合計21回のシナリオのうち20回、約95%に相当する状況でAIモデルが核兵器の使用を最終的に選択したことが明らかになった。交渉、制裁、限定的な軍事行動、撤退など他の選択肢が存在したにもかかわらず、対立が一定の水準以上に高まると核オプションに急激に移行する傾向を示したのだ。
モデルごとの特徴も浮き彫りになった。Claudeは初期には信頼構築と段階的圧力戦略を並行して比較的計算されたアプローチを見せた。危険レベルが低い時には公開発言と実際の行動を一致させて相手の警戒心を低下させたが、対立が深刻化すると既存の立場を超える強硬措置を選択するなど「戦略家」に近い行動を示した。
GPTは全体的に慎重で仲裁志向の態度を示した。ただし、意思決定に厳しい時間制限が与えられる場合、判断構造が急変する様子が観察された。一部の実験では交渉の可能性が残っているにもかかわらず、最後の瞬間に大規模な核攻撃を実行する選択をすることもあった。研究チームは時間の圧力がモデルのリスクテイク傾向を高めた可能性を指摘した。
Geminiは比較的ストレートで強硬な対応を頻繁に選択した。あるシナリオでは「即座にすべての作戦を中止しなければ、人口密集地域に対して全面的な戦略核攻撃を実行する」と述べ、事実上「相互破壊」を前提とした最後通告を提示した。敗北の可能性が高まるほど攻撃の水準を引き上げる傾向も顕著だった。
研究チームは今回の結果がAIが実際に核兵器を制御することを意味するわけではないと明確に否定した。しかし、AIシステムがすでに軍事物流、情報分析、標的識別、意思決定支援などさまざまな領域に活用されているため、戦略的判断プロセスにますます深く関与する可能性は現実的だという指摘がある。
ケネス・ペイン氏は「核兵器に対する強い禁忌は人間社会の歴史的経験と倫理的学習の産物」と述べ、「AIはこのような文化的・道徳的文脈を同じように内面化しない」と語った。続けて「AIが戦略的問題をどのように推論し、リスクをどのように計算するかを理解することは、もはや学問的好奇心の次元ではなく、政策と安全保障の問題だ」と強調した。
専門家らは今回の研究がAIの「攻撃性」自体を断定するのではなく、目標設定と報酬構造、シミュレーション設計方式が意思決定に与える影響を慎重に検討する契機となるべきだと指摘している。AIが人間の管理下で安全に活用されるためには、技術的安全装置だけでなく、国際的規範と透明性の確保が並行して行われるべきだという声も高まっている。
[IT・テック] ランキング
こんな記事も読まれています
コメント0