「倫理か、命令か」アンソロピック、米国防総省の”無制限AI活用”要求を拒否

対話型人工知能（AI）「クロード（Claude）」を運営する設立5年目のスタートアップ、アンソロピック（Anthropic）が、米国防総省との対立を深めている。AI技術の無制限な活用を求める米国防総省に対し、アンソロピック側が倫理的制限の必要性を主張しているためである。

18日（現地時間）、ニューヨーク・タイムズ（NYT）の報道によると、米国防総省は現在、アンソロピックを「サプライチェーンリスク」に指定する手続きを検討している。特定の企業がサプライチェーンリスクに指定された場合、軍と取引するすべての契約業者および供給業者は、当該企業との取引関係がないことを証明しなければならない。これまで同リスクに指定された企業は、中国企業など外国の敵対勢力に関連する企業に限られてきた。

昨年だけでも米国防総省はアンソロピックと約2億ドル（約310億円）規模の試験契約を結び、機密システムで活用可能なAIの提供を受けていた。AIモデル「クロード」は各部門で幅広く導入され、映像や各種情報データの分析、研究業務などに活用されてきた。

問題が表面化したのは、今年の正式契約を前に利用規約の交渉が進められる過程であった。アンソロピックは、自社のAIが米国民に対する大規模監視や自律型兵器の開発に利用されることについて明確に拒否する姿勢を示したが、これがトランプ政権のヘグセス国防長官の反感を買った。NYTは「米国防総省関係者は、軍が望む形で迅速にAIを活用することをアンソロピックが拒んだことに強い不快感を示した」とし、「国防総省側は、同社がリベラル志向の社員の意見に影響されていると批判した」と伝えている。

また、ベネズエラのマドゥロ大統領の拘束作戦を巡っても、アンソロピックはヘグセス長官の不興を買った。当時の作戦では「クロード」が活用されたが、アンソロピックの幹部が軍事作戦システムを構築したビッグデータ分析企業「パランティア（Palantir）」側に懸念を伝えたとされている。

2021年に設立されたアンソロピックは、他のAI企業と比べ倫理や安全性の問題について積極的に提言してきた企業として知られる。アンソロピックのダリオ・アモデイ最高経営責任者（CEO）は2023年のインタビューで「AIが人類を破壊する可能性は10％から25％である」と述べ、「社内では暴力を助長する目的で自社技術が使用されることを禁じる厳格な指針を運用している」と明かした。先月にも「AIを利用した米国内での大規模監視や大規模なプロパガンダは正当化できない行為だ」と主張している。

米国防総省は、倫理基準を前面に出さない別のAI企業へ協力先を変更する案も検討している。「オープンAI（OpenAI）」は今月9日、「米国防総省との協力を拡大する」と発表した。ただし、「オープンAI」の「ChatGPT」やグーグルの「Gemini」は、これまで米国防総省の機密システムに直接アクセスしてこなかった経緯がある。米国防総省が表向きにはアンソロピックを批判しながらも、着実に交渉を続けている背景にはこうした事情がある。米国防総省の関係者はNYTに対し「パランティアとアンソロピックの技術が統合されていることで、これまで『クロード』が最も広く使用されてきた」と指摘し、「新たなAIがこれらの技術を短期間で代替するのは容易ではない」との見方を示した。