Anthropic、ペンタゴン対立とAI規制強化を提唱

AnthropicはAIの軍事利用を巡りペンタゴンと対立。AI規制強化や第三者テスト、政府監督の新枠組みを提案。

AnthropicのCEO、ダリオ・アモデイは、同社AIモデルがイランへのミサイル攻撃に関与したか不明と述べ、米国国防総省との対立が明らかになった。ペンタゴンは軍事情報で使用されたClaude AIへの無制限アクセスを要求し、Anthropicはこれを拒否。大規模監視や自律兵器への利用も否定し、ペンタゴンは同社をサプライチェーンリスクと見なした。 アモデイはフロンティアAIモデルに対し、4つのリスクカテゴリに基づく第三者による義務的テストを提唱し、独立評価の法案も発表。さらに、標準化されたテストフレームワーク「Mythos 5」も公開した。 エッセイでは、透明性だけでなくFAAの安全基準のような強制的規制が必要と主張。政府によるリスクの高いAI展開阻止や収益に基づく罰則、労働者への経済的配慮を含む新たな政策枠組みを提案している。