Anthropic与五角大楼冲突，呼吁加强AI监管

Anthropic与五角大楼因AI模型用途发生冲突，呼吁强制第三方测试和有约束力监管，并提出政府监管和独立测试新框架。

Anthropic首席执行官Dario Amodei表示，不确定公司AI模型是否被用于伊朗导弹打击。在与美国国防部的争议中，Anthropic被禁止接入五角大楼系统。冲突升级的原因是五角大楼要求对Anthropic的Claude AI模型拥有不受限制的访问权，该模型曾被用于军事情报。 Anthropic拒绝将其技术用于大规模监控或完全自主武器，因此被五角大楼列为供应链风险。Amodei呼吁对前沿AI模型进行强制第三方测试，聚焦四大风险类别，并宣布推动立法以实现独立评估。公司还发布了Mythos 5，支持标准化测试框架。 Amodei在文章中指出，透明度已不足以应对AI风险，呼吁对强大AI实施类似FAA安全标准的强制监管。Anthropic的新政策框架建议政府有权阻止高风险AI部署，按收入征收罚款，并确保公众韧性，重点关注先进模型对劳动力的经济影响。框架还要求对强大AI系统进行独立测试、强化安全和公开披露。