Anthropic ve Pentagon arasında AI anlaşmazlığı

Anthropic, AI'nin askeri kullanımı nedeniyle Pentagon ile sorun yaşadı; güçlü AI için zorunlu test ve düzenleme, hükümet denetimi önerdi.

Anthropic CEO'su Dario Amodei, şirketin yapay zeka modelinin İran'a yönelik füze saldırılarında kullanılıp kullanılmadığı konusunda belirsizlik belirtti. Bu durum, Anthropic'in ABD Savunma Bakanlığı ile yaşadığı ve Pentagon sistemlerinden yasaklanmasına yol açan bir anlaşmazlık sırasında gündeme geldi. Anlaşmazlık, Pentagon'un askeri istihbaratta kullanılan Anthropic’in Claude AI modeline sınırsız erişim talep etmesiyle tırmandı. Anthropic, teknolojisinin kitlesel gözetim veya tamamen otonom silahlar için kullanılmasına izin vermeyi reddetti ve bu nedenle Pentagon tarafından tedarik zinciri riski olarak değerlendirildi. Ayrıca Amodei, sınır AI modellerinin zorunlu üçüncü taraf testine tabi tutulmasını, dört risk kategorisine odaklanılmasını ve bağımsız değerlendirmeler için yasa teklifi sunulmasını önerdi. Anthropic, Mythos 5 ile standart test çerçevesini desteklerken, güçlü yapay zeka için bağlayıcı düzenlemeler ve hükümetin riskli AI dağıtımlarını engelleme yetkisi çağrısı yaptı.