Anthropic é banida e propõe regulamentação de IA

Anthropic é banida do Pentágono após disputa sobre IA militar, defende testes independentes e propõe regulamentação rigorosa para IA avançada.

O CEO da Anthropic, Dario Amodei, expressou incerteza sobre o envolvimento do modelo de IA da empresa em ataques com mísseis contra o Irã, após uma disputa com o Departamento de Defesa dos EUA que resultou no banimento da Anthropic dos sistemas do Pentágono. O conflito se intensificou quando o Pentágono exigiu acesso irrestrito ao modelo Claude AI, usado em inteligência militar. A Anthropic recusou o uso de sua tecnologia para vigilância em massa ou armas autônomas, levando o Pentágono a classificá-la como risco à cadeia de suprimentos. Amodei defendeu testes obrigatórios de terceiros para modelos avançados de IA, focando em quatro categorias de risco, e anunciou uma proposta legislativa para avaliações independentes. A Anthropic lançou o Mythos 5, apoiando um framework padronizado de testes. As novas políticas propõem autoridade governamental para bloquear implantações arriscadas, impor multas e garantir resiliência pública, com foco em segurança robusta, testes independentes e divulgação pública.