Anthropic conteste son classement comme risque IA

Anthropic poursuit le gouvernement américain pour avoir été qualifiée de risque après avoir refusé de retirer les garde-fous de sécurité de son IA. Elle conteste cette désignation et les restrictions imposées.

Anthropic a intenté plusieurs poursuites contre le Département de la Défense des États-Unis et d'autres agences fédérales après avoir été désignée comme un risque pour la chaîne d'approvisionnement et la sécurité nationale. Le litige concerne le refus d'Anthropic de retirer les garde-fous de sécurité de son IA Claude, qui empêchent son utilisation pour des armes autonomes et la surveillance de masse. Le Pentagone souhaitait un accès illimité à Claude pour tout usage légal, mais Anthropic a maintenu ses limites éthiques. Suite à cette désignation, le gouvernement a suspendu un contrat de 200 millions de dollars et ordonné l'arrêt de l'utilisation des produits Anthropic par les agences fédérales. Anthropic affirme que ces actions sont illégales, violent ses droits constitutionnels et dépassent l'autorité gouvernementale. Les poursuites visent à annuler la désignation de risque et à bloquer son application, ce qui pourrait faire jurisprudence pour la régulation de l'IA.