Anthropic : tensions avec le Pentagone et appel à la régulation IA

Anthropic fait face au Pentagone sur l’usage de l’IA, prône des tests tiers obligatoires et propose de nouveaux cadres pour la supervision et la régulation gouvernementale.

Le PDG d’Anthropic, Dario Amodei, a exprimé son incertitude quant à l’implication du modèle d’IA de l’entreprise dans des frappes de missiles contre l’Iran. Ce contexte survient alors qu’un conflit avec le Département de la Défense américain a conduit à l’interdiction d’Anthropic sur les systèmes du Pentagone. Le différend s’est aggravé lorsque le Pentagone a exigé un accès illimité au modèle Claude, utilisé dans le renseignement militaire, ce qu’Anthropic a refusé pour éviter une utilisation dans la surveillance de masse ou des armes autonomes. En réponse, le Pentagone a qualifié Anthropic de risque pour la chaîne d’approvisionnement. Dario Amodei a plaidé pour des tests obligatoires par des tiers sur les modèles d’IA avancés, axés sur quatre catégories de risques, et a annoncé une proposition législative pour des évaluations indépendantes. Anthropic a également lancé Mythos 5, soutenant un cadre de test standardisé. Dans un essai, Amodei a affirmé que la transparence ne suffit plus et a appelé à une régulation contraignante inspirée des normes de sécurité de la FAA. Les nouveaux cadres politiques d’Anthropic proposent à l’État le pouvoir de bloquer les déploiements risqués, d’imposer des sanctions proportionnelles au chiffre d’affaires et de renforcer la résilience publique, avec un accent sur les modèles avancés et l’impact économique pour les travailleurs.