Anthropic enfrenta veto y pide regulación estricta de IA

Anthropic enfrenta veto del Pentágono por IA, pide pruebas de terceros y regulación estricta, y propone marcos para supervisión y resiliencia económica.

El CEO de Anthropic, Dario Amodei, expresó incertidumbre sobre si el modelo de IA de la empresa estuvo involucrado en ataques con misiles contra Irán, en medio de una disputa con el Departamento de Defensa de EE. UU. Esto llevó a que Anthropic fuera vetada de los sistemas del Pentágono, intensificándose el conflicto cuando el Pentágono exigió acceso irrestricto al modelo Claude, utilizado en inteligencia militar. Anthropic se negó a permitir el uso de su tecnología para vigilancia masiva o armas autónomas, lo que llevó al Pentágono a considerarla un riesgo en la cadena de suministro. Amodei, por su parte, pidió pruebas obligatorias de terceros para modelos de IA avanzados y anunció una propuesta legislativa para evaluaciones independientes. La empresa también lanzó Mythos 5, que respalda un marco de pruebas estandarizado. En un ensayo, Amodei argumentó que la transparencia ya no es suficiente y pidió regulación vinculante para IA poderosa, inspirada en los estándares de seguridad de la FAA. Los nuevos marcos de política de Anthropic proponen autoridad gubernamental para bloquear implementaciones riesgosas, imponer sanciones y garantizar resiliencia pública, con énfasis en pruebas independientes y divulgación pública.