Investigadores alertan sobre riesgos existenciales de la IA

Expertos de OpenAI y Anthropic advierten sobre riesgos existenciales de la IA y estiman un riesgo de extinción humana superior al 10 % en la próxima década.

Jacob Coxon, investigador especializado en inteligencia artificial, anunció su dimisión tras trabajar en OpenAI y Anthropic. Coxon expresó serias preocupaciones sobre la carrera acelerada hacia el desarrollo de una superinteligencia auto-mejorable, acusando a ambas empresas de actuar irresponsablemente y de "jugar a la ruleta rusa con nuestras vidas". Según él, la IA podría representar una amenaza existencial para la humanidad antes de que termine la década. Otros expertos de Anthropic, como Jan Leike y Evan Hubinger, estiman que el riesgo de extinción humana relacionado con la IA supera el 10 % en los próximos diez años. Estas advertencias evidencian una brecha en la gobernanza y seguridad de la IA, lo que impulsa la demanda de mayor coordinación entre laboratorios, auditorías más estrictas y una desaceleración en el despliegue de modelos avanzados. El aumento de estas preocupaciones podría afectar la valoración de las empresas del sector y motivar a reguladores y clientes a exigir más controles y transparencia.