Des chercheurs alertent sur le risque d’extinction lié à l’IA

Des chercheurs d'Anthropic et OpenAI alertent sur un risque d'extinction humaine lié à l'IA, estimé à plus de 10 % d'ici dix ans, et dénoncent une course irresponsable à la superintelligence.

Jacob Coxon, chercheur ayant travaillé sur l'entraînement des modèles d'intelligence artificielle pour OpenAI et Anthropic, a récemment annoncé sa démission. Il invoque de graves inquiétudes concernant la course effrénée au développement d'une superintelligence auto-améliorante, accusant les deux entreprises de « jouer à la roulette russe avec nos vies » et estimant que l'IA pourrait menacer l'humanité d'ici la fin de la décennie. D'autres chercheurs d'Anthropic, tels que Jan Leike et Evan Hubinger, évaluent le risque d'extinction humaine lié à l'IA à plus de 10 % dans les dix prochaines années. Ces avertissements mettent en lumière un manque de crédibilité dans la gouvernance et la sécurité de l'IA. Ils appellent à une meilleure coordination entre laboratoires, à des audits renforcés et à un ralentissement du déploiement des modèles avancés. Ces préoccupations pourraient influencer la valorisation des entreprises du secteur et inciter régulateurs et clients à exiger plus de contrôles et de transparence.