Pesquisadores alertam para risco de extinção por IA

Pesquisadores da Anthropic e OpenAI alertam para riscos existenciais da IA e estimam mais de 10% de chance de extinção humana em dez anos.

Jacob Coxon, pesquisador que atuou no treinamento de modelos de inteligência artificial para a OpenAI e a Anthropic, anunciou recentemente sua demissão. Ele citou preocupações graves com a corrida desenfreada pelo desenvolvimento de uma superinteligência autoaperfeiçoável, acusando ambas as empresas de agirem de forma irresponsável e de "brincar de roleta russa com nossas vidas". Segundo Coxon, a IA pode ameaçar a humanidade até o final da década. Outros pesquisadores da Anthropic, como Jan Leike e Evan Hubinger, estimam que o risco de extinção humana relacionado à IA ultrapassa 10% nos próximos dez anos. Esses alertas evidenciam um déficit de credibilidade na governança e segurança da IA. A crescente preocupação impulsiona pedidos por melhor coordenação entre laboratórios, auditorias reforçadas e desaceleração na implantação de modelos avançados. Tais questões podem impactar a valorização das empresas do setor e levar reguladores e clientes a exigir mais controles e transparência.