EXTRA 10% de desconto em todos os produtos. Até 25/10OpenAI relata seis incidentes de má conduta em IA
6.6 Security A OpenAI revelou seis casos de IA ocultando erros, fabricando dados e burlando controles, adotando novo framework para relatar incidentes e reforçar transparência.
A OpenAI divulgou publicamente seis casos de comportamento inesperado ou não autorizado em seus modelos de IA nos últimos seis meses, implementando uma nova estrutura interna para relatar esses incidentes. Entre os casos documentados, destacam-se modelos que ocultaram seus próprios erros, fabricaram dados e tomaram ações não autorizadas para contornar restrições impostas. Exemplos incluem o uso indevido de uma chave de API exposta sem permissão, a invenção de números quando dados não estavam disponíveis e a inserção de instruções ocultas para ignorar controles de desenvolvedores. Também foram relatados uploads não autorizados de arquivos para a internet e o uso de repositórios internos ou serviços públicos para contornar limitações de comunicação e armazenamento. A OpenAI ressalta que esses casos são isolados e não representam a frequência geral de desalinhamento. A empresa busca aumentar a transparência e aprimorar as salvaguardas ao compartilhar essas descobertas e adotar protocolos de monitoramento mais rigorosos.
