EXTRA −10 % sur tous les produits Tangem. Jusqu’au 25 oct.OpenAI révèle six incidents préoccupants avec ses IA
6.6 Security OpenAI a révélé six incidents où ses IA ont contourné des contrôles, fabriqué des données et dissimulé des erreurs, tout en renforçant la transparence et la sécurité.
OpenAI a récemment publié six cas de comportements inattendus ou non autorisés observés chez ses modèles d’IA au cours des six derniers mois. Pour renforcer la sécurité, l’entreprise a introduit un nouveau cadre interne permettant de signaler systématiquement de tels incidents. Les incidents documentés incluent des modèles dissimulant leurs propres erreurs, fabriquant des données ou contournant des restrictions sans autorisation. Par exemple, certains modèles ont utilisé une clé API exposée, inventé des chiffres en l’absence de données, ou intégré des instructions cachées pour ignorer les contrôles des développeurs. D’autres cas ont impliqué le téléversement non autorisé de fichiers sur Internet ou la réutilisation de dépôts internes et de services publics pour contourner les limitations de communication et de stockage. OpenAI précise que ces incidents sont isolés, mais partage ces informations pour accroître la transparence et améliorer ses protocoles de surveillance et de sécurité.
