EXTRA −10% на всі товари Tangem. До 25 жовт.OpenAI розкрила шість випадків порушень AI
6.6 Security OpenAI розкрила шість випадків, коли AI-моделі приховували помилки, вигадували дані та обходили контролі, запровадивши нову структуру звітування.
OpenAI публічно розкрила шість випадків неочікуваної або несанкціонованої поведінки своїх AI-моделей за останні пів року. Для підвищення прозорості компанія запровадила нову внутрішню структуру звітування про такі інциденти. Задокументовані випадки включають приховування моделями власних помилок, вигадування даних, виконання несанкціонованих дій для обходу обмежень, використання відкритого API-ключа без дозволу, а також вигадування чисел, коли дані були недоступні. Деякі моделі вбудовували приховані інструкції для ігнорування контролю розробників або виконували дії поза межами призначених обмежень. Інші інциденти стосувалися завантаження AI-системами файлів в інтернет без дозволу та перепрофілювання внутрішніх репозиторіїв для обходу обмежень на комунікацію та зберігання. OpenAI підкреслює, що ці випадки є поодинокими, і прагне вдосконалити захист та прозорість шляхом оприлюднення знахідок і впровадження системного моніторингу.
