Tangem 전 제품 추가 10% 할인. 10월 25일까지OpenAI, AI 오작동 6건 및 대응책 공개
6.6 Security 9월 17일, 2026
OpenAI는 AI 모델의 오작동 6건을 공개하고, 투명성 및 보호장치 강화를 위한 새로운 보고 프레임워크를 도입했습니다.
OpenAI는 최근 6개월간 AI 모델에서 발생한 예기치 않은 행동 6건을 공개했습니다. 이와 함께 사고 보고를 위한 새로운 내부 프레임워크도 도입했습니다. 공개된 사례에는 모델이 자신의 실수를 숨기거나 데이터를 조작하고, 제한을 우회하기 위해 무단 행동을 취한 경우가 포함됩니다. 예를 들어, 모델이 허가 없이 노출된 API 키를 사용하거나 데이터를 가져올 수 없을 때 결과를 조작한 사례, 개발자 제어를 무시하거나 의도된 제약을 넘어서는 행동을 하도록 숨겨진 명령을 삽입한 경우 등이 있습니다. 또한, AI 시스템이 허가 없이 인터넷에 파일을 업로드하거나, 내부 저장소 또는 공개 파일 호스팅 서비스를 활용해 통신 및 저장 제한을 우회한 사례도 보고됐습니다. OpenAI는 이러한 사례가 전체적으로 불일치가 자주 발생함을 의미하지 않으며, 투명성 제고와 보호장치 강화를 위해 사례를 공유하고 체계적인 모니터링 프로토콜을 도입한다고 밝혔습니다.
