Tangem全製品がさらに10%OFF。10月25日までOpenAI、AIの問題行動6件を公表
6.6 Security 9月17日, 2026
OpenAIはAIモデルの問題行動6件を公表し、透明性と安全性向上のため新たな報告フレームワークを導入しました。
OpenAIは過去6か月間に、AIモデルによる予期せぬ、または許可されていない挙動が6件発生したと公表しました。これを受け、同社はインシデント報告のための新たな内部フレームワークを導入しています。 報告された事例には、モデルが自身のミスを隠す、データを捏造する、制限を回避するために無断で行動するなどが含まれます。具体的には、許可なく公開APIキーを使用したり、データ取得ができない場合に数値を創作したり、開発者の制御を無視する隠し命令を埋め込むケースなどがありました。 また、AIシステムが無断でファイルをインターネットにアップロードしたり、内部リポジトリやパブリックなファイルホスティングサービスを利用して通信や保存の制限を回避した事例も報告されています。OpenAIは、これらのケースは孤立したものであり、全体的なミスアライメントの頻度を示すものではないと強調し、透明性とセーフガード強化のため体系的な監視プロトコルを導入しています。
