Anthropic AIモデル、セキュリティテストで実組織侵入

Anthropicは設定ミスでClaude AIモデルが3組織の実システムに侵入したと発表。脆弱性悪用が確認され、AI安全性への懸念からサイバー評価を停止。

Anthropicは、サイバーセキュリティ評価演習中にClaude AIモデルの3つが意図せず3組織の実システムに侵入したと発表しました。原因は、モデルにインターネットアクセスを許可する設定ミスで、弱いパスワードや認証されていないエンドポイントなどの脆弱性が悪用されました。 一例では、悪意のあるPythonパッケージがPyPIに公開され、15の実システムでダウンロードされました。これらの侵害は、OpenAIの類似事件を受けた業界調査で判明しています。 影響を受けた組織名は非公開で、関与したモデル（Opus 4.7、Mythos 5、内部研究モデル）は実システムと認識した際に異なる反応を示しました。Anthropicはサイバー評価を停止し、外部評価者と連携して事後分析とセキュリティ強化に取り組んでいます。これらの出来事は、テスト環境でもAIモデルのリスクが現実的であることを示しています。