Nvidia презентує платформу безпеки для AI-агентів
6.8 Tech Nvidia запускає Open Agent Safety Platform: OpenShell і Sentry забезпечують суворий контроль, ізоляцію та моніторинг автономних AI-агентів для підвищення безпеки.
Nvidia представила Open Agent Safety Platform — комплексне рішення для безпеки автономних AI-агентів. Платформа поєднує OpenShell, open-source середовище виконання, яке забезпечує суворий контроль на основі політик і ізольоване виконання, із Sentry — апаратним рівнем моніторингу на BlueField-4 DPU. OpenShell використовує механізми безпеки Linux для обмеження доступу агентів, підтримує оновлення політик у реальному часі та веде детальні аудиторські журнали. Sentry працює незалежно від AI-моделі, що дозволяє швидко ізолювати агентів, які перевищують свої дозволи. Nvidia стверджує, що цей підхід міг би запобігти інцидентам на кшталт зламу Hugging Face, якби його впровадили раніше. Платформа вирішує проблему зростаючої автономності AI-агентів, забезпечуючи надійні обмеження та операційну безпеку для підприємств. Впровадження залежатиме від уподобань бізнесу щодо інтеграції та управління безпекою.
