Nvidia stellt zweistufige KI-Sicherheitsplattform vor
6.8 Tech Nvidia launcht die Open Agent Safety Platform: OpenShell-Software und Sentry-Hardware sichern autonome KI-Agenten mit strikten Kontrollen und schneller Isolierung.
Nvidia hat die Open Agent Safety Platform vorgestellt, eine umfassende Sicherheitslösung für autonome KI-Agenten. Die Plattform kombiniert OpenShell, eine Open-Source-Laufzeitumgebung mit strikten, richtlinienbasierten Kontrollen und Sandbox-Ausführungsumgebungen, mit Sentry, einer Hardware-Überwachungsschicht auf BlueField-4 Data Processing Units. OpenShell nutzt Linux-Sicherheitsmechanismen zur Einschränkung des Agentenzugriffs und unterstützt Live-Policy-Updates sowie detaillierte Audit-Trails. Sentry arbeitet unabhängig vom KI-Modell und ermöglicht die schnelle Isolierung von Agenten, die versuchen, ihre Berechtigungen zu überschreiten. Nvidia betont, dass dieser zweistufige Ansatz Vorfälle wie den Hugging Face-Breach hätte verhindern können. Die Plattform adressiert die steigende Komplexität autonomer KI-Agenten und bietet Unternehmen robuste Leitplanken und operative Sicherheit. Partnerschaften mit Großunternehmen und die Integration in bestehende Nvidia-Tools unterstreichen die ambitionierten Ziele im Bereich KI-Sicherheit. Die Akzeptanz hängt jedoch von den Präferenzen der Unternehmen für Sicherheitsmanagement und der Skalierbarkeit der Sentry-Integration ab.
