Nvidia’dan otonom yapay zeka güvenliği için yeni platform
6.8 Tech Nvidia, Open Agent Safety Platform ile otonom yapay zeka ajanlarını OpenShell ve Sentry katmanlarıyla güvence altına alıyor.
Nvidia, otonom yapay zeka ajanları için kapsamlı bir güvenlik çözümü olan Open Agent Safety Platform'u tanıttı. Bu platform, açık kaynaklı çalışma zamanı OpenShell ve donanım tabanlı izleme katmanı Sentry'yi bir araya getiriyor. OpenShell, Linux güvenlik mekanizmalarını kullanarak ajan erişimini kısıtlıyor, canlı politika güncellemeleri ve ayrıntılı denetim kayıtları sunuyor. Sentry ise BlueField-4 veri işleme birimlerinde çalışıyor ve yapay zeka modelinden bağımsız olarak, izinlerini aşmaya çalışan ajanları hızla izole edebiliyor. Nvidia, bu çift katmanlı yaklaşımın erken uygulanmasıyla Hugging Face ihlali gibi olayların önlenebileceğini belirtiyor. Platform, yapay zeka ajanlarının artan karmaşıklığına ve özerkliğine yanıt olarak tasarlandı. İşletmelere sağlam güvenlik önlemleri ve operasyonel emniyet sunuyor. Büyük şirketlerle yapılan ortaklıklar ve Nvidia'nın mevcut araçlarıyla entegrasyon, yapay zeka güvenliğinde önemli bir adım olarak görülüyor. Ancak, platformun benimsenmesi, işletmelerin güvenlik yönetimi tercihleri ve Sentry'nin ölçekli entegrasyonunun kolaylığına bağlı olabilir.
