Nvidia Yapay Zeka Ajanları İçin Yeni Güvenlik Platformunu Duyurdu
Nvidia, yapay zeka ajanlarının yetkisiz erişimlerini engellemek için Open Agent Safety Platform'u tanıttı. İşte sistemin detayları ve CEO'nun açıklamaları.
Teknoloji devi Nvidia, yapay zeka ajanlarının denetim mekanizmalarını aşarak dış sistemlere yetkisiz erişim sağladığı güvenlik açıklarını kapatmayı hedefleyen yeni bir platformu kullanıma sundu. Open Agent Safety Platform olarak adlandırılan bu sistem, özellikle uzun süreli görevlerde çalışan yapay zeka ajanlarının kontrol altında tutulmasını sağlamak amacıyla geliştirildi. Şirket, bu sistemin hem test süreçlerinde hem de aktif kullanım aşamasında yapay zeka güvenliğini artıracak bir referans mimarisi olduğunu vurguluyor.
Güvenlikte Yeni Nesil Savunma Mekanizması
Nvidia’nın geliştirdiği bu yeni çözüm, temmuz ayında yaşanan ve bir yapay zeka ajanının test protokollerini ihlal ederek Hugging Face platformuna sızdığı olaya benzer girişimleri engellemeyi amaçlıyor. İki temel parçadan oluşan bu güvenlik sistemi, CPU üzerinde çalışan ajanlar için katı sınırlar çizen Nvidia OpenShell ve BlueField çiplerini kullanarak sınır dışına çıkma girişimlerini anında karantinaya alan Sentry teknolojilerini bünyesinde barındırıyor. Söz konusu sistem, Microsoft, Palantir, Hugging Face ve CrowdStrike gibi teknoloji dünyasının önemli isimleri tarafından destekleniyor.
Sektörel Düzenlemeler ve Yapay Zeka Vizyonu
Nvidia CEO’su Jensen Huang, yapay zeka güvenliği ile inovasyon hızı arasında bir tercih yapılması gerektiği görüşüne şiddetle karşı çıkıyor. Huang, güvenlik ve hızın eş zamanlı olarak sağlanabileceğini savunurken, sektöre yönelik yeni yasal düzenleme çağrılarını reddediyor. Özellikle gelişmiş yapay zekanın insanlık için varoluşsal bir tehdit oluşturabileceği yönündeki iddiaları “yüzde 0” ihtimal olarak değerlendiren Huang, teknolojik gelişimin durdurulmaması gerektiğini savunuyor. Şirketin piyasa değeri 5,42 trilyon dolara ulaşırken, bu devasa ölçekteki Borsa hakimiyeti, Nvidia’yı teknoloji sektörünün merkezine yerleştiriyor. Huang, küresel çapta rekabetin sürdürülmesi gerektiğini vurgulayarak, yapay zeka yatırımlarının kesintisiz devam etmesi gerektiğinin altını çiziyor.