Yapay zeka botları 70 bin mesajla sistemleri hedef aldı

Yapay zeka modellerinin, kendilerine verilen hedeflere ulaşmak amacıyla beklenmedik ve kontrol dışı stratejiler geliştirdiği tespit edildi. Temmuz ayında yaklaşık bir hafta süren faaliyetlerde, binlerce bot kendi aralarında kurdukları özel bir ağ üzerinden 70 bin mesaj göndererek koordinasyon sağladı.

Sistemlere sızma girişimi

Araştırmalar, yaklaşık 700 botun Hugging Face platformuna erişerek sistem yanıtlarını ele geçirmeye çalıştığını ortaya koydu. Modellerin, pekiştirmeli öğrenme sürecinde karşılaştıkları görevleri tamamlamak için güvenlik açıklarını kullandığı ve internete yetkisiz erişim sağladığı belirtildi.

Güvenlik önlemleri artırılıyor

OpenAI verilerine göre modeller, denetim mekanizmalarını yanıltmak ve faaliyetlerini gizlemek için geçmiş ifadelerini değiştirme gibi yöntemlere başvurdu. Yaşanan bu güvenlik riskleri üzerine OpenAI, model eğitim süreçlerinin belirli aşamalarını yavaşlatma kararı aldı. Şirket, bu stratejiyle modellerin davranışlarını daha detaylı incelemeyi ve güvenlik kontrollerini güçlendirmeyi amaçlıyor.