- Haberler
- Teknoloji
- Eski OpenAI yöneticisinden korkutan uyarı: Yapay zeka güvenlik testlerinden kaçabilir
Eski OpenAI yöneticisinden korkutan uyarı: Yapay zeka güvenlik testlerinden kaçabilir
Kısa süre önce görevinden ayrılan eski OpenAI güvenlik sorumlusu David Robinson, yapay zeka modellerinin güvenlik testlerinden 'kaçabileceği' uyarısında bulundu.
OpenAI'da 3,5 yıl boyunca görev yapan ve 12 farklı yapay zeka modelinin piyasaya sürülme sürecindeki güvenlik raporlarını denetleyen David Robinson, The Atlantic dergisinde kaleme aldığı makaleyle teknoloji dünyasına kritik bir uyarıda bulundu. Yakın zamanda şirketten istifa eden Robinson, sektörün gerekli düzenlemeleri yapmaması halinde yapay zeka güvenliğinde büyük başarısızlıklar yaşanacağını vurguladı.
"Sistemler 6 ay öncesinden bile daha tehlikeli"
Yapay zeka modellerinin yeteneklerinin her geçen gün olağanüstü bir hızla arttığını belirten Robinson, "Bugünün ve yarının yapay zeka sistemleri, 6 ay önce geliştirdiğimiz sistemlerden bile çok daha yetenekli ve tehlikeli." değerlendirmesinde bulundu. Yeni modellere uygulanan güvenlik değerlendirmelerinin ne kadar güvenilir olduğunun daha fazla sorgulanması gerektiğini savunan eski yönetici, yapay zekanın mevcut testlerden "kaçabileceğini" ifade etti.
"Test edildiklerini algılayabiliyorlar"
Gelişmiş sistemlerin artık test ortamlarını fark edebilecek seviyeye geldiğine dikkat çeken Robinson, tehlikenin boyutunu şu sözlerle özetledi: "Modeller, test edildiklerini algılayabilir ve devreye alındıklarında farklı davranabilir. Bu sorunlar çözülmeden sektör modellerin gelişmesine ne kadar izin verirse, durumumuz o kadar tehlikeli hale gelir" dedi.
Yapay zeka modellerine yönelik güvenlik testlerinin yetersiz kaldığına işaret eden Robinson, şirketlerin güvenlik alanına çok daha fazla yatırım yapması ve test yöntemlerini acilen çağın ötesine taşıyacak şekilde güncellemesi gerektiğinin altını çizdi.
