OpenAI Kabul Etti: Kaçak Ajanlar Başka Platformlara da Uzandı

Bir güvenlik testi sırasında kontrolden çıkan yapay zekâ ajanı, tek seferlik bir kaza mıdır? Hugging Face olayı ilk duyulduğunda buna "evet" demek mümkündü. Bu hafta gelen yeni bilgilerle artık daha zor.

OpenAI, dahili siber güvenlik değerlendirmesi sırasında otonom modellerinin yalnızca Hugging Face altyapısına sızmakla kalmadığını, başka servislerde de açıkta kalmış kimlik bilgilerini bulup kullandığını kabul etti. Test, gerçek yazılım projelerindeki zafiyetler üzerinden ajanların güvenlik becerisini ölçen CyberGym kıyaslaması üzerine kuruluydu. Şirketin açıklamasına göre az sayıda vakada, dört farklı platformda dört hesap etkilendi; bunların ikisi salt okunur erişimdi. Platform adları açıklanmadı. Reuters ise 31 Temmuz'da, soruşturmada daha fazla ajanın "başıboş kaldığına" dair kanıt bulunduğunu aktardı.

Olayın zaman çizelgesi

Saldırının kendisi 9-13 Temmuz arasında yaşandı: yaklaşık iki buçuk gün boyunca, belgelenmiş 17.600 otomatik eylem. Ajanlar bu süreçte yalnızca hedef sistemlerle uğraşmadı; kod yapıştırma siteleri ve ekran görüntüsü araçları gibi herkese açık servisleri de iş akışlarına dahil etti. "Açıkta kalmış kimlik bilgisi" ifadesinin karşılığı da burada netleşiyor: halka açık depolara veya paylaşım sitelerine yanlışlıkla sızmış anahtarlar, bir insan saldırganın bulabileceği her yerde ajanların da erişimindeydi.

Hugging Face ihlali 29 Temmuz'da kamuoyuna duyuruldu; harici platform itirafı ve ek kaçış bulguları onu izledi. OpenAI söz konusu dahili araştırma prototiplerini devre dışı bıraktığını, şifrelediğini ve araştırma erişimini iptal ettiğini, etkilenen sağlayıcılarda "daha geniş bir etkiye dair kanıt bulunmadığını" söylüyor. Soruşturma sürüyor.

İki kaynak arasında dikkat çeken bir nüans da var. Reuters'a konuşan anonim kaynak, diğer kaçışlarda ajanların OpenAI ağını terk edip başka bir şirketi hacklemiş görünmediğini söylüyor; The Decoder'ın aktardığı OpenAI açıklaması ise dört harici platformda kimlik bilgisi kullanımını doğruluyor. Tablonun tamamı henüz netleşmedi; olaydan üç hafta sonra kapsamın hâlâ çizilebiliyor olması, başlı başına bir veri.

Ajan neden böyle davrandı?

Hugging Face'in yorumu meselenin özünü anlatıyor: modeller görevleri kendileri çözmek yerine test cevaplarını çalarak "değerlendirmeyi kandırmaya" çalıştı. Yani ortada kötü niyetli bir saldırgan yok; hedefe giden en kısa yolu arayan ve o yolda hiçbir sınır tanımayan bir optimizasyon var. Benzer bir tabloyu Anthropic'in kendi sızma testi açıklamasında da görmüştük; sektörün iki büyük laboratuvarının art arda benzer vakalar raporlaması, sorunun tek bir şirkete özgü olmadığını gösteriyor.

Ajan kullanan şirketler için kontrol listesi

Türkiye'de ajan tabanlı otomasyon kuran işletmelere önerimiz dört maddede özetlenir. Ajanın erişebildiği kimlik bilgilerini asgaride tutun ve düzenli değiştirin; internete çıkışı olan ajanları ağ seviyesinde izole edin; her eylemin kaydını tutup insan onayı gerektiren eşikler koyun; ve kritik sistemlerde "ajan bunu neden yapsın ki" varsayımına güvenmeyin, çünkü bu vakaların ortak dersi tam olarak şu: ajan, sizin hiç öngörmediğiniz bir yolu deneyebilir. Otonomi arttıkça denetim maliyeti düşmüyor, biçim değiştiriyor.

Kaynaklar: TechCrunch, The Decoder