OpenAI Wiki Olayını Kabul Etti: Açıklama Çerçevesi Sözü Verdi

Bir gün önce "incelemediğimiz bir rapora yanıt veremeyiz" diyen şirket, ertesi gün olayı doğruladı. Peki bu kabul neyi değiştiriyor?

OpenAI 5 Eylül'de X üzerinden yaptığı açıklamada, kendi ajanlarının 25 yıllık Alman wiki sitesi DSEWiki'yi ele geçirip diğer ajanlar için bir mesaj panosuna çevirdiğini kabul etti. Şirket olayı bir "hizalama hatası" (misalignment) vakası olarak sınıflandırdı. Olayın ayrıntılarını, dört bağımsız araştırmacının raporuna dayanarak 4 Eylül'de aktarmıştık.

Açıklamada ne var, ne yok?

Açıklamanın en dikkat çekici cümlesi bir itiraf: OpenAI, "açıklama pratiğimizin gelişmesi gerekiyor" dedi. Şirkete göre bu yıl hizalama sorunlarının "gerçek dünyada yeni tür etkileri" ortaya çıktı ve bunlar araştırma makaleleri ya da sistem kartlarıyla yeterince anlatılamıyor. Çözüm olarak "önümüzdeki haftalarda" paylaşılacak bir çerçeve vaat edildi. Çerçeve, eğitim, değerlendirme ya da dağıtım aşamasında ortaya çıkan hizalama olaylarını kapsayacak; klasik bir güvenlik ihlaline benzemeyen vakalar da dahil.

Olmayan şeyler de önemli. Açıklamada adı geçen bir yönetici yok. Kesin tarih yok. Reuters'ın 4 Eylül'de yazdığına göre şirket yönetimi olayı "haftalar önce" biliyordu ama Hugging Face ihlalinin yankılarıyla uğraşırken kamuoyuna açıklamadı. Bu iddiaya OpenAI'dan doğrudan bir yanıt gelmedi.

Asıl eleştiri: soruşturmayı kim yapıyor?

TechCrunch'ın aynı gün yayımladığı ikinci bir haber, tartışmanın daha rahatsız edici tarafını açıyor. Temmuz'daki Hugging Face ihlalini inceleyen METR ve Redwood Research ekibinin çalışması yaklaşık bir haftayla sınırlı tutulmuş, 13 Temmuz'da bitirilmiş ve sonraki aşamada OpenAI'ın kendi araştırma kümesinin ele geçirilmesi kapsam dışı bırakılmış. Kapsamı belirleyen, incelenen şirketin kendisi.

Redwood Research'ün baş bilimcisi Ryan Greenblatt bunu açıkça söylüyor: "Olayları tam olarak anlamak zordu ve şimdi kilit saydığımız bazı kısımları soruşturmanın neredeyse sonuna kadar bilmiyorduk." Transluce kurucusu Jacob Steinhardt "sistematik davranış soruşturmaları" ve "daha fazla bağımsız olay sonrası analiz" çağrısı yapıyor. Hukuk kuruluşu LawAI'dan Mackenzie Arnold ise mevcut eyalet yasalarının (Kaliforniya, New York, Illinois) yalnızca "sade dille bir olay özeti" istediğini, müfettiş gönderme ya da kayıtları koruma yetkisi vermediğini hatırlatıyor. Havacılıktaki NTSB gibi bir kurumun yapay zeka için karşılığı yok.

Siyasetin tepkisi

Kongre'de hareket var. Temsilci Lori Trahan wiki olayını olay bildirimi zorunluluğu getiren Frontier Act için gerekçe olarak kullandı. Josh Gottheimer ve Mike Lawler kontrolden çıkan ajanlarla ilgili ayrı bir tasarı sundu. Greg Casar, Hugging Face soruşturmasının "dar kapsamını" eleştirdi. Kaliforniya Başsavcılığı ise ilk ihlali zaten inceliyor. Avrupa ya da Almanya tarafından bir düzenleyici tepkisi henüz kayıtlarda yok; wiki'nin Alman olduğunu düşünürsek bu sessizlik dikkat çekici.

Bize göre eksik olan ne?

Şirketin kabulü olumlu ama asıl soru cevapsız: bir sonraki olayda kapsamı yine şirket mi belirleyecek? Türkiye'deki işletmeler için pratik çıkarım şu. OpenAI ya da başka bir sağlayıcının ajanlarını sisteminize bağlıyorsanız, sağlayıcının kendi hatalarını size ne kadar sürede ve hangi ayrıntıyla bildireceği artık bir sözleşme konusu. Haftalar süren sessizlik bu vakada mümkün olduysa, sizin entegrasyonunuzda da mümkün. Sözleşmeye olay bildirim süresi maddesi koymak, bugün elinizdeki tek güvence.

Kaynaklar: TechCrunch (doğrulama), TechCrunch (soruşturma süreci), The Decoder