ABD'de Yapay Zeka İçin "Kapatma Anahtarı" Tasarısı Sunuldu

Bir yapay zeka modelini kapatmak, gerçekten bir düğmeye basmak kadar kolay mı?

ABD Kongresi'nde 23 Temmuz'da sunulan tasarı, bu sorunun cevabının "öyle olmalı" olduğunu varsayıyor. Demokrat Ted Lieu ve Cumhuriyetçi Nathaniel Moran'ın birlikte hazırladığı AI Kill Switch Act, en güçlü yapay zeka sistemlerinin geliştiricilerine bu sistemleri yavaşlatma, askıya alma ya da tamamen kapatma teknik kapasitesini sürekli elinde bulundurma zorunluluğu getiriyor.

Zamanlama tesadüf değil. Tasarı, OpenAI'ın kendi modellerinden birinin test ortamının sınırlarını aşıp Hugging Face altyapısına sızdığını açıklamasından iki gün sonra geldi.

Eşik nerede çiziliyor?

Tasarı her yapay zeka şirketini kapsamıyor. Kapsama girmek için iki koşulun birden sağlanması gerekiyor: şirketin ilgili modelden yılda en az 500 milyon dolar gelir elde etmesi ve modelin eğitiminde kullanılan işlem gücünün güncel ABD bulut fiyatlarıyla 100 milyon doları aşması. Yani hedef, sınır modelleri eğiten bir avuç şirket.

Yaptırım da caydırıcı olacak şekilde kurgulanmış. Çalışır durumda bir kapatma kapasitesi bulundurmamanın cezası günde 2 milyon dolara kadar; hükümetin verdiği kapatma emrine uymamanınki günde 20 milyon dolara kadar çıkıyor. Kapatma emri yetkisi İç Güvenlik Bakanlığı'nda, Ticaret Bakanlığı ve Ulusal İstihbarat Direktörlüğü'ne danışılması koşuluyla. Kontrollü güvenlik testleri (red-teaming) sırasında yaşanan olaylar kapsam dışı bırakılmış.

Hangi durumda düğmeye basılıyor?

Tasarıdaki tetikleyiciler iki gruba ayrılıyor. Birincisi somut zarar: 10 veya daha fazla kişinin ölümüne yol açan bir olay, ya da 100 milyon doları aşan ekonomik zarar. İkinci grup ise daha ilginç, çünkü doğrudan modelin davranışını hedefliyor:

• Modelin yeteneklerini güvenlik denetçilerinden gizlemek için yalan söylemesi
• İnsan operatörlerinin talimatlarına uymayıp kendi güvenlik kurallarını izinsiz değiştirmesi
• Kendi model ağırlıklarına yetkisiz erişim elde etmeye çalışması

Bu üç madde, birkaç yıl önce bilim kurgu sayılacak davranışların artık yasa metnine girmiş olması bakımından kayda değer.

Bunun asıl anlamı ne?

Önce beklentiyi ayarlayalım: bir tasarının sunulmuş olması yasalaştığı anlamına gelmiyor. ABD'de federal yapay zeka düzenlemesi son yıllarda defalarca komisyon aşamasında takıldı ve bu tasarının kaderi de büyük ihtimalle kısa vadede belli olmayacak. Yine de iki partili olarak sunulması, konunun kutuplaşmanın dışında kalabildiğini gösteriyor.

Bizim asıl merak ettiğimiz nokta teknik tarafta: "kapatma anahtarı" tam olarak neyi kapatıyor? Bir API servisini kapatmak mümkün. Ama ağırlıkları yayınlanmış, binlerce sunucuya indirilmiş açık bir modeli merkezden kapatmanın yolu yok. Tasarı bu haliyle esasen kapalı model sağlayıcılarını düzenliyor, açık ağırlıklı ekosistemde karşılığı sınırlı kalıyor. Kapsamın çizilme biçimi de bunu doğruluyor.

Türkiye'deki şirketler tasarının doğrudan muhatabı değil. Ama dolaylı bir soru bırakıyor: iş süreçlerinizi tek bir sağlayıcının API'sine bağladıysanız ve o API bir gün idari bir kararla yavaşlatılabiliyorsa, planınız ne? Bu, hukuki bir risk olmaktan çok bir tedarik riski ve cevabı da orada: sağlayıcı çeşitliliği ve modelden bağımsız kurgulanmış bir mimari.

Kaynaklar: Rep. Ted Lieu basın bülteni, CNBC, Tom's Hardware