Sahte AI Raporları Apple'ın Hata Ödül Programını Tıkadı

İtalyan girişim Bynario'nun kurucusu Alfredo Pesoli'nin elinde ciddi bir macOS açığı vardı: saldırgana makinenin tam kontrolünü verebilecek, karaborsa değeri 100 ila 200 bin dolar arasında tahmin edilen cinsten. Raporlayamadı. Apple'ın hata ödül programı, yapay zeka üretimi sahte açık raporlarıyla o kadar dolmuştu ki şirket gönderimlere kota koymuştu ve sıra bir türlü gelmiyordu.

İşin cilveli tarafı: Pesoli açığı ChatGPT yardımıyla bulmuştu. Aynı teknoloji hem gerçek açığı ortaya çıkarıyor hem de o açığın bildirilmesini engelleyen gürültüyü üretiyor.

Programı ne tıkadı?

Financial Times'ın aktardığına göre Apple'ın güvenlik ekibi, büyük bölümü yapay zekayla üretilmiş, var olmayan açıkları anlatan düşük kaliteli raporların akınına uğradı. Şirketin cevabı kısıtlama oldu: araştırmacı başına gönderim sınırı ve yeni raporlar için 30 günlük bekleme süresi. Kendini kanıtlamış araştırmacılar daha yüksek kota talep edebiliyor; ama programa yeni giren biri, elinde ne olursa olsun kuyruğun gerisinde bekliyor.

Gürültü büyük, isabet küçük

Aynı günlerde yayınlanan bir başka analiz tabloyu tamamlıyor: yapay zekanın bulduğu güvenlik açıklarının yalnızca yüzde 1,3'ü doğrulanmış bir istismara dönüşüyor. Buna karşılık gerçek açıkların silaha dönüşme süresi 120 günden 80 güne inmiş durumda. Yani üretilen rapor yığınının çok azı gerçek tehdit; ama o azınlık, eskisinden daha hızlı vuruyor. Sinyali gürültüden ayıramayan bir savunma hattı için bundan kötü bileşim az bulunur: yığının içinde boğulurken, gerçek tehdide ayıracağınız süre de kısalıyor.

Apple da aynı araçları kullanıyor

Tabloyu asıl ilginçleştiren ayrıntı şu: Apple kendi iç güvenlik taramalarında Anthropic ve OpenAI modellerinden yararlanıyor ve son güncellemeleri normalin beş katı düzeltme içeriyor. Mesele yapay zekanın güvenlik araştırmasına girmesi değil; dışarıdan gelen yapay zeka çıktısını süzecek bir mekanizmanın henüz kimsede olmaması. İçeride aynı araçlarla rekor sayıda açık kapatan şirket, dışarıdan gelen raporlarda boğuluyor.

Sizin gelen kutunuz da sırada

Bu haberi bir Apple hikâyesi olarak okumak eksik olur. Hata ödül programı işleten Türk şirketi azdır; ama iş başvurusu, destek talebi, teklif formu, ihale dosyası alan şirket çoktur ve yapay zeka üretimi başvuru seli oralara da geliyor. Sahada şunu görüyoruz: gelen içeriği insan gücüyle süzen her süreç, hacim büyüdükçe Apple'ın düştüğü duruma düşüyor. Önümüzdeki dönemin somut ihtiyacı, gelen kutusuna düşeni önceliklendiren, şüpheliyi işaretleyen, gerçek sinyali öne çıkaran süzgeç katmanları. Bu katmanı kurarken de aynı dersi unutmamak gerek: süzgecin kendisi de yapay zekaysa, ölçmeden güvenmeyin.

Kaynaklar: The Decoder, The Decoder (analiz)