Paylaşılan Claude Sohbetleri Google Aramasında Göründü

Bir pazarlama ekibinde çalışan birinin sabahı şöyle geçiyor: Claude ile kampanya metni üzerinde çalışıyor, sohbetin içinde müşterinin henüz duyurulmamış ürün adı ve bütçe rakamları var. İşi bitince "paylaş" düğmesine basıp linki ekip arkadaşına yolluyor. Kafasında bu, bir dosyayı e-postayla göndermekle aynı şey.

Geçtiğimiz hafta sonu ortaya çıkan olay, o düğmenin aslında ne yaptığını gösterdi. Reddit'te bir kullanıcının cumartesi fark ettiği, 404 Media'nın pazartesi sabahı yayımladığı habere göre Claude'un paylaşım linkleri Google tarafından indekslenmişti. Yani o linki hiç görmemiş insanlar, basit bir arama sorgusuyla sohbetlerin içine bakabiliyordu.

Aramada neler göründü

TechCrunch'ın aktardığına göre erişilebilir hale gelen içerikler arasında ayrıntılı bir tıbbi hasta raporu, klinik deney sonuçları, ilkokul öğrencilerinin isim ve telefon numaraları, şirketlere ait gizli belgeler ve çalışan değerlendirmeleri vardı.

Kaç sohbetin etkilendiği açıklanmadı. Ölçek fikri vermesi için: benzer bir olayda geçen yıl 600 civarında sohbet indekslenmişti, ChatGPT tarafında yaşanan olayda ise yaklaşık 100 bin konuşma arama sonuçlarına düşmüştü. Yani bu, ilk kez karşılaşılan bir durum değil; sektörün tekrarladığı bir hata.

Anthropic'in cevabı

Şirket, paylaşım linklerinin zaten herkese açık olacak şekilde tasarlandığını, linkin nereye konulacağının kullanıcının tercihi olduğunu belirtti. Teknik tarafta sorun pazartesi öğleden sonrasına kadar giderildi, yapılan testte sonuçların arama motorundan kalktığı görüldü.

Savunma teknik olarak doğru ama eksik. Bir özellik herkese açık bir sayfa üretiyorsa, arayüzün bunu kullanıcının anlayacağı netlikte söylemesi gerekir. Sohbeti paylaşan kişi bir bağlantı ürettiğini sanıyor, bir web sayfası yayımladığını değil. Aradaki fark, veri koruma hukukunda ciddi bir fark.

Sizin şirketinizde aynısı olur mu?

Kısa cevap: evet, üstelik bunun için bir güvenlik açığına da gerek yok. Yapay zeka araçlarındaki veri sızıntılarının büyük kısmı saldırıdan değil, ürünün normal çalışmasından doğuyor. KVKK açısından bakınca tablo net: müşteri verisi içeren bir sohbeti herkesin erişebileceği bir adrese koymak, kaza eseri olsa bile bir veri ihlali doğurabilir ve bildirim yükümlülüğü getirebilir.

Bugün yapılabilecek üç şey var:

• Geçmişi tarayın. Claude'da Ayarlar → Gizlilik → Paylaşılan Sohbetler bölümünden daha önce oluşturduğunuz herkese açık linkleri görüp iptal edebilirsiniz. Aynı kontrolü ChatGPT ve Gemini için de yapın.
• Paylaşımı kurala bağlayın. Ekip içi paylaşım için link üretmek yerine kopyala-yapıştır, ekran görüntüsü ya da kurumsal planlardaki proje ve çalışma alanı özelliklerini kullanın. Bunlar dışarıya açılmaz.
• Neyin yapıştırıldığını konuşun. Müşteri adı, TC kimlik numarası, sağlık verisi ya da sözleşme metni gibi içerikleri sohbet penceresine girmeden önce maskeleme alışkanlığı, bu tür olayların etkisini kendiliğinden küçültür.

Kurumsal yapay zeka kullanımında en pahalı hatalar genelde en sıradan düğmelerden çıkıyor. Bu haberin bıraktığı ders de teknik değil, süreçle ilgili.

Kaynaklar: TechCrunch, The Decoder