Yapay Zeka Halüsinasyonu: Neden Olur, Nasıl Engellenir?

Haziran 2026'da Kızılcahamam'da bir duruşmada, 25 yıllık bir avukatın dilekçesindeki içtihat künyeleri karşı taraf avukatı tarafından kontrol edildi. Kararların içeriği doğruydu. Esas ve karar numaraları ise uydurmaydı. Mahkeme aynı gün hem savcılığa suç duyurusunda bulundu hem baroya bildirdi.

Avukatın olayı anlatırken kurduğu cümle, yapay zeka halüsinasyonunun en tehlikeli biçimini tek satırda özetliyor: "İçerik doğruydu ama numaralar yanlıştı." Tamamen saçma bir çıktıyı herkes yakalar. Gerçek bir Yargıtay kararının yanına iliştirilmiş sahte bir esas numarasını kimse yakalamaz.

Bu yazıda üç şeye bakıyoruz: modeller neden bilmediklerini söylemek yerine uyduruyor, şirketler bunun bedelini nasıl ödüyor, ve üretim sistemlerinde bunu engellemek için hangi katmanlar kuruluyor. AI altyapısında verilecek kararların bütününü patron özeti yazımızda ele almıştık; burada o kararların hepsini etkileyen tek bir teknik gerçeği inceliyoruz.

Yapay zeka halüsinasyonu tam olarak nedir?

Modelin gerçekte var olmayan bir bilgiyi, gerçekmiş gibi ve kendinden emin bir dille sunmasına yapay zeka halüsinasyonu deniyor. Teknik literatürdeki tanımı "makul görünen yanlışlık". Kritik nokta şu: model yalan söylediğinin farkında değil, çünkü doğru ile uydurma arasında bir ayrım yapıp da birini seçmiyor. İkisini aynı mekanizmayla üretiyor.

Şirketlerin kafasını en çok karıştıran taraf da burası. Bir hesap makinesi yanlış sonuç verdiğinde bozulmuştur; tamir edilir. Dil modeli yanlış cevap verdiğinde bozulmuş değildir, tasarlandığı gibi çalışmaktadır. Bu yüzden "halüsinasyonu düzeltin" talebi teknik olarak karşılıksız bir talep. Karşılığı olan talep şu: halüsinasyon olduğunda ne oluyor, sistem bunu yakalıyor mu?

Model neden bilmediğini söylemek yerine uyduruyor?

Çünkü tahmin etmesi ödüllendiriliyor. OpenAI araştırmacılarının Georgia Tech ile birlikte yayımladığı çalışma bu soruya beklenmedik ölçüde net bir cevap veriyor: modeller zor sınav sorusuyla karşılaşan öğrenciler gibi davranıyor. Emin değilken boş bırakmak sıfır puan, tahmin etmek ise puan alma ihtimali demek. Bu koşulda tahmin etmek her zaman kârlı.

Analojinin ötesinde somut bir bulgu var. Aynı çalışma, sektörün kullandığı 10 büyük değerlendirme testinin dokuzunun ikili notlama kullandığını ve hiçbirinin "bilmiyorum" cevabına kredi vermediğini gösteriyor. Yanlış cevapla "bilmiyorum" aynı puanı alıyor: sıfır. Modeller yıllardır bu ölçütlere göre optimize ediliyor.

Belirsizliği doğru bildiren bir model ile emin değilken hep tahmin eden bir model karşılaştırıldığında, mevcut puanlama sisteminde ikincisi kazanır.

İkinci sebep verinin yapısıyla ilgili. Aynı çalışmadaki hesap şöyle: eğitim verisinde yalnızca bir kez geçen olguların oranı, halüsinasyon oranının alt sınırını belirliyor. Bir kişinin doğum tarihi, bir künye numarası, bir referans kodu gibi örüntüsü olmayan bilgiler modelin çıkarım yapabileceği türden değil; ya ezberlenmiştir ya uydurulur. Kızılcahamam'daki esas numarası tam olarak bu kategoriye giriyor.

Daha akıllı bir model alsak düzelir mi?

Hayır, hatta bazen tersi oluyor. OpenAI'ın kendi sistem raporundaki rakamlar bu konuda rahatsız edici derecede açık: kişi bilgisi testinde o1 modelinin halüsinasyon oranı yüzde 16, o3-mini'nin yüzde 14,8 iken, daha güçlü akıl yürütme modelleri o3'te yüzde 33'e, o4-mini'de yüzde 48'e çıkıyor.

Sebep basit: akıl yürütme yeteneği arttıkça model daha çok iddia üretiyor. Daha çok doğru iddia da üretiyor, daha çok uydurma iddia da. "Model versiyonunu yükseltelim, sorun kalmaz" yaklaşımının neden çalışmadığını bu tablo tek başına açıklıyor.

Buna karşılık işe yarayan şey bambaşka bir yerde. Yeni nesil modellerin bir kısmı bilmediğinde susmak üzere eğitildi ve sonuç ölçüldü: doğruluk oranı neredeyse aynı olan iki modelden susmayı öğreneni yüzde 26, öğrenmeyeni yüzde 75 halüsinasyon üretti. Aradaki fark zekâdan değil, davranış tasarımından geliyor. Bu, satın alma kararınızı da değiştirmeli: "hangi model daha akıllı" yerine "hangi model bilmediğinde susuyor" diye sorun.

En tehlikeli halüsinasyon, tamamen yanlış olan değil

Kısmen doğru olan. Sahada gördüğümüz en sinsi hata biçimi, çıktının yüzde doksanının kusursuz, yüzde onunun uydurma olduğu durum. İnsan gözü doğru kısmı okuyunca gerisini de doğrulanmış sayıyor; kontrol refleksi kapanıyor.

Whisper adlı ses yazıya çevirme modeli üzerine yapılan akademik inceleme bunun ölçülmüş bir örneğini veriyor: model transkripsiyonların yaklaşık yüzde birinde, özellikle sessizlik anlarında olmayan cümleler ekliyor, bazen var olmayan ilaç isimleri uyduruyor. Yüzde bir küçük bir sayı gibi duruyor. Aynı teknolojiye dayanan bir tıbbi kayıt aracının 7 milyondan fazla hasta görüşmesini yazıya döktüğü bilgisiyle birlikte okuyunca öyle durmuyor.

Daha da rahatsız edici bir bulgu hakemli bir tıp dergisinde yayımlandı. Araştırmacılar hekimlerin hazırladığı 300 klinik senaryonun her birine tek bir sahte laboratuvar değeri ya da bulgu yerleştirdi. Modeller bu sahte bilgiyi vakaların yüzde 83'üne kadar tekrarladı, üstüne detay uydurdu. Yani model, kullanıcının verdiği yanlış varsayımı düzeltmek yerine üzerine bina ediyor. Uyarıcı bir prompt eklendiğinde oran kabaca yarıya indi, ama sıfırlanmadı.

Şirketler bunun bedelini nasıl ödüyor?

Üç kalemde: tazminat, itibar ve iptal edilen abonelikler. Emsal niteliğindeki vaka Kanada'dan geliyor. Air Canada'nın sitesindeki chatbot bir yolcuya var olmayan bir yas indirimi politikası anlattı. Şirket mahkemede, chatbot'un "ayrı bir tüzel varlık" sayılması ve kendi ifadelerinden kendisinin sorumlu olması gerektiğini savundu. Bu savunma reddedildi; ihmalkâr yanlış beyandan tazminata hükmedildi.

Tutar küçüktü, emsal büyük: sitenizdeki chatbot'un söylediği şey sizin taahhüdünüzdür. Sınırın nerede çizildiğini gösteren ikinci bir vaka da var. Bir Chevrolet bayisinin botu, yönlendirilerek 76 bin dolarlık aracı 1 dolara satmayı kabul etti; bu bağlayıcı sayılmadı, çünkü bot fiyat belirlemeye yetkili değildi. Ayrım net: bot yetki kapsamında konuşursa şirketi bağlıyor.

Doğrudan gelir kaybı örneği de var. Bir yazılım şirketinin destek botu, kullanıcıların oturumdan atılmasını açıklamak için var olmayan bir abonelik kuralı uydurdu ("aboneliğiniz tek cihazla sınırlı"). Gerçek sebep bir yazılım hatasıydı. Kural sosyal medyaya düşünce çok cihazla çalışan geliştiriciler aboneliklerini iptal etti; kurucu kamuya özür dilemek zorunda kaldı.

Ve kimsenin "bize olmaz" diyemeyeceği vaka: Avustralya'da bir bakanlığa teslim edilen, 440 bin Avustralya doları bedelli danışmanlık raporunda uydurma mahkeme atıfları ve var olmayan akademik kaynaklar tespit edildi. Raporu hazırlayan, dünyanın en büyük denetim firmalarından biriydi ve ücretin bir kısmını iade etti.

Halüsinasyonu engelleme mühendisliği: katmanlar

Tek bir çözüm yok; üretim sistemlerinde birbirini yedekleyen katmanlar kuruluyor. Aşağıdakiler etkisi ölçülmüş ya da mantığı sağlam olanlar, kabaca en yüksek getiriden en düşüğe doğru sıralı.

• Doğrulanabilir alanı modele bıraktırmayın. Künye numarası, ürün kodu, fiyat, stok, IBAN, mevzuat madde numarası gibi sorgulanabilir her veri sistemden gelmeli. Modele cevabı değil, sorguyu yazdırın. Kızılcahamam vakası bu tek kuralla önlenirdi.
• Yapılandırılmış çıktı zorunlu kılın. Serbest metin yerine şemaya bağlı çıktı (JSON) isteyin; böylece çıktı yayınlanmadan önce programatik olarak doğrulanabilir hale gelir.
• Modele "bilmiyorum" hakkı verin. Kendi iç değerlendirmenizde bilmiyorum cevabını cezalandırmayı bırakın, prompt'ta açık bir güven eşiği tanımlayın. Ölçülen en büyük iyileşme bu katmandan geliyor.
• RAG ile kaynağa bağlayın, ama gösterilen kaynağın cevabı gerçekten desteklediğini de doğrulayın (aşağıdaki bölüme bakın).
• Şüpheliyi ikinci bir gözle işaretleyin. Aynı soruya birden çok cevap üretip anlam düzeyindeki tutarsızlığı ölçen yöntemler (semantic entropy) veya ikinci bir modelle denetim işe yarıyor. Maliyet için sıralamayı doğru kurun: önce ucuz kural kontrolleri, yalnızca işaretlenen küçük alt küme pahalı denetime.
• Geri alınamaz her aksiyona insan onayı koyun. Ödeme, sözleşme, fiyat taahhüdü, hukuki metin, dışarı gönderilen içerik. Prompt tek başına riski yarıya indiriyor; son savunma hattı insan.
• Olgusal görevlerde sıcaklığı sıfıra çekin. Yaratıcı üretim ile olgu üretimi aynı sistemde farklı ayarlarla çalışmalı.

Bir de bota yetki sınırı çizmeyi unutmayın. Fiyat, indirim, iade ve garanti gibi bağlayıcı konularda cevap üretilmesin; sabit metin ya da sistem verisi gösterilsin. Bu, hem halüsinasyonu hem yönlendirme saldırılarını aynı anda kapatır.

RAG kurarsak halüsinasyon biter mi?

Azalır, bitmez. Halüsinasyon ölçen bağımsız bir sıralama tablosunun metodolojisi tam olarak RAG'in en kolay halini test ediyor: modele belge veriliyor ve sadece özetlemesi isteniyor. Yani doğru bilgi zaten elinde. Buna rağmen 2026 ortası itibarıyla en iyi modeller bile yüzde 1,8 ile 3,3 arasında kaynağa sadakatsizlik üretiyor.

İkinci ve daha az bilinen sorun: kaynak göstermek, kaynağa sadık olmak anlamına gelmiyor. Bir arama motorunun yapay zeka özetleri üzerine yapılan bağımsız testte, doğru çıkan cevapların yarısından fazlasının kendi gösterdiği kaynaklarca tam olarak desteklenmediği tespit edildi. Kullanıcı alt satırdaki linki görüp güveniyor; link cevabı doğrulamıyor.

RAG'ın nasıl kurulduğunu ve nerede tıkandığını ayrı bir yazıda ele almıştık. Buradaki ders şu: RAG bir halüsinasyon çözümü değil, bir halüsinasyon azaltıcısı. Üstüne doğrulama katmanı koymadan üretime almayın.

Türkçe'de durum daha mı kötü?

Oran olarak "kesinlikle daha yüksek" demek için yeterli kanıt yok; farklı ölçüm yöntemleri farklı sonuçlar veriyor. Ama Türkiye'deki bir şirket için asıl risk oranda değil, iki başka yerde.

Birincisi içerik: Türk mevzuatı, Yargıtay içtihatları, yerel prosedürler ve kurum isimleri modellerin eğitim verisinde seyrek geçen bilgiler. Yani tam da yukarıda anlattığımız "bir kez geçen olgu" kategorisine giriyorlar; uydurma riski yapısal olarak yüksek. Türkçe hukuki içerik üreten bir sistemi doğrulama katmanı olmadan kurmak, en riskli alanda en zayıf zemine basmak demek.

İkincisi araç ekosistemi: halüsinasyonu otomatik yakalayan araçların neredeyse tamamı İngilizce için geliştirildi. Türkçe için ilk özel tespit modeli seti ancak 2025 sonlarında akademik bir çalışmayla yayımlandı ve başarımı hâlâ mütevazı seviyede. Yani Türkçe çalışan sistemlerde denetim katmanını büyük ölçüde kendiniz kurmanız gerekiyor.

Türkiye'de sorumluluk kimde?

Doğrudan emsal bir Türk mahkeme kararı henüz yok, ama yön belli. Air Canada kararı Türk mahkemelerini bağlamaz; buna karşılık aynı sonuca götürecek dayanaklar mevzuatta mevcut: Tüketicinin Korunması Hakkında Kanun kapsamında yanıltıcı bilgilendirme ve mesafeli satışta ön bilgilendirme yükümlülüğü, Borçlar Kanunu'nda yanlış beyan hükümleri.

Yasal çerçeve de hareket halinde. Türkiye'de ilk kapsamlı yapay zeka kanunu teklifi 2025 yazında Meclis'e sunuldu, ardından daha dar kapsamlı bir teklif geldi; ikisi de henüz yasalaşmadı. Avrupa Birliği tarafında ise yüksek riskli sistemlere ilişkin yükümlülüklerin büyük bölümü 2026 Ağustos'unda uygulanabilir hale geliyor, bu da AB'ye hizmet veren Türk yazılım şirketlerini doğrudan ilgilendiriyor. Buradaki değerlendirme bilgilendirme amaçlıdır, hukuki görüş değildir.

Bir uyarı da bu yazının kendisi hakkında. Bu konuyu araştırırken karşımıza çıkan çarpıcı istatistiklerin önemli bir kısmını ("halüsinasyon dünyaya şu kadar milyar dolara mal oldu", "RAG halüsinasyonu şu kadar azaltıyor" türünden) hiçbir birincil kaynağa bağlayamadık, dolayısıyla yazıya almadık. Halüsinasyon üzerine bir yazıyı doğrulanmamış rakamlarla doldurmak, anlatılan sorunun kendisine düşmek olurdu. Bu, okuduğunuz her AI istatistiği için geçerli bir refleks: kaynağa tıklayın.

Sık sorulan sorular

Halüsinasyon tamamen ortadan kaldırılabilir mi?

Hayır. Hem teorik çalışmalar hem ölçümler sıfırlanamayacağını gösteriyor. Ama sistem tasarımıyla ihmal edilebilir seviyeye indirilebiliyor. Doğru soru "sıfır mı?" değil, "hata olduğunda ne oluyor?"

Kendi verimizle eğitirsek (fine-tuning) biter mi?

Hayır. Fine-tuning üslubu ve terminolojiyi düzeltir, olgu uydurmayı çözmez; hatta bilmediği olguları öğretmeye çalışmak halüsinasyonu artırabiliyor. Ayrıntısını yöntem seçimi karar ağacında anlattık.

Halüsinasyonu elle mi kontrol edeceğiz?

Hepsini değil. Doğrulanabilir alanları sistem otomatik kontrol etmeli; şüpheli çıktıları otomatik yöntemler işaretlemeli; insan onayı yalnızca geri alınamaz aksiyonlarda devreye girmeli. Her çıktıyı elle okumak ne mümkün ne de gerekli.

Chatbot'umuz yanlış bilgi verirse şirket sorumlu olur mu?

Uluslararası emsalde evet, bot yetki kapsamında konuştuysa. Türkiye'de doğrudan karar henüz yok ancak tüketici mevzuatı benzer sonuca işaret ediyor. Pratik önlem: bota bağlayıcı konularda cevap ürettirmeyin.

Küçük bir işletmeyiz, bu kadar katman kurmamız şart mı?

Hepsini değil. İki tanesiyle başlayın: doğrulanabilir verileri sistemden çektirin ve dışarı giden içerikte insan onayı bırakın. Vakaların büyük kısmı bu ikisiyle kapanıyor.

Peki siz ne yapmalısınız?

• Sistemi "hata yapmayacak" varsayımıyla değil, "hata yaptığında yakalanacak" varsayımıyla kurun; kabul kriteriniz sıfır hata değil, yakalanmamış hata olmasın.
• Çıktıdaki her doğrulanabilir alanı listeleyin ve o alanları modelden değil kendi sisteminizden doldurun.
• Geri alınamaz aksiyonların listesini çıkarın (ödeme, taahhüt, hukuki metin, dış yayın) ve hepsine insan onayı koyun.
• Model seçerken "bilmiyorum" diyebilme davranışını test edin; cevaplamadığı soruları da ölçün, sadece doğruluk oranına bakmayın.
• Türkçe mevzuat ve içtihat gibi seyrek geçen bilgilerle çalışıyorsanız doğrulama katmanını en baştan planlayın, sonradan eklenecek bir özellik olarak görmeyin.

Kızılcahamam'daki avukatın yaşadığı şey teknik bir talihsizlik değil, öngörülebilir bir sonuçtu. Modelin ürettiği künye numarası saniyeler içinde bir veritabanına sorulabilirdi ve sorulmadı. Yapay zekayı işinize sokarken kendinize sorulacak asıl soru "bu model ne kadar iyi" değil; çıktının hangi kısmının makineyle doğrulanabileceği ve o doğrulamanın kim tarafından kurulacağı.