RAG Nedir? Şirket Verinizle Konuşan AI, Maliyeti ve Kurulumu

Şirketinizde biri sürekli aynı soruyu soruyor: garanti süresi ne kadar, şu ürünün teknik şartnamesi neydi, geçen yılki sözleşmede hangi madde vardı. Cevap bir yerde yazılı ama kimse hatırlamıyor, kimse aramaya vakit bulamıyor. RAG (Retrieval-Augmented Generation) tam olarak bu sorunu çözmek için var: modelin sizin dokümanlarınızı okuyup, cevabı oradan bulup getirmesini sağlayan bir mimari.

Bu yazı RAG'ı bütçe onaylayan kişinin diliyle anlatıyor: ne olduğunu, gerçekçi bir maliyet aralığını ve dört haftalık örnek bir kurulum planını. AI altyapı kararlarını genel olarak ele aldığımız yazıda RAG'ın fine-tuning ve ajan mimarisinden farkını da bulabilirsiniz.

RAG nedir, patron diliyle nasıl anlatılır?

Büyük dil modelleri (ChatGPT, Claude gibi) eğitildikleri veriyle sınırlıdır ve şirketinizin güncel fiyat listesini, iç prosedürlerini ya da geçen hafta imzalanan sözleşmeyi bilemez. RAG, modelin cevap üretmeden önce ilgili belgeleri otomatik olarak arayıp bulmasını ve o belgelere dayanarak cevap vermesini sağlar; yani model yeniden eğitilmeden, güncel ve şirkete özel bilgiyle çalışır hale gelir.

Teknik tarafta üç adım var: dokümanlarınız önce parçalara bölünüp bir vektör veritabanına kaydedilir (indeksleme), bir soru geldiğinde en ilgili parçalar bulunur (retrieval), model bu parçaları okuyup cevabı üretir (generation). Patron için önemli olan kısım şu: model artık tahmin etmiyor, elindeki gerçek dokümana bakarak cevap veriyor ve hangi kaynağa dayandığını gösterebiliyor.

2026'da sektörün gittiği yön statik RAG'dan biraz daha akıllı, duruma göre hangi kaynağa bakacağına kendi karar veren yapılara doğru; ama bu ileri seviye bir konu, ilk projenizde ihtiyacınız olan şey değil. KOBİ ölçeğinde en yaygın ve en kanıtlanmış kurulum hâlâ klasik, üç adımlı RAG mimarisi ve büyük çoğunluk için bu fazlasıyla yeterli.

RAG mi, fine-tuning mi, sade bir chatbot mu?

Veriniz sık değişiyorsa (stok, fiyat, güncel prosedür) RAG en mantıklı seçim; belge güncellendiğinde sadece o belgeyi yeniden indekslersiniz, modeli yeniden eğitmenize gerek kalmaz. Fine-tuning ise farklı bir problemi çözer: markanızın tonunu ya da çok spesifik bir uzmanlık dilini modele kalıcı olarak öğretmek istiyorsanız işe yarar, ama güncel bilgi sorununu çözmez.

Bilgi tabanınız küçükse (birkaç dokümanlık bir prosedür kitapçığı gibi) RAG kurmadan önce daha basit bir yolu deneyin: bu belgeleri modele doğrudan bağlam olarak vermek. RAG'ın asıl değeri, bilgi tabanınız büyüdüğünde ve sık güncellendiğinde ortaya çıkıyor. Küçük bir ekip için gereksiz bir RAG projesi, hem bütçe hem bakım yükü açısından fazladan bir maliyet kalemi olur.

2025-2026 döneminde üretim projelerinin önemli bir kısmı aslında RAG ile fine-tuning'i birlikte kullanıyor: güncel bilgi RAG'dan geliyor, marka tonu ve tutarlılık ince bir fine-tuning katmanından. KOBİ ölçeğinde bu ikisini birden kurmak genelde gereksizdir; önce sadece RAG ile başlayıp modelin tonu gerçekten sorun oluyorsa fine-tuning'i sonradan eklemek daha güvenli bir sıralama.

Gerçekçi maliyet: kurulum ve aylık işletme

Global kaynaklara göre basit bir RAG prototipi 10.000-25.000 dolar aralığında, üretim seviyesinde hibrit bir kurulum 25.000-60.000 dolar aralığında, çok kaynaklı kurumsal bir agentic RAG sistemi ise 60.000-150.000 dolar ve üzerinde bir yatırım gerektirebiliyor. En yalın yaklaşımla (mevcut bir veritabanına eklenen vektör arama özelliği, küçük modeller) kurulum maliyeti 10.000 doların altına da inebiliyor. Türkiye'de yerli bir yazılım ekibiyle çalıştığınızda işçilik maliyeti ABD'ye göre belirgin şekilde daha düşük olduğundan, aynı kapsamdaki bir proje TL bazında genelde daha uygun bir toplama gelir; API ve altyapı kalemleri ise döviz bazlı kaldığı için tamamen yerelleşmez.

Aylık işletme maliyeti genellikle 350-2.850 dolar aralığında dağılıyor: vektör veritabanı hosting (70-500 dolar), embedding API çağrıları (aylık 5-20 dolar, ilk indekslemede 10-50 dolar), LLM API çağrıları (hacme göre 200-2.000 dolar), doküman işleme ve genel hosting (70-300 dolar). Bu rakamlar ABD pazarından; Türkiye'de yerli bir ekiple çalışırsanız TL bazında genelde daha uygun bir toplam çıkar. Küçük işletmeler için hazır SaaS platformları da bir seçenek: aylık 20-130 dolar aralığında RAG özellikli hazır çözümler mevcut, kendi verinizin boyutu ve özelleştirme ihtiyacınız düşükse bu yol daha hızlı bir başlangıç olabilir.

Gözden kaçan bir kalem: bilgi tabanı bakımı. Dokümanlarınız değiştikçe birinin bunları güncel tutması gerekiyor; bu genellikle ayda 5-15 saatlik bir personel zamanı anlamına geliyor. Bu görünmeyen maliyeti bütçeye baştan dahil etmeyen projeler, altı ay sonra kimse güncellemiyor diye eskimiş bir sistemle kalıyor.

Platform değişikliği de gizli bir maliyet kalemi: bir RAG sistemini bir sağlayıcıdan diğerine taşımak, kaynaklara göre 3.500-17.000 dolar arasında bir maliyet çıkarabiliyor. Bu yüzden ilk sağlayıcı seçimini yaparken bugünkü fiyatın yanında verinizi dışarı aktarma kolaylığına da bakın; kilitli kalmak istemezsiniz.

4 haftalık kurulum planı

Dar kapsamlı, tek veri kaynaklı bir pilot proje genellikle dört ila altı haftada canlıya alınabilir; aşağıdaki plan bunun sıkıştırılmış, dört haftalık bir versiyonu.

• 1. hafta, veri denetimi ve kapsam: hangi dokümanların dahil edileceği belirlenir, veri kalitesi kontrol edilir, başarı ölçütü (hangi soruları doğru cevaplaması gerektiği) netleştirilir.
• 2. hafta, doküman hazırlama ve indeksleme: dokümanlar parçalara bölünür, vektör veritabanına yüklenir; bu aşamada chunking (parçalama) stratejisi kalitenin en kritik belirleyicisi.
• 3. hafta, entegrasyon ve arayüz: retrieval motoru LLM'e bağlanır, kullanıcı arayüzü (chat penceresi, WhatsApp entegrasyonu, iç panel) hazırlanır.
• 4. hafta, test ve devreye alma: önceden hazırlanmış bir soru setiyle sistem test edilir, yanlış cevaplar düzeltilir, sınırlı bir kullanıcı grubuyla canlıya alınır.

Çok kaynaklı, kurumsal ölçekte bir RAG projesi (birden fazla sistemden veri çeken, çok kullanıcılı) genellikle sekiz-on iki haftaya uzar; dört haftalık plan tek bir kullanım senaryosu ve tek bir veri kaynağı için gerçekçidir.

İyi bir proje, bu dört hafta boyunca ölçmeden ilerlemez. Kurulumdan önce önceden hazırlanmış bir soru seti (sistemin doğru cevaplaması beklenen 20-30 gerçek soru) belirlemek, işin sonunda öznel bir izlenimle değil ölçülebilir bir doğruluk oranıyla karar vermenizi sağlar. Bu soru setini hazırlamak bir mühendislik işi değil; günlük olarak en çok sorulan soruları listelemek kadar basit.

RAG halüsinasyonu bitirir mi?

Hayır, azaltır. Kurumsal RAG sistemleri gerçek dünya sorgularında hâlâ yüzde 10'un üzerinde bir halüsinasyon oranına sahip olabiliyor; hukuk ve tıp gibi hassas alanlarda bu oran yüzde 20'yi aşabiliyor. İyi kurulmuş bir RAG, bağımsız bir modelin yüzde 20-40 aralığındaki halüsinasyon oranını üretimde yüzde 5'in altına indirebiliyor, yani riski büyük ölçüde azaltıyor ama sıfırlamıyor.

Kalitenin en büyük belirleyicisi chunking, yani dokümanı hangi büyüklükte parçalara böldüğünüz. Bir vaka örneğinde, bir dozaj uyarısı yanlışlıkla iki ayrı parçaya bölünmüş, model bağlamın sadece yarısını görmüş ve yanlış bilgi vermiş. Çok küçük parçalar yarım düşünce üretir, çok büyük parçalar gereksiz bilgiyle modelin dikkatini dağıtır; doğru boyutu bulmak deneme gerektirir ve tek seferde bitmez.

Bu yüzden RAG'ı sürekli izlenmesi gereken canlı bir sistem olarak görmek gerekir; tek seferlik kurup unutulacak bir proje değildir. Kaynak gösterme özelliği (modelin hangi belgeye dayandığını göstermesi) burada kritik bir güvenlik ağı; kullanıcı cevabın kaynağını görebildiğinde şüpheli bir yanıtı fark edip doğrulayabilir. Kaynak gösterimi olmayan bir RAG kurulumu, halüsinasyon riskini gizlemekten başka bir işe yaramaz.

Sık sorulan sorular

RAG kurmak için kaç sayfa dokümana ihtiyacım var?

Kesin bir alt sınır yok; birkaç sayfalık bir bilgi tabanı için RAG genelde gereksizdir, o kadar küçük bir belgeyi modele doğrudan vermek yeterlidir. Yüzlerce sayfayı aşan, sık güncellenen bir doküman yığınıysa RAG anlamlı bir fark yaratmaya başlar.

RAG ile chatbot aynı şey mi?

Hayır. Chatbot bir arayüzdür, kullanıcıyla nasıl konuşulacağını belirler; RAG ise o chatbot'un arkasında hangi bilgiye dayanarak cevap ürettiğini belirleyen bir mimaridir. Bir chatbot RAG ile de, RAG olmadan da (sadece genel model bilgisiyle) çalışabilir; RAG'lı bir chatbot şirketinize özel, güncel bilgiyle cevap verir.

Hazır bir SaaS ürünü mü, özel geliştirme mi tercih etmeliyim?

Bilgi tabanınız görece standart bir yapıdaysa (sık sorulan sorular, ürün kataloğu gibi) hazır bir SaaS platformu hızlı ve ucuz bir başlangıç sunar. Dokümanlarınız karmaşık, birden fazla sisteme entegrasyon gerektiriyor ya da veri gizliliği hassasiyeti yüksekse özel geliştirme daha esnek ama daha maliyetli bir yol.

Somut senaryo: klima ve beyaz eşya servis firması

25 teknisyeni olan bir teknik servis firması düşünün: her marka ve model için ayrı garanti şartları, bakım prosedürleri ve yedek parça uyumluluk tabloları var, toplam 300 sayfayı aşan bir doküman yığını. Teknisyenler sahada bir soruyla karşılaştığında merkez ofisi arıyor, ofisteki kişi doğru dokümanı bulana kadar müşteri bekliyor.

Firma bir RAG asistanı kuruyor: teknisyenler telefonlarından soru soruyor, sistem ilgili garanti maddesini ya da prosedürü saniyeler içinde buluyor ve kaynak sayfayı gösteriyor. Dört haftalık pilot, tek bir marka grubuyla ve sınırlı bir teknisyen ekibiyle başlıyor; sonuçlar olumlu çıkınca ikinci ayda tüm marka kataloğuna genişletiliyor. Merkez ofise gelen çağrı sayısı belirgin şekilde düşüyor, teknisyenler sahada daha az bekliyor.

Pilot sırasında karşılaşılan tek sorun, bazı eski marka kılavuzlarının taranmış görsel PDF olması; bu dosyalar önce metne çevrilmeden indekslenemiyor. Bu, RAG projelerinde sık rastlanan ama nadiren önceden fark edilen bir engel: veri kalitesi denetimi, projenin en sıkıcı ama en belirleyici adımı oluyor. Firma bu adıma bir hafta daha ayırarak taranmış dokümanları optik karakter tanımadan geçiriyor, ondan sonra indeksleme sorunsuz ilerliyor.

Peki siz ne yapmalısınız?

• RAG kurmadan önce sorunun gerçekten güncel/büyük bir bilgi tabanına erişim eksikliği olduğundan emin olun; küçük ölçekte daha basit çözümler yeterli olabilir.
• Bütçenizi hem kurulum hem aylık işletme ve bilgi tabanı bakımı için ayırın; bakımsız kalan bir RAG sistemi altı ay içinde eskir.
• İlk projeyi tek bir veri kaynağı ve tek bir kullanım senaryosuyla sınırlı tutun; dört haftalık bir pilot, geniş kapsamlı bir projeden daha hızlı ve daha güvenilir sonuç verir.
• Chunking stratejisini test etmeden canlıya almayın; önceden hazırlanmış bir soru setiyle sistemin doğruluğunu ölçün.
• RAG'ın halüsinasyonu sıfırlamadığını unutmayın; kritik kararlarda kaynak gösterimi ve insan doğrulaması hâlâ gerekli.

Doğru kurulan bir RAG sistemi, şirketinizin en değerli ama en erişilmez varlığını (kurumsal hafızasını) herkesin anında ulaşabileceği bir kaynağa dönüştürür. İşin zor kısmı doğru dokümanı doğru kapsamla seçmek; teknoloji tarafı artık olgunlaştı, asıl emek veri tarafında harcanıyor.