Açık Kaynak Yapay Zeka: Kendi Sunucunuzda Mantıklı mı?

Türkçe için eğitilmiş bir model, Türkçede genel amaçlı bir modelden daha iyidir. Kulağa o kadar makul geliyor ki kimse sorgulamıyor. Peki ölçüldüğünde ne çıkıyor?

Cetvel adlı akademik Türkçe değerlendirme çalışması tam bunu yaptı: 7 kategoride 23 görev, 33 açık ağırlıklı model. Sonuç beklentiyi ters çevirdi. Türkçe odaklı olarak eğitilmiş modeller, genel amaçlı çok dilli modellerin gerisinde kaldı; genel performansta en iyi sonucu Llama 3.3 70B verdi. Dile özel modeller dilbilgisi düzeltme ve özetleme gibi dar görevlerde parlıyor, genel yetenekte değil.

Bu, "kendi sunucumda açık kaynak bir model çalıştırayım" fikrinin etrafındaki varsayımlardan yalnızca biri. Aşağıda geri kalanını da tek tek ele alıyoruz: lisansların gerçekte ne dediği, Türkiye'deki yerli model manzarasının bugünkü hali, ve en önemlisi hesabın kendisi. Ayda kaç token'ın altında self-hosting parasal olarak anlamsız kalıyor? Bu karar, AI altyapısı kurarken verilecek dört temel karardan biri ve galiba en çok duyguyla verileni.

"Açık kaynak" mı, yoksa "açık ağırlık" mı?

Çoğu durumda ikincisi. Açık ağırlık, modelin eğitilmiş parametrelerinin paylaşılması demek. Gerçek anlamda açık kaynak ise eğitim verisinin, kodun ve sınırsız kullanım özgürlüğünün de verilmesi. Piyasada "açık kaynak" diye pazarlanan modellerin büyük kısmı yalnızca birincisi; eğitim verisini kimse vermiyor.

Fark akademik bir ayrıntı değil, sözleşmesel bir risk. Llama'nın topluluk lisansı ticari kullanıma izin veriyor ama aylık 700 milyon aktif kullanıcıyı aşan şirketleri ayrı bir lisans görüşmesine zorluyor ve davranışsal kullanım kısıtları içeriyor. Türkiye'deki hiçbir şirket o eşiğe yaklaşmıyor elbette, ama lisansın içinde başka kısıtlar da var ve "açık kaynak sandık" savunması bir denetimde işinize yaramıyor.

Kısıtsız kullanmak istiyorsanız bakacağınız şey lisans etiketi: Apache 2.0 ve MIT lisanslı modellerde kullanıcı tavanı ya da telif yükümlülüğü yok. Qwen ailesinin bir kısmı, DeepSeek modelleri ve OpenAI'ın kendi açık ağırlıklı gpt-oss modelleri bu gruba giriyor. Sözleşme imzalamadan önce hukuk tarafına bu tek satırı sorun; sonradan çıkan sürprizlerin çoğu buradan çıkıyor.

Türkiye'de yerli model manzarası ne durumda?

Karışık: bazıları indirilebiliyor, en büyüğü henüz açılmadı. TÜBİTAK BİLGEM'in geliştirdiği BİLGE ailesi (1, 9, 27 ve geliştirme aşamasındaki 122 milyar parametreli sürümler) kurumun kendi sitesinde "henüz genel kullanıma açılmamıştır" notuyla duruyor. Yani bugün itibarıyla indirip sunucunuza kuramıyorsunuz.

Fiilen erişilebilen taraf ise şöyle: VNGRS'nin geliştirdiği Kumru ailesinin 2 milyar parametrelik sürümü Apache 2.0 lisansıyla Hugging Face'te yayında ve yaklaşık 4,8 GB bellekle çalışıyor. Trendyol ve Turkcell de kendi Türkçe modellerini açık olarak yayımladı. T3 Vakfı ile Baykar'ın geliştirdiği T3 AI beta aşamasında. HAVELSAN'ın MAIN platformu ise kapalı ağlarda, hatta internete hiç bağlı olmayan ortamlarda çalışmak üzere tasarlanmış kurumsal bir ürün.

Devlet tarafında da yön belli: Türkiye Yapay Zekâ Eylem Planı 2026-2030 kapsamında veri merkezi ve yerli yapay zeka için en az 10 milyar dolarlık kaynak, 2030'a kadar en az 1 gigavat veri merkezi kurulu güç ve en az 2 bin kamu veri setinin geliştiricilere açılması hedefleniyor. Bunlar gelecek yılların manzarasını değiştirecek hedefler, ama bugün vereceğiniz kararı değiştirmiyor.

Modellerin kalite farkı gerçekten kapandı mı?

Büyük ölçüde kapandı, tamamen değil. Açık ağırlıklı modeller son iki yılda kapalı sınır modellerinin birkaç puan gerisine kadar geldi; kodlama ve akıl yürütme testlerinde aradaki fark artık çoğu iş uygulaması için hissedilmeyecek seviyede. OpenAI'ın Apache 2.0 lisansıyla yayımladığı gpt-oss modellerinden küçüğü 16 GB bellekle, büyüğü tek bir 80 GB'lık GPU ile çalışıyor.

Buradaki asıl uyarı benchmark okumasıyla ilgili. Dolaşımdaki 2026 karşılaştırma tablolarının çoğu birincil kaynak değil, birbirinden kopyalayan içerik sitelerinden geliyor ve skorlar çelişiyor. Karar verirken tek bir tabloya güvenmek yerine kendi verinizle küçük bir test seti kurmak çok daha güvenilir; sahada gördüğümüz kadarıyla iki model arasındaki gerçek fark, sizin özel göreviniz üzerinde ölçüldüğünde tablodakinden bambaşka çıkabiliyor.

Bir de kuantizasyon meselesi var. Modeli daha az belleğe sığdırmak için hassasiyetini düşürdüğünüzde (yaygın Q4 ayarı) bellek ihtiyacı yarıya iniyor, karşılığında yüzde 1-5 bandında kalite kaybediyorsunuz. "Ucuza sığdırdım" derken neyi verdiğinizi bilin.

Kendi sunucunuzda çalıştırmak kaça mal olur?

Donanımın kendisi düşündüğünüzden ucuz, etrafındaki her şey düşündüğünüzden pahalı. Kiralık bir H100 saatlik 1,5-3,5 dolar bandında; 7/24 çalıştırdığınızda aylık 1.500-2.500 dolar eder. Satın alma tarafında tek bir H100'ün fiyatı 25 bin dolardan başlıyor. Daha mütevazı bir kurulum, örneğin 20 GB'lık profesyonel bir kartla gelen kiralık sunucu, aylık 200 euro civarında bulunabiliyor.

Model boyutuna göre bellek ihtiyacı kabaca şöyle: 8 milyar parametrelik bir model tam hassasiyette 16 GB, dörtte bir hassasiyette 5-6 GB istiyor. 70 milyar parametrelik bir model tam hassasiyette 140 GB (yani iki adet üst seviye kart), kuantize edilince 40-46 GB ile tek karta sığıyor. Yani "70B çalıştıracağım" cümlesi otomatik olarak onbinlerce dolarlık bir cümle değil, ama ciddi bir cümle.

Elektrik tarafı Türkiye için nispeten iyi haber. Sanayi tarifesinde kilovat saat başına yaklaşık 5 TL ile, sekiz kartlı yoğun bir kurulumun aylık elektrik faturası birkaç yüz dolar mertebesinde kalıyor. Aynı kurulum, elektriğin iki katı pahalı olduğu bazı Avrupa ülkelerinde break-even eşiğini belirgin biçimde yukarı itiyor. Bu, Türkiye'de self-hosting lehine küçük ama gerçek bir avantaj.

Ayda kaç token'ın üstünde self-hosting ucuzlar?

Hesap tek satır: aylık GPU maliyetinizi, API'de token başına ödediğiniz harmanlanmış fiyata bölün. Sınır modellerle karşılaştırıldığında yayımlanmış analizlerin ortak sonucu, eşiğin ayda 100-250 milyon token bandına düştüğü yönünde. Günlük diliyle: 3-8 milyon token, yani ciddi hacimli bir uygulama.

Ama karşılaştırmayı sınır modelle değil ucuz açık model API'leriyle yaptığınızda tablo tamamen değişiyor. Milyon token başına 0,15-0,50 dolar bandında hizmet veren sağlayıcılar karşısında self-hosting'in ucuzlaması için aylık milyarlarca token gerekiyor. Yani "açık kaynak model kullanacağım" kararı ile "onu kendi sunucumda çalıştıracağım" kararı birbirinden tamamen ayrı iki karar. Birincisini verip ikincisini vermemek çoğu şirket için en akıllı bileşim.

Bir de kimsenin konuşmadığı kalem var: kullanım oranı. GPU faturası siz onu kullanmasanız da işliyor. Tam kapasiteden çeyrek kapasiteye düştüğünüzde token başına maliyetiniz kabaca dört katına çıkıyor. Gündüz yoğun, gece boş çalışan tipik bir kurumsal uygulamada gerçek maliyet, hesap tablosundaki maliyetin epeyce üstünde çıkıyor.

Türkçe tokenizasyon bu hesabı nasıl değiştiriyor?

Türkiye lehine kaydırıyor, ve bu detay İngilizce kaynakların hiçbirinde geçmiyor. Türkçe sondan eklemeli bir dil olduğu için, İngilizce ağırlıklı veriyle eğitilmiş model parçalayıcıları Türkçe metni gereğinden fazla parçaya bölüyor. Akademik ölçümler, dile özel parçalayıcıların çok dilli alternatiflere göre 2-3 kat daha az parça ürettiğini gösteriyor.

Sonucu doğrudan faturanızda görüyorsunuz: aynı işi yapan bir İngiliz şirketiyle karşılaştırıldığında, API'ye Türkçe metin gönderen bir Türk şirketi token başına 2-3 kata varan fazla ödüyor. Bu, break-even eşiğini aşağı çekiyor; yani Türkiye'de self-hosting, aynı hacimdeki bir Amerikan şirketine göre biraz daha erken mantıklı hale geliyor.

Yalnız bu argümanı fazla ileri götürmeyin. Eşiği yüzde otuz aşağı çekmek, ayda 200 milyon token'lık eşiği 140 milyona indirir; ayda 5 milyon token kullanan bir şirketi hâlâ o eşiğin çok uzağında bırakır.

Sunucu 200 dolar, peki onu kim ayakta tutacak?

Gizli maliyetin adı burada. Kendi modelini çalıştıran her kurulum, ilk aşamada 2-4 haftalık yoğun kıdemli mühendislik istiyor; sonrasında ise bir kıdemli mühendisin zamanının kalıcı olarak yüzde 10-20'sini tüketiyor. Her büyük model güncellemesi için de ayrıca bir hafta ayırmak gerekiyor.

Türkiye rakamlarıyla bakalım. Yapay zeka ya da altyapı tarafında çalışan bir kıdemli mühendisin maliyetini aylık 100 bin TL kabul edersek, zamanının yüzde 20'si aylık 20 bin TL demek. Bu tek kalem, aylık 200 euroluk sunucu kirasının epeyce üstünde. Yani "sunucuyu kiraladım, iş bitti" cümlesindeki hata payı, kiranın kendisinden büyük.

Açık kaynak modeller maliyeti ortadan kaldırmıyor, yerini değiştiriyor: lisans ücreti gidiyor, yerine mühendislik zamanı, altyapı ve sürekli bakım geliyor.

Buna izleme ve uyarı sistemlerini de ekleyin. API kullanırken hazır gelen şeyleri (kullanım takibi, hata izleme, yedeklilik) kendi kurulumunuzda sıfırdan yazmanız gerekiyor.

Peki ne zaman gerçekten mantıklı?

Dört durumda: veriniz hukuken yurt dışına çıkamıyorsa, sisteminiz internete kapalı bir ağda çalışmak zorundaysa, hacminiz gerçekten çok yüksekse, ya da ihtiyacınız olan özelleştirilmiş model hiçbir API'de sunulmuyorsa. Bunların dışındaki gerekçelerin çoğu duygusal.

Türkiye açısından en ağır basanı birincisi. KVKK'nın 24 Kasım 2025'te yayımladığı Üretken Yapay Zekâ Rehberi'nin ardından hukukçuların altını çizdiği nokta şu: yaygın bulut tabanlı yapay zeka araçlarının sunucuları büyük ölçüde yurt dışında ve bu araçlara kişisel veri girmek Kanun'un 9. maddesi kapsamında yurt dışına veri aktarımı sayılabiliyor. Aktarımın kendi koşulları var (yeterlilik kararı, Kurul izni ya da standart sözleşme hükümleri) ve bunlar sağlanmadığında sorun maliyet meselesi olmaktan çıkıyor. Buradaki değerlendirme bilgilendirme amaçlıdır, hukuki görüş değildir.

İkinci durum savunma, kamu ve kritik altyapı tarafında somut: HAVELSAN'ın kapalı ağ odaklı ürünü tam bu ihtiyaçtan doğdu. Üçüncüsü, günde 50 milyon token üstü hacimlerde ekonomi kendiliğinden self-hosting'e dönüyor.

Ve çoğu şirketin atladığı bir üçüncü yol daha var: ne kendi rack'inizi kurmak ne de doğrudan yurt dışı API kullanmak. Türkiye'de barındırılan GPU sunucular ya da hibrit kurulum (hassas veriyi işleyen küçük bir model şirket içinde, geri kalan işler API'de) çoğu vakada aradığınız dengeyi kuruyor. Hangi verinin nerede işleneceğine karar vermek, hangi modeli kullanacağınıza karar vermekten daha önemli.

Sık sorulan sorular

Kendi sunucumda çalıştırırsam KVKK sorunu tamamen biter mi?

Hayır. Yurt dışına aktarım sorununu çözer, ama aydınlatma yükümlülüğü, veri minimizasyonu, saklama süresi ve hukuki sebep gibi diğer yükümlülükler aynen devam eder. Sunucunun yeri, uyumun tek bileşeni değil.

Açık kaynak model bedava mı?

Ağırlıklar için para ödemezsiniz; çalıştırmak için ödersiniz. Lisans ücreti yerini GPU, elektrik, mühendislik zamanı ve bakıma bırakıyor.

Türkçede hangi açık model daha iyi?

Akademik Türkçe değerlendirmelerinde genel performansta büyük çok dilli modeller (Llama 3.3 70B ve benzerleri) öne çıkıyor. Dar Türkçe görevlerde (dilbilgisi düzeltme, özetleme) dile özel modeller iyi sonuç veriyor. Kendi göreviniz üzerinde test etmeden karar vermeyin. Küçük modellerde uydurma riski daha yüksek olduğu için halüsinasyonu engelleyen katmanları da baştan planlayın.

BİLGE'yi kullanabilir miyim?

Bugün itibarıyla hayır; TÜBİTAK BİLGEM modelin henüz genel kullanıma açılmadığını belirtiyor. Kamuya açık Türkçe seçenekler arasında Kumru'nun küçük sürümü, Trendyol ve Turkcell modelleri bulunuyor.

Küçük bir modeli kendi sunucumda çalıştırmak mantıklı olabilir mi?

Evet, özellikle dar ve tekrarlayan bir görevde. 2-8 milyar parametrelik bir model mütevazı donanımda çalışır ve tek bir işte yeterli olabilir. Genel amaçlı asistan hedefliyorsanız beklentinizi düşürün. Küçük bir modeli dar bir görevde iyi hale getirmeyi düşünüyorsanız, önce fine-tuning mi RAG mi karar ağacına bakın.

Peki siz ne yapmalısınız?

• Önce iki kararı birbirinden ayırın: açık kaynak model kullanmak ayrı, onu kendi sunucunuzda çalıştırmak ayrı bir karardır. Çoğu şirket için doğru bileşim birincisi evet, ikincisi hayır.
• Karar vermeden önce aylık token hacminizi ölçün. Ayda 100 milyon token'ın altındaysanız self-hosting'in parasal gerekçesi yok demektir.
• Hesabınıza mühendislik zamanını dahil edin; bir kıdemli mühendisin zamanının beşte biri, sunucu kirasından pahalıya geliyor.
• Lisansa bakın, etikete değil: kullanacağınız modelin Apache 2.0, MIT ya da kısıtlı bir topluluk lisansı olup olmadığını sözleşme öncesi netleştirin.
• Gerekçeniz hukuksa maliyet tartışmasını kapatın; veri yurt dışına çıkamıyorsa hesap zaten bir seçenek sunmuyor. O durumda Türkiye'de barındırılan bir kurulum ya da hibrit mimari değerlendirin.

Bu konudaki kararların çoğu, teknik bir değerlendirmeden çok bir aidiyet duygusuyla veriliyor: kendi sunucusunda kendi modelini çalıştırmak sağlam bir his veriyor. His yanlış değil, ama fatura hissi umursamıyor. Hangi verinin nerede durması gerektiğini bir sayfada netleştirip aylık hacminizi ölçtükten sonra, karar genelde kendini söylüyor.