Qwen 3.8 27B Açık Ağırlıklarla Yayında: 17 GB'a Sığıyor

Mali verisi bulut sağlayıcısına çıkamayan bir muhasebe yazılımı şirketinin yapay zeka planı, yıllardır tek bir cümlede takılı kalıyordu: "Bekleyelim, açık modeller yeterince iyi olsun." Cuma günü o cümlenin ömrü biraz daha kısaldı.

Alibaba'nın Qwen ekibi 16 Ağustos'ta 27 milyar parametrelik yeni modelinin ağırlıklarını Apache 2.0 lisansıyla yayınladı. Yani indirip kendi sunucunuzda çalıştırabilir, ticari üründe kullanabilir, kimseye lisans ücreti ödemezsiniz.

Kutunun içinde ne var?

Model 27 milyar parametreli, görü (vision) yetenekli ve 262.144 token bağlam penceresine sahip. Q4_K_M nicemlemesiyle diskte 17 gigabayt yer kaplıyor. Bu boyut, modeli "veri merkezi işi" olmaktan çıkarıp güçlü bir iş istasyonuna sığdırıyor.

Geliştirici Simon Willison modeli yayınlandığı gün 128 GB bellekli bir MacBook Pro ve NVIDIA DGX Spark üzerinde çalıştırdı. LM Studio ile aldığı hız saniyede 15-30 token. Karşılaştırma için: aynı model barındırılmış API'ler üzerinden saniyede 74-184 token üretiyor. Çoklu token tahmini (MTP) optimizasyonu açıldığında yerel hız yaklaşık %72 artıyor.

Varsayılan ayarla çalıştırmayın

Willison'ın en işe yarar uyarısı performansla değil ayarla ilgili: model varsayılan olarak xhigh akıl yürütme seviyesiyle geliyor ve bunu "özellikle tüketici donanımında modeli çalıştırmanın kesinlikle iyi bir yolu değil" diye niteliyor. Model basit bir soruda dakikalarca düşünüp duruyor. Önerisi net: çoğu iş için akıl yürütmeyi low'a çekin ya da tamamen kapatın.

Bu ayrıntı önemli, çünkü açık modelleri deneyip "yavaş ve saçmalıyor" diye bir kenara bırakan ekiplerin bir kısmı aslında yanlış varsayılanı test ediyor.

Ne kadar iyi?

Qwen'in kendi iddiası, modelin hem selefi Qwen 3.6 27B'yi hem de kapalı ağırlıklı Qwen 3.7-Plus'ı geçtiği yönünde. Willison bazı işlerde modelin, 2,4 trilyon parametreli dev kardeşiyle yarıştığını söylüyor. Güçlü bulduğu yerler: karmaşık kodlama görevleri, güvenilir araç çağırma ve şaşırtıcı derecede isabetli görsel işaretleme (sınırlayıcı kutu tespiti).

Bunların bir kısmı üreticinin kendi ölçümü. Kendi işinizde ne yapacağını, kendi verinizle test etmeden bilemezsiniz.

Kendi sunucunuzda ne anlama geliyor?

Türkiye'de veri yerelliği isteyen ya da kişisel veriyi yurt dışına aktarma iznini almak istemeyen şirketler için bu tip sürümler kapalı modellerin fiyat indiriminden daha değerli. Sebebi basit: KVKK tarafındaki en zor soru "model ne kadar iyi" değil, "veri nereye gidiyor". Model kendi sunucunuzdaysa o soru büyük ölçüde kapanıyor.

Ama iki noktada gerçekçi olalım. Birincisi hız: saniyede 15-30 token, canlı sohbet arayüzü için sınırda bir deneyim. Gece çalışan toplu işler (belge sınıflandırma, özetleme, veri çıkarımı) için gayet yeterli, müşteriyle konuşan bir asistan için değil. İkincisi donanım: 128 GB bellekli bir makine ucuz değil, ama bir yıllık kurumsal API faturasının yanında hesabı yapılabilir bir kalem.

Bir de kimsenin sizin yerinize cevaplamayacağı soru var: Türkçe performansı. Qwen ailesi Türkçede genelde idare ediyor ama sınıfının kapalı modelleri kadar değil. Karar vermeden önce kendi belgelerinizden 50-100 örnekle küçük bir test seti kurun; benchmark tablosu değil, o test sizin cevabınız olacak.

Kaynaklar: Simon Willison, Hugging Face / Qwen