Kimi K3'ün Açık Ağırlıkları Yayında: 2,8 Trilyon Parametre

1,4 terabayt. Moonshot AI'ın 27 Temmuz'da Hugging Face'e yüklediği Kimi K3 ağırlık dosyalarının kapladığı yer bu. Kurumsal bir dizüstü bilgisayarın diski genelde 512 gigabayt; yani tek bir modelin ağırlıkları üç dizüstüne ancak sığıyor.

Rakamın anlamı depolamayla sınırlı değil. 2,8 trilyon parametresiyle Kimi K3, ağırlıkları kamuya açılmış en büyük yapay zeka modeli oldu. Moonshot yanına altyapıyı da koydu: yüksek performanslı dikkat çekirdekleri, uzman karışımı modeller için iletişim kütüphanesi ve yapay zeka ajanlarını ölçekli çalıştırmaya yarayan araçlar.

2,8 trilyonun ne kadarı bir seferde çalışıyor

Parametrelerin tamamı her istekte devreye girmiyor. Kimi K3, uzman karışımı (MoE) mimarisi kullanıyor: 896 uzman alt modelden token başına yalnızca 16'sı çalışıyor, bu da her token için yaklaşık 104 milyar aktif parametre demek. Model kağıt üzerinde 2,8 trilyonluk, çalışma maliyeti bakımından 104 milyarlık bir modele daha yakın.

Bağlam penceresi 1 milyon token. Moonshot, Kimi Delta Attention adını verdiği yeni dikkat mekanizmasının uzun bağlamlı çıkarımı önceki yaklaşımlara göre altı kata kadar ucuzlattığını söylüyor. Ağırlıklar MXFP4 formatında yayınlandı, yani sıkıştırma eğitim sırasında hesaba katılmış.

Bağımsız ölçümler modeli üst sıralara koyuyor ama zirveye değil. Artificial Analysis endeksinde 189 model içinde 4. sırada, kodlama tarafında Terminal-Bench 2.1'de 88,3 puanla öne çıkıyor. Buna karşılık siber güvenlik görevlerinde ve matematikte sınır modellerin belirgin şekilde gerisinde kalıyor.

Lisansın ince yazısı

Ağırlıklar "Modified MIT" lisansıyla geldi. Ticari kullanım, değiştirme ve dağıtım serbest, atıf şartıyla. Ama iki eşik var: modeli servis olarak sunup yıllık 20 milyon doların üzerinde gelir elde eden işletmelerin Moonshot ile ayrı anlaşma yapması gerekiyor, aylık 100 milyon kullanıcıyı ya da aylık 20 milyon dolar geliri aşan ürünlerin ise arayüzünde "Kimi K3" ibaresini göstermesi zorunlu.

Bu eşikler Türkiye'deki şirketlerin ezici çoğunluğunu bağlamıyor. Yine de "açık kaynak, istediğimi yaparım" varsayımıyla yola çıkmamak gerekiyor: açık ağırlık, alışık olduğumuz açık kaynak yazılım lisanslarıyla aynı şey değil.

Türkiye'den bakınca

Asıl mesele lisans da değil, fatura. Modeli kendi sunucunuzda çalıştırmak için toplamda 1,4 terabaytı aşan GPU belleği ve üretim ortamı için 64'ten fazla hızlandırıcı öneriliyor. Tek bir sunucuya, hatta 8 GPU'luk tek bir düğüme sığmıyor; çok düğümlü bir küme şart. Türkiye'de bu donanımı kurup ayakta tutabilecek kurum sayısı bir elin parmaklarını zor geçer.

Pratikte anlamı şu: "açık ağırlık" haberi çoğu işletme için bir kendi sunucunda çalıştırma fırsatı değil, bir fiyat baskısı haberi. Moonshot'un kendi API'sinde milyon token başına 3 dolar giriş, 15 dolar çıkış fiyatı geçerli; önbellek isabetinde giriş 0,30 dolara iniyor. Kapalı sınır modellerin belirgin altında. Bir yandan da ağırlıkların açık olması, bulut sağlayıcılarının modeli kendi altyapılarında sunmasının önünü açıyor. Veri yerleşimi konusunda hassas kurumlar için seçenek çoğalıyor.

Önerimiz, bu tür duyuruları "yeni model geldi, geçelim mi?" sorusuyla karşılamamak. İki soru daha işe yarar: bu modelin güçlü olduğu iş sizin işiniz mi (Kimi K3 örneğinde kodlama ve uzun belge), ve modeli hangi kanaldan tüketeceksiniz? Fireworks AI'ın testinde, görevi Kimi K3 ile bir sınır model arasında paylaştıran yönlendirmenin %93 isabet verdiği bulundu. Tek bir model seçmek zorunda değilsiniz; işi doğru modele yollamak çoğu zaman hem daha ucuz hem daha iyi sonuç veriyor.

Kaynaklar: The Decoder, VentureBeat, Hugging Face