Microsoft Ucuz Uzman Modellere Yöneliyor: %89'a Varan Tasarruf

Yüzde 89. Microsoft'un Dynamics 365 Çağrı Merkezi ürününde, OpenAI modeli yerine kendi geliştirdiği MAI-Voice-2-Flash modeline geçtiğinde açıkladığı GPU maliyeti düşüşü bu. Görsel tarafta da benzer bir rakam var: MAI-Image-2.5, OpenAI'ın GPT-Image-2 modeline kıyasla GPU maliyetini %84'e kadar azaltıyor.

Bu rakamlar bir ürün duyurusundan fazlasını anlatıyor. Microsoft, sınır modeli yarışında en büyüğü kovalamak yerine, belirli işleri ucuza yapan küçük uzman modeller üzerine bahis oynadığını açıkça söylemeye başladı.

Rakamlar ne diyor?

Microsoft'un haziranda tanıttığı MAI model ailesi görsel üretim, ses üretimi, ses yazıya çevirme ve kod yazma gibi dar tanımlı işlere odaklanıyor. Genel amaçlı bir asistan değiller; her biri tek bir işi hedefliyor.

Şirketin paylaştığı en dikkat çekici karşılaştırma McKinsey ile yapılan çalışmadan geliyor. Danışmanlık firmasının ihtiyaçlarına göre ince ayar yapılan MAI modeli, OpenAI'ın GPT-5.5 modelini geride bırakırken maliyet verimliliğinde 10 kat fark yarattı. CEO Satya Nadella da MAI modellerinin "genel amaçlı sınır modellerini geride bırakmaya başladığını" söylüyor.

Burada dikkat edilmesi gereken bir nüans var: karşılaştırmalar Microsoft'un kendi ölçümleri ve dar görevler üzerinden yapılıyor. "Her işte daha iyi" iddiası ortada yok. İddia şu: sizin yaptığınız iş dar tanımlıysa, sınır modeline ödediğiniz paranın büyük kısmı boşa gidiyor.

Rekabet modelden orkestrasyona kayıyor

The Decoder'ın vurguladığı nokta, haberin asıl teknik özeti sayılabilir: rekabet tek tek modellerden "harness" katmanına, yani görevleri yönlendiren ve modele bağlam sağlayan yazılıma kayıyor.

Kurulan mimari şöyle işliyor: bir yönlendirici (orchestrator) gelen işlerin büyük kısmını ucuz uzman modellere gönderiyor, sınır modelini yalnızca gerçekten zor vakalar için saklıyor. Fatura, ortalama iş için değil, en zor iş için ödenmekten kurtuluyor.

Sahadan bakış

Bu yaklaşım bizim projelerde uzun süredir uyguladığımız bir şey ve rakamlar abartılı değil. Bir müşteri destek otomasyonunda gelen taleplerin çoğu birkaç kalıba oturur: kargo nerede, fatura nasıl alınır, iade nasıl yapılır. Bu soruları en pahalı modele sormak, market alışverişini taksiyle yapmaya benziyor. Çalışır ama ay sonunda fark birikir.

Türkiye'deki işletmeler için asıl önemi şurada: yapay zeka projelerinde en sık duyduğumuz itiraz "token maliyeti öngörülemiyor" oluyor. Uzman model ve yönlendirici mimarisi bu itirazın doğrudan cevabı. Kullanım arttıkça maliyetin doğrusal şekilde patlaması, teknolojinin değil mimari tercihin sonucu.

Üç pratik öneri:

• İş yükünüzü ayrıştırın. Taleplerinizin yüzde kaçı tekrar eden kalıplara giriyor? Bu oranı bilmeden hangi modele ne kadar ödediğinizi bilemezsiniz.
• Yönlendirici katmanını baştan kurun. Sonradan eklemek, tüm entegrasyonu yeniden yazmak demek.
• Satıcı karşılaştırmalarına kendi verinizle bakın. "%89 tasarruf" rakamı Microsoft'un iş yükü için geçerli, sizinki için değil. Küçük bir pilotla kendi oranınızı ölçün.

Sınır modeli yarışı devam edecek, ama fatura ödeyen tarafta asıl soru artık "hangi model en akıllı" değil, "hangi işi hangi modele göndereceğim" haline geliyor.

Kaynaklar: The Decoder, VentureBeat, IT Pro