IBM, indirilebilen ve kullanıcıların kendi sistemlerinde barındırabileceği açık ağırlıklı büyük dil modeli ailesinin yeni üyeleri Granite 4.2’yi duyurdu. Yeni seri, 3B, 8B ve 30B parametreli üç farklı modelden oluşuyor.
Önceki sürümlerde olduğu gibi Granite 4.2 modelleri de decoder-only mimarisini kullanıyor. Modellerin tamamı yerel olarak 128 bin tokenlık bağlam penceresi sunuyor.
8B ve 30B modelleri ise bunun yanında özel bir ajan odaklı pekiştirmeli öğrenme sürecinden geçirildi. Bu sayede modellerin terminal kullanma, web’de arama yapma ve harici araçlarla çalışma gibi görevlerde daha yetenekli olması hedefleniyor. 3B model de araç kullanımını destekliyor ancak aynı düzeyde özel eğitimden geçirilmedi.
Granite 4.2’nin odağında akıl yürütme var
Yeni seriyi önceki Granite modellerinden ayıran en önemli noktalardan biri, IBM’in akıl yürütme odaklı bir sürüm sunması.
Buradaki “akıl yürütme” ifadesi, modellerin insan gibi bilinçli şekilde düşündüğü anlamına gelmiyor. Yapay zekâ modellerinde bu kavram daha çok ara sonuçları birden fazla adım boyunca kullanarak sonuca ulaşma yeteneğini ifade ediyor.
Bu yaklaşım, bazı görevlerde daha kapsamlı ve isabetli sonuçlar sağlayabilir. Ancak bunun karşılığında daha uzun yanıt süreleri ve daha yüksek hesaplama maliyetleri ortaya çıkabiliyor.
Yerel LLM’lere ilgi Granite 4.2’yi öne çıkarıyor
IBM’in Granite ailesi genellikle sektördeki en hızlı veya en yenilikçi modeller arasında gösterilmese de şirketin yaklaşımı daha çok öngörülebilir ve kontrollü kurumsal kullanıma dayanıyor.
Bu durum, özellikle Anthropic ve OpenAI gibi şirketlerin bulut tabanlı modellerinin maliyetleri ve yüksek işlem gücü gereksinimleri tartışılırken önem kazanıyor. Bireysel geliştiriciler ve şirketler, bazı görevlerde daha ekonomik bir seçenek sunabilen yerel yapay zekâ modellerine giderek daha fazla yöneliyor.
Yerel modellerin bir diğer avantajı ise kullanıcıların modelleri kendi donanımlarında çalıştırabilmesi. Böylece geliştiriciler ve araştırmacılar, kullanım başına API ücreti ödemeden modeller üzerinde deney yapabiliyor.
Bu eğilim, aynı zamanda model yönlendiricilerine (model router) olan ilgiyi de artırıyor. Bu araçlar, kullanıcının isteğini veya görevi analiz ederek performans, hız ve maliyet açısından en uygun yapay zekâ modeline yönlendirmeyi amaçlıyor.
Granite 4.2 gibi farklı boyutlarda sunulan modeller de bu ekosistemde önemli bir rol oynuyor. Kullanıcılar, ihtiyaç duydukları göreve göre daha küçük ve hızlı bir modeli yerel olarak çalıştırırken, daha karmaşık işlemler için daha büyük modellere yönelebiliyor.
