SDC Medya

Yapay Zekâ

Inkling 2 Mini, aynı katmanları üç kez çalıştırıyor

Thinking Machines Lab, dizüstü bilgisayarlarda da çalışabilen açık ağırlıklı Inkling 2 Mini’yi yayımladı. Model, hesaplama katmanlarını yeniden kullanıyor; bu yöntem bilgi doğruluğunu tek başına artırmıyor.

Küçük bir bilgisayar üzerinde aynı katmanların yeniden kullanımını simgeleyen üç döngü; kavramsal yapay illüstrasyon.
Yapay zekâ ile üretilmiş kavramsal editoryal illüstrasyon; olayın fotoğrafı değildir.

Thinking Machines Lab, Inkling 2 Mini adlı yapay zekâ modelini 20 Kasım 2026’da açık ağırlıklarla yayımladı. Modelin eğitimle belirlenmiş sayısal değerleri indirilebiliyor; böylece sistem yalnızca şirketin çevrim içi hizmetinden kullanılmak zorunda değil. Metin ve görüntü kabul eden, metin üreten model; kodlama, araç kullanımı ve genel amaçlı konuşma için tasarlandı. Aynı gün Tinker üzerinden çalıştırma ve ek eğitim erişimi de açıldı.

Modelin ayırt edici özelliği, hesaplama katmanlarının bir bölümünü yeniden kullanması. Transformer, girdideki parçalar arasındaki ilişkileri işleyen bir sinir ağı mimarisi. Inkling 2 Mini’nin metin üretim bölümünde 24 fiziksel katman bulunuyor. İlk altı katman bir kez, ortadaki 12 katman üç kez, son altı katman bir kez çalışıyor. Böylece her çıktı parçası için 48 katman uygulaması yapılıyor; ancak bunların her biri ayrı bir ağırlık kümesi gerektirmiyor.

Hugging Face’in teknik açıklamasına göre döngüdeki geçişler aynı ağırlıkları paylaşıyor. Önceki geçişten taşınan bilgiler, sonraki geçişte öğrenilmiş bir denetleyici aracılığıyla hesaplamaya katılıyor. Bu, modelin aynı yanıtı üç kez yazması anlamına gelmiyor. Ek işlem modelin içinde gerçekleşiyor. Ayrıca yayımlanan ana modelde geçiş sayısı üç olarak sabit; farklı sayıda geçişi incelemek için sunulan araştırma modeli ayrı bir sürüm.

Inkling 2 Mini toplam 26,4 milyar parametre içeriyor. Parametreler, modelin eğitim sırasında öğrendiği sayısal değerler. Uzman karışımı denen yapıda, her adımda bütün alt ağlar yerine seçilmiş uzmanlar kullanılıyor. Her katman ziyaretinde 128 uzman arasından sekizi seçiliyor. Model kartı 3,4 milyar etkin parametre bildiriyor; tekrarlanan geçişler hesaba katıldığında çıktı parçası başına etkinleştirme miktarı 5,4 milyara karşılık geliyor. Bu son sayı toplam model boyutu değil.

Dağıtılan model dosyası yaklaşık 20 GB. Ağırlıkların çoğu NVFP4, son dört katman ise MXFP8 adlı düşük sayısal hassasiyet biçimlerini kullanıyor. Sayıları daha az bitle saklamak bellek ihtiyacını azaltıyor. Model kartında en az 32 GB belleğe sahip Apple Silicon cihazlar ve NVIDIA DGX Spark desteklenen donanımlar arasında. Başka grafik işlemciler için 32 GB veya üzeri görüntü belleği öneriliyor; dosyanın boyutu, bütün çalışma koşullarındaki toplam bellek tüketimi olarak okunmamalı.

Model bir milyon token uzunluğuna kadar bağlam destekliyor. Token, metnin işlenirken bölündüğü kelime veya kelime parçası gibi birimler için kullanılan ad. Bu kapasite uzun girdileri kabul edebilmesini anlatıyor; tüm ayrıntıları kusursuz hatırladığını göstermiyor. Ağırlıklar Apache 2.0 lisansıyla sunuluyor. Hugging Face, Transformers, llama.cpp ve MLX desteğini açıklıyor; kullanılacak yazılım ile donanım, yerel çalıştırmanın hızını etkiliyor.

Thinking Machines Lab, DeepSWE v1.1 kodlama değerlendirmesinde %48,2, Vals Index v2.2’de %46,5 sonuç bildiriyor. Bunlar belirli görev kümeleri ve çalıştırma düzenleri için açıklanan puanlar. Artificial Analysis’in ayrı değerlendirme sayfasında Intelligence Index puanı 20 olarak yer alıyor. Bu endeks puanı bir başarı yüzdesi değil; şirketin farklı testlerde verdiği yüzdelerle doğrudan karşılaştırılamıyor. Tek bir puan, her yazılım projesindeki başarıyı veya dizüstündeki yanıt hızını belirlemiyor.

Ağırlıkların indirilebilmesi ve katmanların paylaşılması, döngülü modellerin şirket dışındaki araştırmacılar tarafından incelenmesini kolaylaştırıyor. Yerel çalıştırma desteği de kodlama ve araç kullanma yeteneklerini büyük sunucuların dışına taşıyor. Bununla birlikte döngü, yeni bilgi depolayan ek ağırlıklar oluşturmuyor. Şirketin incelemesinde daha çok geçiş bazı akıl yürütme görevlerini iyileştirirken bilgi ağırlıklı sınamalarda benzer bir artış görülmedi.

Model kartı, yanlış bilgilerin güvenle sunulabildiğini, uzun konuşmalarda kalitenin düşebildiğini ve İngilizce dışındaki çıktılarda sorunlar yaşanabildiğini belirtiyor. Türkçe için ayrı bir başarı oranı açıklanmıyor. Kodlama sırasında ilerleme sağlamayan tekrarlar ve araç kullanırken talimatlara uymama da bildirilen sınırlar arasında. Bu nedenle açık ağırlıklı dağıtım ve küçük donanım desteği, hatasız veya her görevde aynı güvenilirlikle çalışan bir sistem anlamına gelmiyor.

Kaynaklar

Haber yayın ilkeleri

Diğer Haberler