LLM model adı çözücü
Bir model adındaki her parça ne anlama geliyor? Bir model yaz ya da seç — her token (boyut, quantization, varyant…) renklendirilip açıklanır. Üzerine gel, parlasın.
Model adı
Bir token'ın üzerine gel, anlamı parlasın.
RedHatAIYayıncıBu repo'yu yayınlayan kuruluş/kullanıcı (model sahibi ya da quantize eden).
Qwen3.6Model ailesiTemel model serisi — çoğu zaman sürüm numarasıyla birlikte.
35BParametre sayısıToplam parametre (milyar). Kaliteyi ve VRAM'i belirler — büyük = daha yetenekli ama daha ağır.
A3BMoE — aktif parametreToken başına aktif parametre (ör. A3B = 3B aktif). Hesap ≈ aktif parametre; VRAM ≈ toplam parametre.
NVFP4Quantization · NVFP4 / MXFP44-bit float (Blackwell'de NVFP4, gpt-oss gibi modellerde MXFP4). INT4'ten daha iyi doğrulukla ~4× küçük.
Bir model adı nasıl okunur
Açık ağırlıklı bir modelin adı, birbirinden bağımsız birkaç kararı tek bir dizede toplar: aile ve sürüm, boyut, mimari, hangi amaçla eğitildiği, nasıl quantize edildiği ya da paketlendiği. Çözücü organizasyonu eğik çizginin önünden alır, gerisini tire ve alt çizgilerden böler ve her parçayı bu kategorilerin kurallarıyla sırayla eşleştirir.
Parametre sayılarını (8B, 350M), Mixture-of-Experts boyutlarını (8x7B) ve aktif parametreleri (A3B); quantization ve formatları (AWQ, GPTQ, GGUF ve Q seviyeleri, FP8, NVFP4 ve MXFP4, BF16, W4A16, INT4, bitsandbytes 4-bit); eğitim türlerini (Instruct, Chat, Base, Coder, Math, VL, Embedding, Reranker ve R1, QwQ, Thinking gibi akıl yürütme adları); eğitim yöntemlerini (DPO, ORPO, GRPO, LoRA); context uzunluklarını (32k), tarihleri ve sürümleri tanır. Yalnızca adı okur — adlandırma gelenekleri aileden aileye değişir ve bir ad kendi içeriği hakkında yanılıyor olabilir.
Sık sorulanlar
- Model adındaki A3B ne demek?
- Mixture-of-Experts bir modelde token başına yaklaşık 3 milyar aktif parametre. Qwen3-30B-A3B 30 milyar parametre tutar ama her token'ı toplamı 3 milyar civarındaki uzmanlardan geçirir: bellek 30B'nin tamamı için gerekir, token başına hesaplama ise 3B'lik bir modelinkine yakındır.
- GGUF, AWQ ve GPTQ arasındaki fark ne?
- GGUF, llama.cpp ve onun üzerine kurulan araçların dosya formatıdır; genelde CPU, Apple Silicon ve tüketici GPU'ları için Q4, Q8 gibi quantization seviyeleri taşır. AWQ ve GPTQ ise safetensors olarak saklanan, vLLM gibi GPU servis motorlarını hedefleyen 4-bit ağırlık quantization yöntemleridir.
- FP8, NVFP4 ve MXFP4 ne anlama geliyor?
- BF16'dan küçük kayan noktalı ağırlık formatlarıdır. FP8 her ağırlığı bir byte'ta, BF16'nın yarısında saklar; NVFP4 ve MXFP4 ise ağırlık başına yarım byte'lık 4-bit formatlardır ve yeni NVIDIA donanımlarında, gpt-oss gibi modellerde kullanılır.
- Instruct ile Base arasındaki fark ne?
- Base model yalnızca metni sürdürmek üzere ön eğitimden geçmiştir. Instruct model — Chat ya da -it adıyla da görülür — talimatlara uymak ve sohbet sürdürmek için ayrıca eğitilmiştir; çoğu uygulamanın istediği de budur.