LLM'leri yan yana karşılaştır
2–4 modeli yan yana koy — spec'ler, yetenekler ve görev-bazlı uygunluk — hangisinin ne için daha iyi olduğunu gör, canlı Hugging Face verisinden.
Modeller
2 / 4Qwen2.5-7B-Instruct Qwen/Qwen2.5-7B-Instruct | Qwen2.5-Coder-7B-Instruct Qwen/Qwen2.5-Coder-7B-Instruct | |
|---|---|---|
| Kimlik & popülerlik | ||
| Parametreⓘ | — | — |
| MoE (aktif / toplam)ⓘ | — | — |
| Contextⓘ | — | — |
| Lisansⓘ | — | — |
| İndirme (30g)ⓘ | — | — |
| Beğeniⓘ | — | — |
| Güncellemeⓘ | — | — |
| Base modelⓘ | — | — |
| Mimari & bellek | ||
| Hassasiyetⓘ | — | — |
| Katmanⓘ | — | — |
| Hidden boyutⓘ | — | — |
| Attn / KV headⓘ | — | — |
| Head dimⓘ | — | — |
| Vocabⓘ | — | — |
| Ağırlıklar (native)ⓘ | — | — |
| KV / tokenⓘ | — | — |
| VRAM @ 8k · 1 kullanıcıⓘ | — | — |
| Yetenekler | ||
| Talimat-ayarlıⓘ | — | — |
| Kodⓘ | — | — |
| Matematikⓘ | — | — |
| Akıl yürütmeⓘ | — | — |
| Görselⓘ | — | — |
| Çok dilliⓘ | — | — |
| Embeddingⓘ | — | — |
| Görev uygunluğupuan 0–100 · en iyi vurgulu | ||
| Sohbet / asistanⓘ | — | — |
| Kod üretimiⓘ | — | — |
| RAG / belge soru-cevapⓘ | — | — |
| Uzun belge özetlemeⓘ | — | — |
| Ajan / araç kullanımıⓘ | — | — |
| Akıl yürütme & matematikⓘ | — | — |
| Çok dilliⓘ | — | — |
| Görsel / çok kipliⓘ | — | — |
| Embedding / aramaⓘ | — | — |
| Cihaz üstü / edgeⓘ | — | — |
| Yüksek throughput'lu servisⓘ | — | — |
Karşılaştırma neyi ölçüyor
Hugging Face Hub'dan iki ile dört modeli yan yana koy. Her sütun diğer sayfalardaki yöntemle çözülür: parametre, uzman, maksimum context, lisans, indirme, beğeni, son güncelleme ve temel model; ağırlıkların yayımlandığı hassasiyet ve kapladıkları yer; FP16'da token başına KV cache; 8k token ve tek kullanıcı için gereken GPU belleği.
Altında Hub'ın beyan ettiği yetenekler — instruct, kod, matematik, akıl yürütme, görsel, çok dilli, embedding — ve 11 görevin tamamı için görev uyum puanı yer alır. Context, indirme, beğeni ve her görev puanında en iyi değer vurgulanır; tüm modellerin eşit olduğu satır sade kalır.
Sık sorulanlar
- VRAM değeri hesaplayıcıdakiyle aynı mı?
- Aynı motordan, sabit bir iş yüküyle gelir: 8k context, tek kullanıcı, FP16 KV cache ve tek GPU'da vLLM'in ek yükü. Kendi context ve kullanıcı sayına göre boyutlandırmak için modeli VRAM hesaplayıcısında aç.
- Quantize edilmiş bir model neden bazen BF16 görünüyor?
- Hassasiyet quantization config'inden, depo adından, torch_dtype'tan ya da safetensors başlığından tespit edilemezse karşılaştırma BF16 varsayar. Ağırlık boyutu fazla büyük görünüyorsa depoyu kontrol et.
- Görevim için hangi model daha iyi?
- Görev satırları her modelin o iş için ne kadar uygun yapıldığını puanlar — talimat eğitimi, context, boyut, beyan edilen yetenekler. Cevap kalitesini ölçemezler; kısa liste çıkarmak için kullan, sonra finalistleri kendi prompt'larınla dene.
- Kaç model karşılaştırabilirim?
- Aynı anda en fazla dört. Seçim sayfa adresinde tutulur; bir bağlantı aynı karşılaştırmayı başkası için de açar.