Bir cümle, düğümlerden oluşan bir takımyıldıza dönüşür. Sürükle, dokun, ateşle — sonra kaydırıp içine gir.
Modele bir metin verirsin: “The cat sat on the mat.” Model harfleri değil, anlam taşıyan parçaları görmek üzere bunu hazırlar.
Cümle küçük parçalara (token) ayrılır ve her biri bir sayıya (ID) eşlenir. Model artık kelimelerle değil, sayılarla çalışır.
Her ID, yüksek boyutlu bir anlam uzayında bir noktaya (vektör) dönüşür. Benzer anlamlar birbirine yakın konumlanır.
Her token, cümledeki diğerlerine ne kadar dikkat edeceğini hesaplar. Nedensel maske gereği bir token yalnızca kendinden öncekilere bakabilir.
Attention + ileri-besleme bloğu üst üste yığılır (örn. ×32 katman). Her geçişte temsil biraz daha rafine olur.
Son katman, tüm kelime dağarcığı için bir olasılık dağılımı üretir. En yüksek olasılıklı token seçilir (ya da örneklenir).
Seçilen token diziye eklenir ve süreç baştan işler. Kelime kelime, model metni böyle üretir.
Bu küçük ağ aslında milyarlarca parametre. İşte bu yüzden VRAM önemli — modelin bir GPU’ya sığar mı?