—
Yükleniyor…
Durum
Eğitim kaybı
Her nokta, o adım aralığındaki kayıpların ortalamasıdır — tek adımın gürültüsü değil. Aşağı inen eğri, modelin metni daha iyi kestirdiğini gösterir. Held-out CE, modelin hiç görmediği metindeki karşılığıdır.
Aşamada kullanılan parametreler
Veri setleri
| Kaynak | Alan | Hacim | Pay / tekrar |
|---|
Ön eğitimde pay, işlenen 6,96 milyar belirteçlik korpusun içindeki gerçek paydır. SFT ve B2B’de aynı kaynak tekrar edilir; oranı tekrar katsayısı belirler.