Modeli eğiten yol.
Modellerimizi hazır bir eğitim kütüphanesiyle değil, kendi yazdığımız bir eğitim yoluyla eğitiyoruz. Bu sayfa ne kazandığını anlatıyor — formülle değil, aynı model üzerinde ölçülmüş sayılarla. Kazancın yanında bedeli de yazıyor.
Üç değişiklik
Kayıp, parça parça hesaplanır
Klasik yol, her adımda modelin 64.000 kelimelik çıkış tablosunun tamamını kurar. Bizde tablo hiç kurulmaz: sırayla parçalar üretilir, kayba eklenir, bellekten atılır. Sonuç aynı, bellek çok az.
Ağırlıklar daha düzenli güncellenir
Klasik yöntem her ağırlığı tek tek düzeltir. Bizim yöntemimiz önce ağırlık matrisinin yönünü düzeltir, sonra büyüklüğünü ayarlar. Adım başına iş biraz daha uzun sürer — ama yön isabeti daha yüksektir.
Her adımda modelin tamamı çalışmaz
Büyük modelde 15 uzman katmanı var; her belirteçte yalnız 3’ü çalışır. Kapasite 3 milyar parametre, hesap ise 0,75 milyar üzerinden yapılır. Aynı kart, çok daha büyük model.
Ölçülen fark
Hepsi kendi koşumuz: 6 Kasım 2026, tek bir RTX 4060 Ti 16 GB kart. Klasik yol ile bizim yol aynı model, aynı belirteç, aynı mikro-parti üzerinde koştu. Kayıp değerleri birebir aynı çıktı — yani aynı matematik, farklı maliyet.
| Ölçüm | Klasik yol | Bizim yol | Sonuç |
|---|---|---|---|
| Kayıp hesabının tepe belleği 0,35 B · 2 × 2.048 belirteç |
4,75 GiB | 2,93 GiB | 1,82 GiB az (%38) |
| Aynı örnekte ölçülen kayıp | 11,263 | 11,263 | Aynı sonuç — kazanç bozulmadan geliyor |
| Optimizer adımı süresi 0,35 B |
0,33 sn | 1,29 sn | 3,9 kat yavaş — bilinçli bedel |
| 3B model eğitim adımı ileri + geri · 2 × 2.048 |
— | 2.241 belirteç/sn 11,76 GiB tepe |
16 GB karta sığıyor |
| 3B model optimizer adımı | — | 15,18 GiB’de bellek hatası | Bu karta sığmadı |
Tablonun son iki satırı bugünün en önemli bulgusu: 3B modelin hesabı karta sığıyor, ama ağırlık güncellemesi sığmıyor. Yani büyük modeli bu kartta eğitmek için ek bir bellek çözümü gerekiyor. Bu açık iş ölçüm defterinde kayıtlı.
Bunun modele etkisi
3B model tek kartta çalışabiliyor
Parçalı kayıp olmasaydı, 3B modelin çıkış tablosu tek başına kartın belleğinin büyük kısmını yerdi. Parçalama sayesinde ileri ve geri yayılım 11,76 GiB’de tamamlanıyor.
Nerede durduğunu biliyoruz
Aynı kartta 3B modelin ağırlık güncellemesi 15,18 GiB istiyor ve düşüyor. Bu, “her şey hazır” demek değil; sıradaki işin ne olduğunu gösteren bir ölçüm.
Neyi henüz ölçmedik
Yöntemin tek tek
ayrıntıları teknik raporda; ham çıktılar
kairot-flash-3b/olcum_3b.log ve
kairot-flash-3b/olcum_algoritma.log dosyalarında.