İki model, iki iş.
Küçük model tek bir kurumun belgeleriyle çalışır; büyük model genel amaçlı bir dil modeli olarak eğitiliyor. İkisi de aynı eğitim algoritmasını kullanır.
Kiracı modeli
Kurumun kendi belgelerinden cevap vermek için üretildi. Her müşteriye tak-çıkar bir bellek paketi bağlanır. İs mindeki T bu kiracı (tenant) yapısını simgeler.
İnce ayar sürüyor
Genel amaçlı model
Genel bir dil modeli olarak eğitilecek. Bu ad için T kullanılmaz: kiracı yapısı ilk modelin işi. Sonradan B2B çözümlere uyarlanabilir, ama eğitimin amacı genel yetenek.
Eğitim başlamadı
Kairo-Flash 2'nin tasarım sayıları ve gerçek ölçümleri haberler sayfasındaki ölçüm defterinde.
Ne için üretildi
KairoT-Flash genel amaçlı bir sohbet modeli değil. Tek bir işi kurumsal düzeyde yapmak için üretildi: bir kurumun kendi belgelerinden doğru cevap vermek — uydurmadan, belgede olmayanı söylemeden.
İade, kargo, sözleşme soruları
“İade süreniz kaç gün?” sorusuna kurumun kendi politikasındaki sayıyı söyler — 12 günse 12 der. Genel geçer bir cevap üretmez.
Yüzlerce sayfalık doküman
Sözleşme, yönetmelik ve kılavuzları önceden belleğe alır; soru geldiğinde ilgili bölümü bulup oradan yanıtlar. Belge her soruda yeniden gönderilmez.
Müze ve tarihi eser rehberi
Eser dosyasındaki tarihler, isimler ve dönem bilgileri modele yazılır; ziyaretçi sorusunda bu ayrıntılar tek tek geri gelir.
Kiracı Belleği — her kuruma tak-çıkar bellek
Kurumsal yapay zekânın en pahalı sorunu şudur: her müşterinin belgesi farklı, ama model tek. Bugün bunun iki çözümü var ve ikisi de kötü.
Her müşteriye ayrı model
Yüzlerce kopya, yüzlerce eğitim, yüzlerce fatura. Bir belge güncellendiğinde modelin tamamı yeniden eğitilir. Müşteri ayrılınca verisi modelin içinde kalır.
Her müşteriye tak-çıkar bellek
Model tek kalır. Müşteriye özel iki dosya üretilir: biri üslubu, diğeri olguları taşır. İkisi de saniyeler içinde takılır, çıkarılır; çıkarıldığında model birebir eski hâline döner.
Yaygın yaklaşımlara göre ne değişiyor
| Sorun | Yaygın çözüm | KairoT-Flash |
|---|---|---|
| Müşteri sayısı arttıkça maliyet | Her müşteri için model kopyası | Tek model + ≈250 KB’lık paket |
| Belge her soruda yeniden gönderiliyor | Uzun bağlam: yavaş ve pahalı | Belge bir kez belleğe alınır, soru kısa kalır |
| Müşteriden soru-cevap seti bekleniyor | Elle etiketleme, haftalar | Sorular otomatik üretilir ve geri getirimle sınanır |
| Müşteri ayrıldığında veri | Modelin içinde kalır | Paket silinir; modelde iz kalmaz |
Kiracı paketi düz metin taşımaz: belge modele belirteç kimliği olarak yazılır ve yalnız takılıyken kullanılır.
Mimari kararlar
Ölçülmeyen mekanizma gemide kalmaz
Yedi ek mekanizma tek tek ölçüldü. Kazanç sağlamayanlar kapatıldı: model daha hızlı, daha küçük ve her parçası gerçekten çalışıyor.
64.000 kelimelik sözlük
Aynı metin daha az parçaya bölünür; sözlük ile çıkış katmanı tek ağırlığı paylaşır. Kazanılan parametreler derinliğe harcandı.
8 uzmandan 2’si çalışır
Model 339,5 milyon parametre taşır ama her belirteçte yalnız ≈188,5 milyonu hesaplanır. Kapasite büyür, hesap büyümez.
Boyutuna göre ne yapabilir
0,34 milyar parametre bilinçli bir tercihtir. Bu boyutun sınırı açık olsun diye yazıyoruz.
| İş | Durum | Açıklama |
|---|---|---|
| Türkçe akıcılık ve dilbilgisi | Güçlü | Bu boyutun en güvenilir olduğu alan. |
| Belgeden olgu çıkarma | Güçlü | Sayı, tarih, isim — belge bağlamdayken. |
| Talimat izleme ve araç çağırma | İnce ayarda | Talimat verme yeteneği bu aşamada öğretiliyor. |
| Geniş dünya bilgisi | Sınırlı | 0,34 B ölçekte beklenen sınır; kurumsal bilgi belgeden gelir. |
| Uzun belgeyi tek seferde okuma | 2.048 belirteç | Uzun bağlam aşaması (12.288) sırada. |