AnlarAlana özel küçük dil modelleri (SLM)

Modeli kiralamayın; sahibi olun.

Görevinize göre eğitilmiş küçük bir model, o görevde çoğu zaman büyük genel bir modelle aynı işi görür. Sunucularınızda ya da bulut hesabınızda çalışır, veriniz ortamınızda kalır; eğitilen model ağırlıkları çalışma şartları kapsamında sizindir, temel modelin lisansı geçerli kalır.

Karar Planı ile başlayınMühendisle konuşun

ŞEKİL 1 · Sunucunuz · tek temel modelTemsilîGörev görev

Her görev için eğitilmiş bir adaptör.

Açık ağırlıklı temel model bir kez yüklenir · lisansı geçerli kalır · dış model servisi yok

Mali tablo aktarımı
Denetimli ince ayar (SFT), düşük ranklı uyarlama (LoRA) adaptörü olarakGeçti
Kovenant kontrolü
SFT, ardından pekiştirmeli öğrenme (RL)Geçti
Şikâyet yönlendirme
SFT, LoRA adaptörü olarakGeçti
Grup yapısı
Taranmış eklerden; test hâlâ sürüyorHenüz değil

Testi sizin uzmanınız yazar. Model yalnız geçtiği görevlerde canlıya alınır.

Ne zaman uyar, ne zaman bize ihtiyacınız olmaz

Eğitilmiş küçük bir model, genel bir modelin yetmediği yerde işe yarar.

  • Uzmanlarınız her gün aynı belgeleri okuyor

    Genel bir model terimlerinizi ve kurum formatınızı yanlış okur; yüksek hacimde ücretli bir modele gönderilen her sayfa faturayı büyütür.

  • Verileriniz dışarı çıkamaz

    Müşteri dosyaları, teklifler ve kayıtlı görüşmeler sunucularınızda kalır; model veriye gelir.

  • Bize ihtiyacınız yok

    Bir şablon ya da genel bir asistan bu işi zaten yapıyor

    Uzmanınızın yazdığı testi geçiyorsa ve verileriniz dışarı çıkabiliyorsa onu kullanın.

Kararınıza hangi türün uyduğundan emin değil misiniz? Karar Planı önce bunu yanıtlar.

Nasıl kuruyoruz

Ek eğitim: genel bir modelden sizin uzmanınıza.

Ek eğitim (post-training), uzmanlarınızın daha önce karara bağladığı örneklerle yapılan eğitimdir; küçük bir modeli tek bir görevde sizin uzmanınız yapar. Başlamadan önce doğru veriyi ve alıştırma görevlerini kurarız; sonra her adım yalnız uzmanınızın testi gerektiğini gösterdiğinde atılır.

Teknik ekibiniz için: eğitimden önce neleri hazırlarız

Eğitimden önce: doğru veri ve ortamlar

  • Uzmanınızın puanladığı bir test seti
  • Karara bağlanmış dosyalarınızdan çözülmüş örnekler (SFT verisi)
  • Uzmanın incelediği sentetik veri
  • Cevabını ekibinizin denetleyebildiği alıştırma görevleri (RL ortamları)
  • Kişisel veriler çıkarılmış
  • Kaynağı izlenen veri

ŞEKİL 2 · Ek eğitim · kredi teklifi modeliTemsilî

  1. Temel model

    Dili bilir, sizin masanızı bilmez.

  2. Sürekli ön eğitim (CPT)

    Gerekirse

    Yalnız alanınızın dili eksikse.

  3. Denetimli ince ayar (SFT)

    Ana adım

    Karara bağlanmış vakalarınızdan, sizin formatlarınız.

  4. Pekiştirmeli öğrenme (RL)

    İncelenebilir bir ödül varsa

    Ekibinizin inceleyebildiği bir ödüle karşı alıştırma.

  5. Uzmanınızın testi

    Eğitimden önce uzmanınız puanlar; eğitimde kullanılmaz.

Tek görev: kredi teklifinin kovenant bölümü

Temel model

“Şirket genel olarak istikrarlı görünüyor. Bazı kovenantlar baskı altında olabilir.”

  • Genel ifadeler
  • Sizin bölüm formatınız değil
  • Kaynak yok

Verileriniz, ağırlıklar ve test seti sizde kalır; hiçbir zaman başka bir sistemi eğitmek için kullanılmaz.

Testi sizin uzmanınız yazar. Model yalnız geçtiği görevlerde canlıya alınır.

Neler için eğitilebilir

  • Alana özel

    Alanınızın dili: kredi, hasar, bakım.

  • Göreve özel

    Tek bir iş: mali tablo aktarımı, kovenant kontrolü, özet.

  • Kuruma özel

    Formatlarınız, politikalarınız ve terimleriniz.

  • Yeni uzmanlık

    Temel modelin hiç sahip olmadığı bir beceri.

  • Araç ve hafıza

    Doğru aracı doğru parametrelerle çağırır, (örneğin bir SQL sorgusu ya da JSON isteği) ve vakanın adımlar boyunca ihtiyaç duyduğu bilgiyi tutar; hangi araçları kullanabileceğine ajanın çalışma çerçevesi karar verir.

  • Metin, görüntü, konuşma

    Taramalar ve kusur fotoğrafları görsel-dil modelleriyle; görüşmeleriniz konuşma tanıma ve sentezle.

Görsel kalite kontrolde geçti/kaldı kararını iyi parçalarla eğitilmiş bir model verir; görsel-dil modeli kusuru adlandırır. Konuşmacı tanıma ya da ses izi yoktur. Video yoktur.

Oranlar ve ürün koşulları gibi değişen bilgiler, cevap anında bilgi erişimi (retrieval) ile kaynaklarınızdan okunur ve kaynak gösterilir. Politika ve yetki model ağırlıklarının dışında kalır.

Kiralamak mı, sahip olmak mı

Kiralık genel model mi, kendi modeliniz mi: aradaki fark.

Kiralık genel model (API)Size ait küçük model
Veri nereye giderHer istek ağınızdan çıkıp sağlayıcıya giderSunucularınızda ya da bulut hesabınızda kalır
Ağırlıklar kimdeSağlayıcıdaSizde, çalışma şartları kapsamında; temel modelin lisansı geçerli kalır
Değişiklik kontrolüSağlayıcı modeli güncelleyebilir ya da kullanımdan kaldırabilirYalnız ekibiniz bir sürümü onayladığında değişir; geri dönüş yolu sizde
Ayrılırkenİstemler taşınır; davranış taşınmayabilirAğırlıklar, veri, eğitim tarifi ve test seti size devredilir
Maliyet yapısıÇağrı başına ödenir; fatura hacimle büyürDonanım işe göre boyutlandırılır; yüksek hacimde çoğu zaman daha ucuz
GörevinizdeGeniş bilgi; terimlerinizi ve formatınızı yanlış okuyabilirKarara bağlanmış dosyalarınızla eğitilir; o görevde çoğu zaman büyük genel bir modelle aynı işi görür
KanıtGenel kıyaslama testleriUzmanınızın testi, görev görev
Nerede daha uygunDüşük hacim, açık uçlu sorular, dışarı çıkabilecek veriTekrar eden, dar kapsamlı, düzenlemeye tabi işler

Donanımı Karar Planı'nda, sizin dosyalarınızla ölçerek boyutlandırırız.

Tek temel model, her ajana bir adaptör

Her ajan kendi uzmanlığıyla, tek bir temel model üzerinde.

Temel model sunucunuza bir kez yüklenir. Her görev ya da ajan için onun üzerine küçük bir adaptör eğitilir; gelen dosya yalnız kendi adaptörünü çalıştırır.

Gelen dosya: 12 gün geciken bir krediTemsilî

  1. AjanKredi ajanıAdaptörMali tablolar ve kredi teklifiSFT · LoRA
  2. AjanTahsilat ajanıAdaptörÖdeme planı taslağıSFT · LoRA
  3. AjanŞikâyet ajanıAdaptörBir müşterinin kendi formatında yanıtlarSFT, ardından RL

Açık ağırlıklı temel modelbir kez yüklenir · lisansı geçerli kalır

Sunucunuz · sizin ortamınızDış model servisi yok

  1. Denetimli ince ayar (SFT), LoRA ileAna adım: formatınız ve göreviniz, ekibinizin daha önce karara bağladığı dosyalardan öğrenilir.
  2. Pekiştirmeli öğrenme (RL)Yalnız ekibinizin denetleyebileceği bir ödül varsa.
  3. Sürekli ön eğitim (CPT)Yalnız alanınızın dili temel modelde eksikse.

Yeni bir görev için yeni bir model değil, yeni bir adaptör eğitilir. Donanımı Karar Planı'nda boyutlandırırız.

Neler teslim alırsınız

Sizin olan ağırlıklar, verinizin bulunduğu yerde çalışır.

ŞEKİL 4 · DevirTemsilî

  • model/Ağırlıklar, çalışma şartları kapsamında sizindir; temel model lisansları geçerli kalır
  • data/Veri setleri, eğitim tarifi ve kaynakları
  • test-set/Uzmanınızın puanladığı test seti
  • evaluation-reportO teste göre, görev görev
  • serving/Modelin ortamınızda çalıştırılması ve izlenmesi
  • rollback/Önceki sürüme geri dönüş yolu

Nerede çalışır

Kendi sunucularınızda, gerektiğinde dış ağlardan kopuk, ya da bulut hesabınızda.

Görevinize göre eğitilmiş küçük bir model, o görevde çoğu zaman büyük genel bir modelle aynı işi görür ve çoğu zaman kendi veri merkezinizdeki tek bir sunucuda çalışır. Donanımı Karar Planı'nda boyutlandırırız.

Sıfırdan model eğitimi, ayrıca kapsamlanmadıkça işin parçası değildir.

Verinizin, model ağırlıklarının ve erişimin nasıl yönetildiği: Güvenlik ve birlikte çalışma

Kullanım örnekleri

Küçük bir modelin okuduğu, akıl yürüttüğü ve araçlarınızı çağırdığı masalar.

  • SLM'ler

    Kurumsal kredi teklifi ve mali tablo analizi

    BugünAnalistler her yenilemede tabloları sisteme elle aktarır ve teklifi sabit bir formatta elle yazar.

    SistemleKaynaklarıyla aktarılmış mali tablolar; kontrol edilecek rakamlar işaretli.

    Kredi analisti karar verir

  • SLM'lerAjan tabanlı YZ

    Mevzuattan politikaya

    BugünYeni bir genelge gelir ve kimse politikalarınızın hangi bölümlerini değiştirdiğini bilmez.

    SistemleHer politika bölümü değişti ya da değişmedi diye işaretli, gerekçesi kayıtta.

    Uyum görevlisi karar verir

  • SLM'ler

    Talep ve şikâyet yönlendirme

    BugünGünde binlerce mesaj tek bir kuyruğa düşüyor; yanlış yönlendirmeler yasal süreleri kaçırıyor.

    SistemleHer mesaj, işin sahibi olan masaya yönlendirilir; model hiçbirini kapatmaz.

    Operasyon müdürü karar verir

  • ModellerSLM'lerAjan tabanlı YZ

    Erken gecikme tahsilatı

    BugünAramalar zaten ödeyecek olan müşterilere ulaşıyor; ödemeye yetişemeyenlerin ise on aramaya değil, bir plana ihtiyacı var.

    SistemleÖdeme güçlüğü, ödememe niyetinden ayrılmış; planın hesabı dosyada.

    Tahsilat temsilcisi karar verir

  • ModellerSLM'lerAjan tabanlı YZ

    Görsel kalite kontrol

    BugünKontrolörler her parçaya lamba altında bakıyor; gece vardiyası daha çok kaçırıyor ve her uygunsuzluk raporu yarım gün sürüyor.

    SistemleKanıtlarıyla taslak uygunsuzluk raporu (NCR); bekletme ya da serbest bırakma kararına hazır.

    Kalite mühendisi karar verir

  • SLM'lerAjan tabanlı YZ

    Çağrı merkezinde her görüşmede kalite ve uyum

    BugünHer görüşme kaydediliyor, kalite her yüz görüşmeden ikisini dinliyor ve hazır konuşmayı metne dökme araçları ürün adlarınızı bozuyor.

    SistemleHer görüşme kalite ve uyum açısından kontrol edilir; koçluk notu, görüşmedeki yeriyle birlikte.

    Takım lideri karar verir

6 kullanım örneğinin tümünü görün

Tek başına çalışır; şunlarla birlikte de çalışır:

Saha notu (İngilizce): Retrieval or fine-tuning: ask about the data first

Farkı birlikte kapatalım.

Tek bir belge göreviyle gelin. Önce sizin dosyalarınızda test ederiz.

Belgeleri, görevi ve iyi bir cevabın bugün nasıl puanlandığını anlatın. Karar Planı, küçük bir modelin testinizi geçip geçemeyeceğini gösterir.

Karar Planı ile başlayınMühendisle konuşun

https://eqlx.ai/tr/small-language-models · Basılı kopya; güncel sürüm web sitesindedir.