Erişimle zenginleştirilmiş üretim (RAG)

Erişimle zenginleştirilmiş üretim (RAG), ilgili kaynak belgeleri istek anında getirip soruyla birlikte modele vermek demektir. Getirme adımına bilgi erişimi (retrieval) diyoruz. Model, eğitimde ezberlediğine değil, eline verilene dayanarak yanıt verir.

Gerçekte ne işe yarar

Bilgi erişimi, modelle değil veriyle ilgili bir soruya cevap verir: Bu bilgi ne kadar hızlı değişiyor ve yanıt kaynağını göstermek zorunda mı? Bilgi haftalık değişiyorsa ayak uydurabilen tek seçenek bilgi erişimidir. Eğitim saatler ya da günler sürer ve model, bitmeden eskir. Yanıt, belirli bir belgedeki belirli bir pasaja kadar izlenebilmeliyse bunu üretebilen tek seçenek yine bilgi erişimidir.

Bilgi erişimi çok adımlı da çalışabilir: ilk sayfalar yetmezse yeniden arar. Bu yine bilgi erişimidir; kanıt getirir, yetki vermez.

Neyi düzeltmez

Bilgi erişimi, modelin davranışını değiştirmez. Çıktı biçimi kayıyorsa, ton yanlışsa ya da model bir araç sözleşmesini yok sayıyorsa bilgi erişimi yardımcı olmaz. Bunlar davranış sorunlarıdır ve davranışı ek eğitim değiştirir. Bilgi erişimi, dayanaksız bir modeli de dürüst yapmaz. Dayandırmayı mümkün kılar; yanıtın getirilen belgeleri kullandığını yine sistemin denetlemesi gerekir.

Nerede bozulur

Belge dizini ilk gün hızlıdır, sonra fark edilmeden yanlış sonuç vermeye başlar. Alaka düzeyi üç durumda düşer: mevcut vektörlerin altındaki gömme modeli (embedding model) güncellendiğinde, kaynak belgeler yeniden dizinlenmeden değiştiğinde ya da gelen soruların türü dizinin hiç ayarlanmadığı bir kullanıma kaydığında. Üçü de makul görünen ama göründüğünden daha kötü yanıtlar döndürür. Bu yüzden kaynakların güncelliği ve gömme sürümünün tutarlılığı, kurulum adımı değil işletme ölçütüdür.