Bağlam mühendisliği

Bağlam mühendisliği, modelin her çağrıda neyi göreceğine karar verme disiplinidir. Konu talimat değil, malzemedir: hangi kayıtlar, önceki adımlardan hangi sonuçlar, hangi politika metni, hangi sırayla ve en az bunlar kadar önemlisi, nelerin dışarıda bırakıldığı.

Sonucu neden belirler

Bir model kendisine verilmeyeni kullanamaz, fazla verileni de iyi kullanamaz. Uzun bağlam tarafsız değildir: geniş bir pencerenin ortasına konan ilgili malzeme, aynı malzemenin başa ya da sona konmasına göre daha az güvenilir biçimde kullanılır. Kırk belge getirip kırkını da ileten bir sistem, doğru dördünü ileten sistemden çoğu zaman daha kötü sonuç verir.

İş neleri içerir

Her adım için bağlam bütçesini belirlemek ve bütçenin içinde kalmak. Önceki durumdan neyin taşınmaya değdiğini, neyin özetlenmesi ya da bırakılması gerektiğini seçmek. Malzemeyi, asıl dayanak olan kanıt gömülmesin diye sıralamak. Talimatı veriden ayırmak; böylece getirilen bir belgenin içindeki metin komut olarak okunamaz. Bir adımın neyi görmemesi gerektiğine karar vermek: bu, kalite kadar bir güvenlik kontrolüdür.

Nerede ters gider

Sık görülen hatalar tanınabilir. Her şey pencere dolana kadar ileriye taşınır ve kalite sessizce düşer. Bağlam uzun bir çalıştırma boyunca birikir ve baştaki hatalar kesinleşmiş bilgiden ayırt edilemez olur. Güvenilmeyen belge içeriği, sistem talimatlarıyla aynı kanalda durur.

Nasıl doğrulanır

Adım başına değerlendirme testleriyle; bağlam bütçesi açık bir değişken olarak ele alınır. Malzeme çıkarıldığında doğruluğu düşmeyen bir adım, ihtiyacı olmayan malzemeyi taşıyordu ve bunun bedelini her çağrıda ödüyordu.