Temellendirilmiş Üretim (Grounded Generation)

Temellendirilmiş üretim, modelin çıktısını eğitimde öğrendiklerine değil, belirli kaynak materyale — getirilen belgelere, bir bilgi tabanına ya da arama sonuçlarına — dayanmaya zorlar. Modele yalnızca verilen bağlamdan yanıt vermesi ve ideal olarak her iddianın hangi pasajdan geldiğini kaynak göstererek belirtmesi söylenir. Bu, halüsinasyona verilen yanıttır: bir gerçeği kendinden emin biçimde uydurmak yerine, temellendirilmiş sistem "kaynaklarda bulunamadı" der ya da tam olarak ilgili paragrafı işaret eder. Destek botları, araştırma araçları veya kurum içi soru-cevap üreten SaaS geliştiricileri için temellendirme, yapay zekâ yanıtlarını müşteriye sunulabilecek kadar güvenilir kılan şeydir. Genellikle ilgili bağlamı önce getiren erişimle artırılmış üretimle (RAG) birlikte çalışır. Pratik not: temellendirme halüsinasyonu azaltır ama tamamen ortadan kaldırmaz — model yine de kaynağı yanlış okuyabilir ya da aşırı yorum yapabilir; bu yüzden kaynakları arayüzde gösterin ve kullanıcıların tıklayıp doğrulamasına izin verin. Sadakati (yanıt, gösterilen metinle örtüşüyor mu?) alaka düzeyinden ayrı ölçün.

İlgili terimler

Daha fazla Çıktı ve Medya terimi