Temellendirme (Grounding)

Grounding (temellendirme), bir LLM'in çıktısını, yalnızca eğitim ağırlıklarına gömülü genel (ve potansiyel olarak eski veya kesin olmayan) bilgiye güvenmesine izin vermek yerine, belirli, doğrulanabilir, güncel kaynak verilere bağlama pratiğidir. Bir modelin parametrik bilgisi — eğitimden "bildiği" her şey — doğası gereği belirsizdir, eğitim kesim tarihinden itibaren eskimiştir ve ayrıntılarda karıştırma ve halüsinasyona eğilimlidir; grounding, modele çıkarım zamanında ihtiyaç duyduğu tam gerçekleri açıkça sağlayarak ve yanıtını başka türlü hatırlayabileceği şey yerine bu sağlanan malzemeye dayandırmasını talimatlandırarak bunu düzeltir. Bu, SaaS geliştiricileri için son derece önemlidir, çünkü etkileyici bir demo olan bir AI özelliği ile çıktısına göre hareket edecek müşterilere sunulacak kadar güvenilir olan bir özellik arasındaki pratik farktır — fiyatlandırma sayfaları, hesaba özel veriler, mevcut envanter, günün döviz kurları veya şirketinizin gerçek iade politikası, temellendirilmemiş bir modelin ya doğru bilmeyeceği ya da yanlış bir güvenle tahmin edeceği şeylerdir. Birincil temellendirme tekniği, alınan (retrieval-augmented generation, RAG): ilgili, güncel belgeleri alıp promptun içine enjekte ederek modelin bellek yerine o belirli bağlamdan cevap vermesini sağlamaktır. Ancak grounding daha basit teknikleri de içerir: bilinen gerçekleri doğrudan sistem promptuna enjekte etmek (örneğin, "Bugünün tarihi 2026-07-02. Mevcut iade penceremiz 30 gündür."), canlı veri kaynaklarına function-calling erişimi sağlamak (modelin tahmin etmek yerine güncel cevap için bir veritabanını veya API'yi sorgulamasına izin vermek) ve sağlanan bağlam cevabı içermediğinde modele açıkça "bilmiyorum" demesi veya ertelemesi talimatını vermek; boşluğu makul görünen bir tahminle doldurmak yerine. Somut bir örnek: "kaç izin günüm kaldı?" sorusunu yanıtlayan dahili bir İK chatbot'u, hiçbir zaman modelin genel eğitim bilgisinden yanıtlamamalıdır (bu, bu belirli şirketin bu belirli çalışanının belirli bakiyesi hakkında hiçbir fikre sahip değildir) — gerçek sayıyı döndüren gerçek İK veritabanına bir fonksiyon çağrısıyla temellendirilmelidir; modelin görevi, sayının kendisini üretmek yerine bu gerçek sayıyı doğal bir cümleye dönüştürmeye indirgenir. "Doğru gelen" ama gerçek verilere bağlı olmayan temellendirilmemiş AI özellikleri, üretim SaaS'ta utandırıcı, güven yok edici AI başarısızlıklarının en yaygın kaynağıdır. Belirli bir AI özelliğinin temellendirme gerektirip gerektirmediğine dair yararlı bir zihinsel test: "bu cevap, kullanıcının fark etmeyeceği bir şekilde makul olarak yanlış olabilir mi ve bu önemli olur mu?" diye sorun. Düşük riskli genel bilgi sorularını yanıtlayan özellikler ("REST API'lerin ne olduğunu açıkla") modelin parametrik bilgisine daha fazla dayanabilir; belirli, eyleme geçirilebilir veya hesaba ilişkin soruları yanıtlayan özellikler ("mevcut fatura toplamım ne kadar", "bu sözleşme maddesi standart mı") retrieval veya function calling yoluyla açık temellendirme gerektirir, çünkü bu bağlamlarda temellendirilmemiş yanlış bir cevap, yalnızca utanç değil gerçek kullanıcı zararı veya iş riski yaratır.

İlgili terimler

Daha fazla Temel Yapay Zeka terimi