Yanıttan Kaçınma

Yanıttan kaçınma, bir sistemin ya iyi yanıtlamak için dayanağı olmadığından ya da istek işlemesine izin verilenin dışında kaldığından yanıt üretmeyi reddetmesidir. Kulağa bir başarısızlık gibi gelir ve genellikle tam tersidir: çoğu iş akışında kendinden emin biçimde verilmiş yanlış bir yanıtın bedeli, dürüst bir reddin bedelinden çok daha yüksektir; çünkü ret bir insana, yanlış yanıt ise müşteriye gider. Dil modelleri varsayılan olarak isteksizce reddeder. Yardımcı olmak ve metni tamamlamak üzere eğitilmişlerdir ve yanıtı bulunmayan bir sorunun bile akıcı, düzgün kurulmuş bir devamı vardır. Çoğu uydurmanın arkasındaki mekanizma budur: aldatma değil, hiçbir şey üretmektense bir şey üretmeye yönelik güçlü bir eğilim. Kaçınmayı elde etmek, modelin onu kendiliğinden seçmesini ummak yerine onu açık, izinli ve tanımlı bir sonuç hâline getirmeyi gerektirir. Pratikte bu birkaç anlama gelir. Yönerge, reddetme koşulunu ve reddin nasıl görüneceğini, çevredeki kodun saptayabileceği bir biçimde belirtmelidir: ayrıştırıcının yorumlaması gereken bir cümle değil, yapılandırılmış bir yanıtta ayrılmış bir değer. Dayanaklandırma modele reddetmek için savunulabilir bir gerekçe verir: getirme adımı ilgili hiçbir şey döndürmediğinde bunu söylemek doğru bir yanıttır ve boşluğu belleğinden doldurmak yerine boş sonucu bildiren bir sistem doğru davranıyordur. Güvenin kestirilebildiği yerde, altında sistemin yanıt vermediği bir eşik, kaçınmayı bir ruh hâli olmaktan çıkarıp bir politikaya çevirir. Kaçınmanın kullanıcı deneyimi, insanların onu kabul edip etmeyeceğini belirler. Buna yanıt veremem bir çıkmaz sokaktır. Faydalı bir ret nedenini açıklar, elindekini sunar — en yakın belgeler, kısmi yanıt, tam olarak eksik olan girdi — ve bir sonraki adımı verir: açıklayıcı bir soru ya da yardım edebilecek birine devir. İyi yapıldığında bu, bir yanıttan daha fazla güven inşa eder; çünkü sınırlarını kabul eden bir sistemin kendinden emin yanıtları inandırıcı hâle gelir. Denge iki yönlü çalışır. Fazla kolay reddeden bir sistemin etrafından çabucak dolaşılır ve bu dolanma genellikle aynı soruyu yönetilmeyen bir araca yapıştıran bir meslektaş biçimini alır; kaçındığınız riskten daha kötü bir sonuçtur. Aşırı ret gerçek bir maliyettir ve değerlendirmede doğruluğun yanında yer alır. Her iki yönü de ölçün. Kaçınma oranını izleyin; reddedilenlerden örnekleyip kaçının gereksiz olduğuna bakın ve yanıtlananlardan örnekleyip kaçının reddedilmesi gerektiğine bakın. Bu iki sayı birlikte, sistemin kalibrasyonunu tek başına doğruluğun anlatamadığı biçimde anlatır; birini diğerine bakmadan oynatmak ise bir ürünü ya işe yaramaz ya da güvensiz kılmanın yoludur.