Araç Hatası Kurtarma (Tool Error Recovery)

Araç hatası kurtarma, bir araç çağrısı başarısız olduğunda ajanın ne yaptığıdır. Kulağa geldiğinden daha önemlidir; çünkü bir ajanda hata, onu nasıl ele alacağını bilen bir programa dönmez — modelin bağlamına metin olarak geri yazılır ve bundan sonra ne olacağına model karar verir. O metnin söylediği şey, kararın tek dayanağıdır. Mantıklı yalnızca üç yanıt vardır ve her biri farklı bir arızaya karşılık gelir. Yeniden deneme geçici arızaya uyar: zaman aşımı, oran sınırı, kısa süre erişilemeyen bir servis. Yeniden planlama, şanssız değil yanlış olan bir çağrıya uyar — eksik bir argüman, var olmayan bir kayıt, ajanın sahip olmadığı bir izin — burada aynı çağrı sonsuza dek aynı şekilde başarısız olur. Durmak ise geri kalan her şeye uyar ve ekiplerin en sık uygulamayı unuttuğu yanıttır; bir çalıştırmanın bütün bütçesini iki bozuk seçenek arasında dönerek harcaması böyle olur. Mühendislik, bu durumları birbirinden ayırmaktır. Çıplak bir yığın izi ya da yalnızca "hata" dizesi verilen bir model genellikle tahmin yürütür ve tahmini yeniden denemeye eğilimlidir; çünkü yardımsever bir asistanın yaptığı şey budur. Ajana dönen hata mesajları istem yüzeyidir: neyin başarısız olduğunu, yeniden denemeye değip değmeyeceğini ve geçerli bir çağrının nasıl görüneceğini söylemelidir. Bu, bir mühendis için günlüğe yazacağınız mesajdan farklıdır ve ayrıca yazılmayı hak eder. Yeniden denemeler, tam da en cazip oldukları yerde tehlikelidir. Başarısız çağrı hatadan önce etkisini çoktan göstermişse — ödeme geçmiş, yanıt kaybolmuşsa — yeniden deneme işlemi iki kez yapar ve modelin bunu bilmesinin hiçbir yolu yoktur. Bir şeyi değiştiren her aracın aynı argümanlarla yeniden çağrılmaya güvenli olması gerekir; bu sağlanamıyorsa, model ne önerirse önersin o araç otomatik yeniden denemenin dışında tutulmalıdır. Son parça sınırdır. Kurtarma denemeleri de tıpkı üretken iş gibi adım, token ve zaman tüketir; asla pes etmeyen bir ajan, maliyet açısından çökmüş bir ajandan ayırt edilemez. Araç başına ve çalıştırma başına bir sınır koyun ve sınıra ulaşıldığında olacak şeyi gerçek bir yol yapın — kısmi sonuç, devir ya da açık bir başarısızlık — çalıştırmanın öylece bitmesi değil.