Восстановление после ошибки инструмента (Tool Error Recovery)

Восстановление после ошибки инструмента — это то, что агент делает, когда вызов инструмента не удался. Это важнее, чем звучит: в агенте ошибка возвращается не в программу, знающую, как её обработать, а текстом в контекст модели, и дальше решение принимает модель. Что написано в этом тексте — единственное основание для решения. Разумных ответов всего три, и они отвечают на разные сбои. Повтор подходит для временной неисправности: тайм-аут, лимит запросов, недоступный на минуту сервис. Перепланирование подходит для вызова, который был не неудачным, а неправильным — пропущенный аргумент, несуществующая запись, отсутствующее у агента право, — где повторение будет проваливаться одинаково бесконечно. Остановка подходит для всего остального, и именно её команды чаще всего не реализуют: так прогон и тратит весь бюджет, крутясь между двумя сломанными вариантами. Инженерия состоит в различении этих случаев. Модель, получившая голую трассировку стека или строку «ошибка», обычно угадывает, и её догадка смещена в сторону повтора, потому что повторить — это то, что делает услужливый ассистент. Сообщения об ошибках, возвращаемые агенту, — часть промпта: они должны говорить, что именно не удалось, стоит ли повторять и как выглядел бы корректный вызов. Это другое сообщение, чем то, которое вы записали бы в лог для инженера, и его стоит написать отдельно. Повторы опасны ровно там, где они соблазнительнее всего. Если неудавшийся вызов успел подействовать до ошибки — платёж прошёл, а ответ потерялся, — повтор выполнит его дважды, и узнать об этом модели неоткуда. Любой инструмент, который что-то меняет, должен быть безопасен для повторного вызова с теми же аргументами; там, где этого не добиться, его нужно исключить из автоматического повтора, что бы модель ни предлагала. Последняя часть — предел. Попытки восстановления расходуют шаги, токены и время точно так же, как продуктивная работа, и агент, который никогда не сдаётся, по стоимости неотличим от упавшего. Задайте лимит на инструмент и на прогон, а происходящее на пределе сделайте настоящим путём — частичный результат, передача человеку, явный отказ, — а не просто концом прогона.