Что такое ИИ-агент? И когда он вам действительно нужен

Определение в одном предложении

ИИ-агент — это языковая модель, помещённая в цикл, где она сама выбирает следующее действие. Вы даёте ей цель и набор инструментов — поискать в интернете, сделать запрос к базе, отправить запрос, прочитать файл, — она решает, каким инструментом воспользоваться, видит результат и решает снова, продолжая до тех пор, пока не сочтёт цель достигнутой или пока её не остановит лимит. Отличие от обычного применения ИИ не в интеллекте, а в управлении потоком: в обычной функции шаги задаёте вы, а в агенте — модель.

Как этот цикл выглядит на самом деле

Механически он неброский. Ваш код отправляет модели цель, диалог на текущий момент и описание доступных инструментов. Модель отвечает либо финальным ответом, либо просьбой вызвать инструмент с определёнными аргументами. Ваш код выполняет этот вызов, добавляет результат в диалог и отправляет обратно. Повтор. Всё, что называют агентностью, — планирование, рефлексия, самокоррекция, делегирование между агентами — это вариации того, что вы кладёте в этот цикл и что разрешаете модели вызывать.

Почему весь смысл проблемы в цикле

Передача управления модели даёт гибкость и стоит предсказуемости. Сценарный конвейер из пяти шагов выполняет пять шагов. Агент с теми же инструментами может сделать три шага или сорок, потратить десять центов или девять долларов, занять две секунды или четыре минуты — на одном и том же входе, в два разных дня. Он ещё и способен зацикливаться: два агента вежливо уступают друг другу, или один бесконечно повторяет неудачный вызов, потому что повтор казался разумным. Именно поэтому в каждой серьёзной реализации агента есть жёсткие лимиты по шагам, токенам, времени и расходам, и эти лимиты не являются необязательной полировкой.

Где агенты по-настоящему себя оправдывают

Агенты выгодны там, где число и порядок шагов нельзя знать заранее. Разбор тикета поддержки, где следующий вопрос зависит от предыдущего ответа. Исследование темы, где нельзя сказать заранее, какие источники окажутся важными. Работа в кодовой базе, где место починки неизвестно. В каждом случае сценарию потребовалась бы ветка на любой поворот, а перечислить их все труднее, чем позволить решать модели.

Где это неподходящий инструмент

Если шаги можно выписать — выпишите. Конвейер, который извлекает поля из счёта, проверяет их и пишет строку, дешевле, быстрее, тестируем, отлаживаем и одинаков на каждом прогоне. Обернуть его в агента — значит добавить стоимость и разброс и лишиться возможности понимать, что произошло. Самая частая дорогая ошибка в этой области — агент, делающий работу, с которой лучше справился бы детерминированный конвейер с одним вызовом модели в середине.

Что ломается в продакшене

Повторяются три сбоя. Рост контекста: каждый результат инструмента дописывается, поэтому длинный прогон с каждым шагом становится медленнее и дороже, а важные ранние инструкции уползают к середине окна, где модели обращают на них меньше всего внимания. Накопление ошибки: неверный шаг не исправляется, на нём достраивают следующий. И тихий отказ инструмента: API возвращает пустой результат, модель принимает отсутствие за ответ и уверенно сообщает неверное. Все три объясняют, почему наблюдаемость — логирование каждого шага, каждого вызова и каждого результата — строится первой, а не последней.

Как решить, нужен ли он вам

Вопрос закрывают два уточнения. Можете ли вы перечислить шаги? Если да — стройте конвейер. Если нет — готовы ли вы к переменному числу вызовов модели, переменному счёту и переменному ответу? Если тоже нет, честный вывод в том, что задача пока не готова к агенту, и сузить её до перечислимых шагов будет дешевле.

Разумная отправная точка

Начните с наименьшего агента, который может сработать: одна модель, три-четыре инструмента, жёсткий лимит шагов, полное логирование и человек, просматривающий вывод прежде, чем тот на что-то повлияет. Добавляйте автономию только там, где логи показывают, что она оправдана. Почти каждая команда, начинающая с другого конца — много агентов, много инструментов, никаких лимитов, — тратит первый месяц на удаление возможностей, а не на их добавление.