Прогноз потребления

Прогноз потребления — это оценка того, сколько тарифицируемого сервиса организация израсходует за будущий период: вызовов API, токенов, часов вычислений, хранилища, мест. Коммерчески это важно потому, что и оплата по потреблению, и скидки за обязательство превращают прогноз в финансовую позицию: недооценили — платите по прайсу за превышение, переоценили — платите за ёмкость, которой не пользовались. Для стабильных нагрузок механика проста. Возьмите измеренное потребление, разложите его на факторы, которые им действительно двигают — активные пользователи, запросы на пользователя, работа на запрос, — и прогнозируйте каждый фактор, а не сумму: сумма прячет, какая составляющая растёт. Затем наложите сезонность и известные скачки: запуск, миграцию, подключение крупного клиента, выход функции в общий доступ. ИИ-нагрузки сопротивляются этому вполне конкретно. Потребление зависит не только от того, сколько людей пользуются функцией, но и от того, как: длина промпта, размер найденного контекста, глубина диалога, частота циклов агента и то, какая модель обрабатывает запрос. Изменение любого из этого двигает счёт без всякого изменения числа пользователей. Кривые внедрения к тому же необычно круты и необычно неопределённы: ассистентом, который стал по-настоящему полезен, пользуются несравнимо активнее, чем тем, который просто есть. Отсюда довод в пользу прогнозирования в удельных величинах, а не в суммах. Прогнозируйте число диалогов, документов или обращений, отдельно прогнозируйте стоимость единицы и перемножайте. Это отделяет рост от эффективности и делает предположения видимыми, поэтому ошибочный прогноз можно диагностировать — трафика было больше ожидаемого или каждое взаимодействие подорожало, — а не просто пересмотреть. Прогнозы выражают диапазонами с явными допущениями, а не единственным числом. Коммерчески полезны реалистичный пол, под который и надо размерять обязательство, и правдоподобный потолок, под который выставляют лимиты расходов и оповещения о бюджете. Обязываться на ожидаемом значении — стандартная ошибка: ступени скидок вознаграждают оптимизм, а недобор обычно не возвращается. Наконец, замыкайте круг ежемесячно. Сравнивайте прогноз с фактом, раскладывайте отклонение на объём и удельную стоимость и корректируйте. Непроверяемый прогноз тихо вырождается в число, которое переписывают вперёд, и впервые это замечают, когда продлевается обязательство или приходит счёт больше бюджета, в который он должен был поместиться.