Наблюдаемость затрат

Наблюдаемость затрат — это способность объяснить счёт, а не просто его получить. Она означает, что расходы инструментированы так же, как задержки и ошибки: разложены по сервисам, функциям, клиентам и версиям, доступны достаточно быстро после события, чтобы связать их с чьим-то изменением, и пригодны для запросов, а не только для отчёта. Проверка проста: когда цифра сдвинулась, можете ли вы за час сказать почему. Обычная отчётность по затратам эту проверку не проходит, потому что построена вокруг структуры провайдера, а не вашей. Счёт знает аккаунты, типы инстансов и число токенов; он не знает, что рост пришёл от изменения в поиске, удвоившего контекст при каждом запросе, или от одного клиента, у которого сместился профиль использования. Мостом через этот разрыв служит само приложение, отдающее данные о стоимости вместе с остальной телеметрией. Для ИИ-нагрузок инструментация конкретна и её стоит перечислить. Каждый вызов модели должен фиксировать число входных и выходных токенов, использованную модель и версию, задержку, обслуженную функцию, арендатора, шаг процесса и признак повторной попытки. С этими полями стоимость становится измерением, которое можно резать как любое другое, и вопросы вроде «какая функция гонит расход», «какой арендатор убыточен» и «во что обошлась правка промпта» превращаются из расследований в запросы. Полезными данные делает стоимость единицы работы. В абсолютных тратах доминирует рост потребления, а это обычно хорошая новость, — и потому они прячут регрессы: правку промпта, добавившую контекст, настройку поиска, возвращающую больше фрагментов, маршрутизатор, тихо отправляющий больше трафика в дорогую модель. Наблюдаемые как стоимость диалога, документа или решённого обращения, все они всплывают сразу и как инженерная проблема, а не финансовая. Задержка здесь тоже важна, потому что эти две вещи часто меняют друг на друга. Изменение, повышающее качество за счёт большего контекста, увеличивает и стоимость, и время ответа; изменение, снижающее стоимость переходом на меньшую модель, может увеличить эскалации к человеку. Наблюдаемость затрат рядом с качеством и задержкой позволяет делать такие размены осознанно, а данные о стоимости сами по себе обычно дают экономию, которая всплывает жалобами в другом месте. Практическая точка старта невелика. Записывайте поля, положите стоимость на тот же дашборд, что задержку и долю ошибок, выражайте её на единицу работы и настраивайте оповещения на отношение, а не на сумму. Этого обычно достаточно, чтобы найти первые несколько неожиданностей, а именно неожиданности и финансируют остальную работу.