Logprobs (логарифмы вероятностей)

Logprobs (логарифмы вероятностей) — это лог-вероятности, которые модель присваивает каждому токену, рассматриваемому при генерации текста, — по сути, насколько вероятным модель считала каждое слово. Многие LLM-API умеют возвращать их вместе с выводом, и это практичное окно во внутреннюю уверенность модели, которого не даёт один лишь видимый текст. Разработчики используют logprobs для реальных задач: оценить, насколько модель уверена в ответе; строить классификаторы, сравнивая вероятности вариантов-меток, а не разбирая свободный текст; помечать низкоуверенные генерации для проверки или запасного пути. Поскольку они отражают собственные вероятностные оценки модели, это часто более надёжный сигнал уверенности, чем вопрос модели «насколько ты уверена?». Практическая заметка: доступность и формат зависят от провайдера, поэтому проверьте, отдаёт ли ваша модель logprobs, прежде чем строить на них логику. И помните: вероятности токенов измеряют уверенность модели, а не истинность — модель может быть уверена и при этом ошибаться, поэтому используйте logprobs как один из входов для решения, а не как гарантию правильности.