[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"glossary-model-cascade::ru":3,"gloss-cluster-model-cascade::ru":26,"gloss-next-model-cascade::ru":9},{"slug":4,"category":5,"name":6,"definition":7,"meta_desc":8,"faq":9,"schema_markup":9,"related":10},"model-cascade","core-ai","Каскад моделей","Каскад моделей — это схема вывода, при которой запрос сперва обрабатывает маленькая, быстрая и дешёвая модель, а к более крупной он попадает, только если дешёвая попытка признана недостаточной. Она опирается на распределение, общее для большинства нагрузок: большая часть запросов проста, меньшая сложна, и платить премиальную ставку за все — значит переплачивать за большинство.\n\nВесь проектный вопрос сводится к сигналу эскалации: как система решает, что первый ответ недостаточно хорош. Варианты — выраженная моделью неуверенность, валидатор, проверяющий вывод по схеме или правилу, модель-проверяющий, оценивающая ответ, согласие двух дешёвых попыток или эвристика по входу вроде длины, языка или темы. Каждый несовершенен, и качество каскада ограничено качеством именно этого решения, а не любой из моделей.\n\nКомпромисс определяют два режима отказа. Эскалировать слишком редко — значит пропускать слабые ответы, а это хуже, чем вообще не использовать дешёвую модель: неверный ответ, звучащий уверенно, обходится дороже медленного. Эскалировать слишком часто — значит платить за обе модели на одном запросе, и это способно выйти дороже, чем сразу отправлять всё в большую модель. Единственный способ понять, на какой вы стороне, — измерять долю эскалаций и стоимость запроса вместе.\n\nЗадержка ведёт себя здесь иначе, чем стоимость. Каскад добавляет задержку дешёвой модели к каждому эскалированному запросу, поэтому хвост распределения становится медленнее, даже когда среднее дешевеет. Для интерактивных функций это заметно, и часто стоит по входным признакам отправлять очевидно сложные запросы сразу в большую модель, а не заставлять их ждать провала дешёвой попытки.\n\nКаскады лучше всего работают там, где правильность проверяема. Структурированное извлечение, классификация по фиксированному набору, код, который должен компилироваться, и ответы, обязанные ссылаться на найденный источник, — всё это даёт дешёвую объективную проверку, способную управлять эскалацией. Свободную генерацию, где качество есть предмет суждения, каскадировать хорошо гораздо труднее: единственный надёжный судья может стоить не меньше самой большой модели.\n\nЭксплуатационно относитесь к каскаду как к одной версионируемой конфигурации: обе модели, их версии, правило эскалации и его пороги. Оценивайте всё это как единое целое на фиксированном наборе случаев и следите за долей эскалаций в проде: она дрейфует по мере изменения входов и обычно первой сигналит, что дешёвая модель или порог перестали подходить.","Каскад моделей сначала пробует дешёвую модель и повышает ставку, только если ответ недостаточно хорош, — почти качество большой модели за долю её стоимости.",null,[11,14,17,20,23],{"slug":12,"name":13},"confidence-threshold","Порог уверенности",{"slug":15,"name":16},"fallback-model","Резервная модель (fallback model)",{"slug":18,"name":19},"inference-cost","Стоимость вывода модели",{"slug":21,"name":22},"model-router","Маршрутизатор моделей (Model Router)",{"slug":24,"name":25},"small-language-model","Малая языковая модель (SLM)",[27,31,35,39,42,45,48,51,54,57,60,63],{"slug":28,"category":5,"name":29,"updated_at":30},"agentic","Агентный AI (Agentic AI)","2026-09-08T21:32:34+00:00",{"slug":32,"category":5,"name":33,"updated_at":34},"alignment-tax","Налог на выравнивание (Alignment Tax)","2026-09-08T21:32:35+00:00",{"slug":36,"category":5,"name":37,"updated_at":38},"artificial-intelligence","Искусственный интеллект (ИИ)","2026-09-08T21:32:36+00:00",{"slug":40,"category":5,"name":41,"updated_at":30},"attention","Внимание (Attention)",{"slug":43,"category":5,"name":44,"updated_at":38},"beam-search","Лучевой поиск",{"slug":46,"category":5,"name":47,"updated_at":34},"benchmark-contamination","Загрязнение бенчмарка (Benchmark Contamination)",{"slug":49,"category":5,"name":50,"updated_at":34},"catastrophic-forgetting","Катастрофическое забывание (Catastrophic Forgetting)",{"slug":52,"category":5,"name":53,"updated_at":38},"computer-vision","Компьютерное зрение",{"slug":55,"category":5,"name":56,"updated_at":34},"constitutional-ai","Конституционный ИИ (Constitutional AI)",{"slug":58,"category":5,"name":59,"updated_at":30},"context-window","Контекстное окно",{"slug":61,"category":5,"name":62,"updated_at":38},"deep-learning","Глубокое обучение",{"slug":64,"category":5,"name":65,"updated_at":30},"diffusion-model","Диффузионная модель (Diffusion Model)"]