[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"glossary-rate-limit-backoff::ru":3,"gloss-cluster-rate-limit-backoff::ru":20,"gloss-next-rate-limit-backoff::ru":9},{"slug":4,"category":5,"name":6,"definition":7,"meta_desc":8,"faq":9,"schema_markup":9,"related":10},"rate-limit-backoff","dev-tools","Backoff при лимитах","Backoff — стратегия повторов, когда API отвечает отказом, обычно 429 или 503. Вместо немедленного ретрая клиент ждёт, и пауза растёт с каждой попыткой: секунда, две, четыре, восемь. Добавляется случайный джиттер, чтобы тысяча клиентов, упавших одновременно, не повторяла запросы синхронно.\n\nВ API моделей это особенно важно, потому что лимиты действуют по двум осям: запросы в минуту и токены в минуту. Нагрузка может быть далеко ниже лимита по запросам и всё равно упираться в лимит из-за длинных промптов — сбивает с толку ровно тогда, когда вы разбираетесь под нагрузкой.\n\nТри правила спасают. Уважайте заголовок Retry-After, если провайдер его прислал: это лучшая информация, чем ваша формула. Ограничьте число попыток и покажите настоящую ошибку вместо ретраев в очередь, которую никто не разгребает. И делайте повторы идемпотентными: генерация, повторённая трижды после таймаута, со стороны провайдера трижды и оплачена.\n\nВ пользовательских сценариях лучше быстрый фолбэк, чем длинная цепочка ретраев: две секунды подвисания стоят дороже, чем чуть худший ответ модели поменьше.","Backoff — поведение клиента после 429: подождать, добавить джиттер, повторить — и где-то остановиться, потому что вечные ретраи это ваш собственный сбой.",null,[11,14,17],{"slug":12,"name":13},"api","API",{"slug":15,"name":16},"latency","Задержка (Latency)",{"slug":18,"name":19},"rate-limit","Ограничение частоты запросов (Rate Limit)",[21,25,28,32,35,38,41,44,47,50,53,56],{"slug":22,"category":5,"name":23,"updated_at":24},"agent","Агент (Agent)","2026-08-24T02:46:36+00:00",{"slug":26,"category":5,"name":27,"updated_at":24},"ai-code-assistant","AI-помощник по написанию кода",{"slug":29,"category":5,"name":30,"updated_at":31},"api-gateway","API-шлюз (API Gateway)","2026-08-24T02:46:37+00:00",{"slug":33,"category":5,"name":34,"updated_at":31},"api-versioning","API Versioning (версионирование API)",{"slug":36,"category":5,"name":37,"updated_at":24},"autonomous-agent","Автономный агент (Autonomous Agent)",{"slug":39,"category":5,"name":40,"updated_at":31},"blue-green-deployment","Blue-Green Deployment (сине-зелёное развёртывание)",{"slug":42,"category":5,"name":43,"updated_at":31},"canary-deployment","Canary Deployment (канареечное развёртывание)",{"slug":45,"category":5,"name":46,"updated_at":31},"chaos-engineering","Chaos Engineering (хаос-инжиниринг)",{"slug":48,"category":5,"name":49,"updated_at":24},"ci-cd","Непрерывная интеграция \u002F непрерывное развёртывание (CI\u002FCD)",{"slug":51,"category":5,"name":52,"updated_at":31},"circuit-breaker","Предохранитель (Circuit Breaker)",{"slug":54,"category":5,"name":55,"updated_at":31},"cli","Интерфейс командной строки (CLI)",{"slug":57,"category":5,"name":58,"updated_at":31},"cloud-development-environment","Облачная среда разработки (CDE)"]