Rate limit (лимит частоты запросов)

Провайдеры вводят лимиты по простым причинам. Мощности ограничены и общие для всех, поэтому один вышедший из-под контроля скрипт не должен замедлять остальных. Лимиты также сдерживают расходы и пресекают злоупотребления, например когда украденным ключом заваливают сервис запросами. Без них ошибка в цикле могла бы отправить тысячи вызовов за минуту. Представь пекарню с очередью: если один покупатель в первую же минуту скупит все буханки, это несправедливо к остальным, поэтому пекарь ограничивает каждого, а хороший лимит — просто справедливая доля, записанная числом.

Лимиты бывают разными. Короткий, поминутный, гасит всплески. Более длинный, суточный, ограничивает общий объём: это либо фиксированное окно, которое сбрасывается в определённый час, либо скользящее, которое всегда охватывает последний отрезок времени. Одни сервисы считают запросы, другие токены, а некоторые ограничивают ещё и число вызовов, выполняющихся одновременно. Лимиты часто зависят от тарифа, и на более дорогом тарифе потолок выше.

Грамотная работа с лимитами — небольшое ремесло. Читай заголовок Retry-After, когда он есть, и жди указанное время. Иначе повторяй запрос с экспоненциально растущей задержкой и небольшим случайным разбросом и никогда — в плотном цикле. Сокращай число вызовов, кэшируя ответы и группируя работу, и распределяй нагрузку во времени. Помни, что rate limit — не лимит расходов: нулевой баланс — отдельная ошибка, и исправляется она иначе. Библиотеки часто берут эту логику на себя; если пишешь собственный клиент, записывай каждый 429 с датой и временем, чтобы понять, вызваны ли они всплесками или постоянной нагрузкой.

Правило задаёт документация API NeverNo. У каждого аккаунта есть лимит запросов к API за скользящие 24 часа, который зависит от тарифа. Сверх него вызовы получают 429 с кодом rate_limited, пока окно не сдвинется. Действует и короткий лимит в минуту, и тогда 429 приходит с заголовком Retry-After. Каждый вызов считается одним запросом независимо от числа токенов или изображений, а вызовы подсчёта токенов в лимит не входят. Поскольку окно скользящее, доступные запросы возвращаются постепенно, по мере того как старые вызовы выходят из окна, а не вся сразу в полночь.

Точные числа по тарифам приведены в таблице документации API, и мы не повторяем их здесь, чтобы эта страница никогда не устаревала. Исчерпание кредитов — другой случай: API отвечает 402 с кодом insufficient_credits. Подписка Dev использует лимит запросов Pro+. Раз документация — единственный источник чисел, скрипту стоит брать потолок оттуда, а не прописывать в коде число наугад, и воспринимать внезапный рост ошибок 429 как сигнал замедлиться и поставить работу в очередь.