Limite de requisições

Os provedores impõem limites por motivos simples. A capacidade é finita e compartilhada, e um script descontrolado não pode atrasar todo mundo. Os limites também seguram o custo e contêm abusos, como uma chave roubada usada para inundar um serviço. Sem eles, um erro em um laço poderia mandar milhares de chamadas em um minuto. Pense em uma padaria com fila: deixar um único cliente comprar todos os pães no primeiro minuto é injusto com os demais, então o padeiro limita cada pessoa, e um bom limite é só uma parte justa escrita como número.

Os limites têm várias formas. Um curto, por minuto, absorve as rajadas. Um mais longo, por dia, restringe o uso total, seja como janela fixa que reinicia numa hora marcada, seja como janela deslizante que olha sempre para o período recente. Alguns serviços contam requisições, outros contam tokens, e alguns limitam também quantas chamadas podem rodar ao mesmo tempo. Os limites costumam depender do plano: um nível maior ganha um teto maior.

Lidar bem com um limite é um pequeno ofício. Leia o cabeçalho Retry-After quando ele existir e espere esse tempo. Caso contrário, repita com recuo exponencial (backoff) e um pouco de aleatoriedade, nunca num laço apertado. Reduza as chamadas guardando respostas em cache e agrupando o trabalho, e distribua a carga ao longo do tempo. E lembre que limite de requisições não é limite de gasto: ficar sem saldo é outro erro, com outro remédio. As bibliotecas costumam embutir essa lógica para você, tentando de novo com educação e fazendo pausas; ao escrever seu próprio cliente, registre cada 429 com o horário para ver se rajadas ou carga contínua o provocam.

A documentação da API do NeverNo define a regra. Cada conta tem um número de requisições de API por 24 horas deslizantes, conforme o plano. Ao passar disso, as chamadas recebem um 429 com o código rate_limited até que a janela avance. Um limite curto por minuto também se aplica, e então o 429 vem com um cabeçalho Retry-After. Cada chamada conta como uma requisição, seja qual for o número de tokens ou de imagens, e o endpoint de contagem de tokens fica fora da conta. Como a janela é deslizante, a capacidade volta aos poucos conforme as chamadas antigas envelhecem, e não de uma vez à meia-noite.

Os números exatos de cada plano estão na tabela da documentação da API, e não os repetimos aqui para que esta página nunca fique desatualizada. Ficar sem créditos é outro caso: a API responde 402 com insufficient_credits. A assinatura Dev usa o limite de requisições do Pro+. Como a documentação é a fonte única dos números, um script deve ler o teto de lá em vez de fixar no código um palpite, e tratar um aumento repentino de erros 429 como sinal para desacelerar e enfileirar o trabalho.