OpenAI API 返回 429,应该等多久再重试?
同样是 429,可能是短时间请求或 token 过多,也可能是预付费余额、项目支出上限或组织使用上限。只看状态码,容易把不能重试的问题变成重试风暴。
先看错误正文和响应头
| 看到的信号 | 优先处理方式 |
|---|---|
rate_limit_error 或 slow_down | 降低并发或请求速率;若有 Retry-After,等待至少该时长。 |
credit_balance_exhausted 或支出上限代码 | 检查对应账户、项目或平台余额;增加重试次数不会恢复额度。 |
HTTP 503 且 server_is_overloaded | 这是临时模型过载,不要只按 429 的处理器分类。 |
记录 x-request-id、Retry-After 和可用的 x-ratelimit-* 响应头。本站兼容服务还可能有自己的 Key 或分组限额,需结合站内用量核对。
适合临时限流的重试方法
- 先停止并发重试,保持原模型名和原业务请求不变。
- 遵守
Retry-After;没有该头时使用指数退避加随机抖动。 - 为总尝试次数和总等待时间设上限,排查批处理并发和 SDK 自带重试是否叠加。
- 如果错误代码转为额度或支付问题,立即停止自动重试并检查账单。
已经产生部分流式输出的请求,重试前先确认原请求是否完成,避免重复执行工具或重复计费。详见 流式中断排查。
官方依据
OpenAI 官方文档:Rate limits 和 Error codes。如果错误明确指向额度,转看 额度不足与账单限制。
先确定错误类别
状态码相同,恢复路径可能完全不同。