达到限制时
API 返回429 Too Many Requests 和兼容 OpenAI 的错误对象。使用指数退避和随机抖动,只在操作可以安全重复时重试。
降低限流压力
- 对突发任务排队并控制并发,不要同时释放所有 Worker。
- 对允许缓存的确定性结果进行应用层缓存。
- 为交互流量与批处理任务使用不同 Key。
- 严格限制重试次数,避免故障放大。
- 不要原样重试
400、401、403与404。
更多信息参见错误处理。
使用指数退避、随机抖动、有限重试与账号级控制正确处理 Yelu API 请求限制。
429 Too Many Requests 和兼容 OpenAI 的错误对象。使用指数退避和随机抖动,只在操作可以安全重复时重试。
400、401、403 与 404。