跳转到主要内容
Yelu 使用请求限制保护平台可靠性。有效限额可能因账号分组、模型和部署配置而不同,以 Dashboard 与账号配置为准。

达到限制时

API 返回 429 Too Many Requests 和兼容 OpenAI 的错误对象。使用指数退避和随机抖动,只在操作可以安全重复时重试。

降低限流压力

  • 对突发任务排队并控制并发,不要同时释放所有 Worker。
  • 对允许缓存的确定性结果进行应用层缓存。
  • 为交互流量与批处理任务使用不同 Key。
  • 严格限制重试次数,避免故障放大。
  • 不要原样重试 400401403404
更多信息参见错误处理
最后修改于 2026年7月13日