請求頻率限制
Lazu 用三層限制保護後端：
- 帳號層級 RPM/TPM：帳號會根據消費進入
Tier0..Tier3，層級越高限制越高。 - 未驗證帳號防濫用限制：沒有成功儲值過的帳號會被限制在很低的請求速率。
- 單 key RPM/TPM：你可以給單一 API Key 設定更嚴格的限制，用於產品或 workload 隔離。
單 key 限制只能變得更嚴格，不能突破帳號層級上限。
預設限制
| 層級 | 條件 | RPM | TPM |
|---|---|---|---|
| Unverified | 尚未成功儲值 | 5 | 5,000 |
| Tier 0 | 已驗證，30 天消費低於 $10 | 60 | 100,000 |
| Tier 1 | 30 天消費大於等於 $10 | 120 | 300,000 |
| Tier 2 | 30 天消費大於等於 $100 | 300 | 1,000,000 |
| Tier 3 | 30 天消費大於等於 $1,000 | 600 | 2,000,000 |
- RPM = 每分鐘請求數，使用滾動 60 秒視窗。
- TPM = 每分鐘 token 數。預檢會統計 prompt/input tokens；當請求包含
max_tokens、max_completion_tokens或max_output_tokens時，也會把輸出 token 預留量計入。
單 key 限制
0表示該維度沒有 key 級限制，但帳號層級限制仍生效。- 最終生效值是 key 限制和帳號層級限制中更嚴格的那個。
- key 可帶產品標籤和 JSON metadata，方便運維歸因和稽核。
觸發限制時
HTTP 429 會返回 rate_limit_exceeded 類型錯誤。常見 code：
request_rate_limit_exceeded：觸發帳號層級或請求速率限制。token_rate_limit_exceeded：觸發單一 API Key 的 RPM/TPM 限制。total_request_rate_limit_exceeded：舊版總請求保護。
響應會包含 Retry-After，用戶端應等待對應秒數後重試，並使用指數退避。