レート制限
Lazu は 3 層の制限で backend を保護します。
- Tier-based RPM/TPM：アカウントは支出に応じて
Tier0..Tier3に属します。 - 未認証アカウントの abuse 対策：実際の top-up がないアカウントは低い rate に制限されます。
- Per-key RPM/TPM：個別の API Key にさらに厳しい上限を設定できます。
per-key limit はアカウント tier の上限を引き上げません。より厳しくするだけです。
デフォルト
| Tier | 条件 | RPM | TPM |
|---|---|---|---|
| Unverified | 成功した top-up がまだない | 5 | 5,000 |
| Tier 0 | verified、30 日支出 < $10 | 60 | 100,000 |
| Tier 1 | 30 日支出 >= $10 | 120 | 300,000 |
| Tier 2 | 30 日支出 >= $100 | 300 | 1,000,000 |
| Tier 3 | 30 日支出 >= $1,000 | 600 | 2,000,000 |
- RPM = requests per minute。
- TPM = tokens per minute。preflight は prompt/input tokens を数え、明示的な
max_tokens、max_completion_tokens、max_output_tokensがある場合は出力予約分も含めます。
429 の読み方
request_rate_limit_exceeded はアカウント tier または request rate の上限です。
token_rate_limit_exceeded は個別 API Key の RPM/TPM 上限です。レスポンスの
Retry-After 秒数を待ってから指数バックオフで再試行してください。