fix(ai): 修復 NVIDIA Rate Limiter 每日上限
All checks were successful
E2E Health Check / e2e-health (push) Successful in 16s

NVIDIA NIM 免費版無每日請求上限!
- daily_requests: 100 → 99999 (監控用,避免誤觸)
- daily_tokens: 100_000 → 9999999 (免費版無限制)
- total_cost_usd: 0.0 → 999999.0 (免費,無成本)
- alert_threshold_usd: 0.0 → 0.0 (不發成本告警)

同時:已即時清除 Redis 中舊的計數器 (5 keys)
使 NVIDIA/Gemini 重新可用,Fallback 順序正常運作
This commit is contained in:
OG T
2026-03-31 13:40:27 +08:00
parent 268b944d5c
commit f458d078df

View File

@@ -37,11 +37,12 @@ RATE_LIMITS = {
"daily_requests": 200,
"daily_tokens": 50_000,
},
# 2026-03-29 ogt: ADR-036 Nemotron Tool Calling (免費 Tier)
# 2026-03-31 ogt: NVIDIA NIM 免費版無每日限制!
# 只保留 RPM 限制 (併發控制) + 極大的 daily 上限 (監控用)
"nvidia": {
"rpm": 5, # 每分鐘請求數 (延遲較高,控制併發)
"daily_requests": 100, # 每日請求數 (免費 Tier 限制)
"daily_tokens": 50_000, # 每日 Token 數
"rpm": 10, # 每分鐘請求數 (放寬到 10)
"daily_requests": 99999, # 🔴 免費版無限制!設大數避免誤觸
"daily_tokens": 9999999, # 免費版無限制
},
}