OoO 390c32b05d feat(p21): Caller × Context 動態 Model Router + ADR-034 ...

Operation Ollama-First v5.0 / Phase 21 — 動態路由治理

services/llm_model_router.py (160+ 行)
- 純規則引擎，零 LLM 成本（Python lambda predicate）
- 6 caller × 12 條路由規則：
  • sales_copy: 短文 < 100 字 → gemma3:4b / 長文 → llama3.1:8b
  • hermes_analyst: gap > 20% 或銷量 < -50% → qwen3:14b / 預設 hermes3
  • aider_heal: diff > 200 行 → qwen2.5-coder:32b / 預設 7b
  • openclaw_qa: query > 200 字或 multi_turn → qwen3:14b / 預設 qwen2.5:7b-instruct
  • ppt_vision: minicpm 不健康 → llava / 預設 minicpm-v
  • ea_engine: require_chain_of_thought → deepseek-r1:14b / 預設 Gemini
- feature flag MODEL_ROUTER_ENABLED 預設 OFF（向下相容）
- 失敗安全：predicate 例外 skip 到下一條

tests/test_llm_model_router.py (18 tests 全綠)
- T1 flag OFF 不路由
- T2 sales_copy 短/長文路由
- T3 hermes 簡單/複雜 SKU
- T4 aider_heal 簡單/重構
- T5 ppt_vision 主備援
- T6 ea_engine CoT 路由
- T7 predicate 例外容錯
- T8 utility 函數

ADR-034 — Caller × Context 動態 Model Router
- 6 caller 路由規則對應表
- 5 段否決方案（LLM-based / hardcode / 配置檔 / 統一升級）
- Phase 21.2-21.6 戰略性遷移計畫
- V1-V3 驗收 SQL（caller 整合後 model 分布觀察）

關聯：Primary + Secondary 兩台 GCP 已備齊 10 模型（67GB 對稱）支援所有
路由規則；caller 整合可分階段進行（Phase 21.2-21.5）。

Co-Authored-By: Claude Opus 4.7 (1M context) <noreply@anthropic.com>

2026-05-04 10:54:12 +08:00

11 KiB

Raw Blame History

View Raw