feat(cv): 添加企業級 LLM Gateway 專案經歷

- 新增 llm-bridge 微服務專案描述
- 詳述四模式智慧路由架構設計
- 說明 AST 級防護與語意快取機制
- 闡述成本治理與 WAF 實作細節
- 列出完整技術棧包含 FastAPI、PostgreSQL 等工具
main
yosheng_zhang 2026-05-18 19:51:40 +08:00
parent 446df41c98
commit a760217f3c
1 changed files with 10 additions and 0 deletions

View File

@ -44,6 +44,16 @@ cv:
- "於畢業後參與 300 小時密集實訓並獨立考取「iPAS AI 應用規劃師 (機器學習) 中級」證照,建立扎實的機器學習理論基礎並轉軌生產環境級 AI 開發。"
projects:
- name: "企業級 LLM Gateway 智能查詢微服務 (llm-bridge)"
start_date: "2025-12"
end_date: "2026-03"
highlights:
- "專案背景:以模組化單體 (Modular Monolith) 架構,為 NPO 多租戶 CRM 系統建構無狀態雲原生 AI 服務,讓 VIP 客戶以自然語言跨表單檢索業務數據。"
- "四模式智慧路由:透過 LLM 結構化輸出將使用者意圖強制分類為 FILTER / AGGREGATION / RANKING / ANOMALY_DETECTION並搭配動態規則引擎進行熱更新業務邏輯注入杜絕 LLM 幻覺。"
- "AST 級防護與語意快取:以 sqlglot 進行 SQL 抽象語法樹深度解析100% 阻斷 DML/DDL結合 PostgreSQL RLS 強制注入 territory 邊界實現多租戶資料隔離pgvector HNSW 向量索引支援語意快取,在 50 CCU 壓測下將 LLM 延遲由 ~3200ms 降至 ~30ms。"
- "成本治理與 WAFShadow Wallet 整數運算防溢位模型精準計算 Token 成本並以 HTTP 402 攔截超額請求Redis 分散式鎖 (SingleFlight) 防範快取擊穿L7 動態黑名單限流器毫秒內阻斷高頻惡意請求。"
- "技術棧FastAPI、Pydantic v2、SQLAlchemy v2 (Async)、PostgreSQL (pgvector、FTS)、Redis、LangChain、Azure OpenAI、sqlglot、Podman、uv。"
- name: "食道語者語音輔助裝置 (AI 聲學特徵分類系統)"
start_date: "2023-09"
end_date: "2024-06"