From a760217f3c6a997197fefef090c5b749916f4965 Mon Sep 17 00:00:00 2001 From: yosheng_zhang Date: Mon, 18 May 2026 19:51:40 +0800 Subject: [PATCH] =?UTF-8?q?feat(cv):=20=E6=B7=BB=E5=8A=A0=E4=BC=81?= =?UTF-8?q?=E6=A5=AD=E7=B4=9A=20LLM=20Gateway=20=E5=B0=88=E6=A1=88?= =?UTF-8?q?=E7=B6=93=E6=AD=B7?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit - 新增 llm-bridge 微服務專案描述 - 詳述四模式智慧路由架構設計 - 說明 AST 級防護與語意快取機制 - 闡述成本治理與 WAF 實作細節 - 列出完整技術棧包含 FastAPI、PostgreSQL 等工具 --- my_cv.yaml | 10 ++++++++++ 1 file changed, 10 insertions(+) diff --git a/my_cv.yaml b/my_cv.yaml index 9ce4765..b01935a 100644 --- a/my_cv.yaml +++ b/my_cv.yaml @@ -44,6 +44,16 @@ cv: - "於畢業後參與 300 小時密集實訓,並獨立考取「iPAS AI 應用規劃師 (機器學習) 中級」證照,建立扎實的機器學習理論基礎並轉軌生產環境級 AI 開發。" projects: + - name: "企業級 LLM Gateway 智能查詢微服務 (llm-bridge)" + start_date: "2025-12" + end_date: "2026-03" + highlights: + - "專案背景:以模組化單體 (Modular Monolith) 架構,為 NPO 多租戶 CRM 系統建構無狀態雲原生 AI 服務,讓 VIP 客戶以自然語言跨表單檢索業務數據。" + - "四模式智慧路由:透過 LLM 結構化輸出將使用者意圖強制分類為 FILTER / AGGREGATION / RANKING / ANOMALY_DETECTION,並搭配動態規則引擎進行熱更新業務邏輯注入,杜絕 LLM 幻覺。" + - "AST 級防護與語意快取:以 sqlglot 進行 SQL 抽象語法樹深度解析,100% 阻斷 DML/DDL;結合 PostgreSQL RLS 強制注入 territory 邊界實現多租戶資料隔離;pgvector HNSW 向量索引支援語意快取,在 50 CCU 壓測下將 LLM 延遲由 ~3200ms 降至 ~30ms。" + - "成本治理與 WAF:Shadow Wallet 整數運算防溢位模型精準計算 Token 成本並以 HTTP 402 攔截超額請求;Redis 分散式鎖 (SingleFlight) 防範快取擊穿;L7 動態黑名單限流器毫秒內阻斷高頻惡意請求。" + - "技術棧:FastAPI、Pydantic v2、SQLAlchemy v2 (Async)、PostgreSQL (pgvector、FTS)、Redis、LangChain、Azure OpenAI、sqlglot、Podman、uv。" + - name: "食道語者語音輔助裝置 (AI 聲學特徵分類系統)" start_date: "2023-09" end_date: "2024-06"