系列 9/12 LLMOps可觀測性 生產級 LLM 可觀測性與評估:沒有 eval 的 agent,等於沒有測試的軟體 你改了一句 prompt、換了個模型,怎麼知道系統變好還是變壞?拆解 eval harness(黃金題庫、LLM-as-judge、回歸測試)、agent 的 tracing(每一步檢索/工具/模型的 span)、token 與成本監控,以... 技術 2026-05-23 2min
系列 2/12 AI Agent系統架構 企業 AI Agent 系統架構藍圖:一張圖看懂能上 production 的 agent 長什麼樣 把上一篇的六道鴻溝收斂成一張參考架構:從 API Gateway、Agent Runtime、Tool Registry、權限感知檢索、Memory Store 到 Model Router 與可觀測性旁路。每個元件為什麼存在、少了它會出什... 技術 2026-04-25 2min