AI ENGINEERING · PRODUCTION AI AGENT SYSTEMS
把 AI Agent 從 PoC 推向 Production
我是 Bobo，一個有 20 年經驗的 cloud / backend technical lead，現在專注在一件事：把 LLM agent 當成真正的企業系統來工程化——不是跑得動的 demo，而是企業敢接到客戶資料、財務、製造流程上的 production 系統。
能力地圖 Competency Map
RAG Architecture RAG 架構 Ingestion、chunking、檢索、reranking 到 source-cited 回答的完整 pipeline。 深入閱讀 → Vector DB & Embeddings 向量檢索與 embedding pgvector vs 專用向量庫、embedding 策略、hybrid search、HNSW/IVF 取捨。 深入閱讀 → Tool Use & MCP Tool use 與 MCP Function calling、action boundary、approval flow、idempotency，與自建 MCP server。 深入閱讀 → Agent Memory & State Agent 記憶與狀態 Short / long / episodic memory、context engineering，把 agent 當狀態機經營。 深入閱讀 → Multi-Agent Orchestration 多代理協作 Supervisor/worker、handoff 介面設計、錯誤隔離，以及「何時別用 multi-agent」。 深入閱讀 → Eval & Observability 評估與可觀測性 Eval harness、黃金題庫、LLM-as-judge、tracing、成本監控與漂移偵測。 深入閱讀 → Governance & Security 治理與資安 資料分級、RBAC/ABAC、tool registry、audit log、human-in-the-loop。 深入閱讀 → Latency / Reliability / Cost 延遲、可靠性、成本 把 LLM app 當 distributed system：streaming、retry、model routing、token 治理。 深入閱讀 → Technical Leadership 技術領導 帶 3–8 人 AI 工程小隊：delivery loop、四種 review、把 AI 翻譯成業務 ROI。 深入閱讀 →
旗艦系列
《從 PoC 到 Production：企業 AI Agent 系統工程》· 12 篇
市面上的 AI agent 教學多半停在「會呼叫 API、跑得動 demo」。這個系列補上 demo 到 production 之間最難的那一段：RAG、向量檢索、治理、可觀測性與團隊落地。
- 01. 為什麼企業 AI Agent 卡在 PoC？
- 02. 企業 AI Agent 系統架構藍圖
- 03. RAG 架構實戰
- 04. 向量資料庫與 embedding 策略
- 05. 權限感知檢索
- 06. Tool use 與 MCP
- 07. Agent memory 與狀態管理
- 08. 多代理協作
- 09. 生產級 LLM 可觀測性與評估
- 10. 延遲、可靠性、成本的系統權衡
- 11. Agent 治理框架
- 12. 帶領一支 3–8 人的 AI 工程小隊
延伸閱讀 Selected Writing
同一套能力，在這些既有系列裡有更多 hands-on 紀錄。
Agentic Engineering 實戰手冊 一個做了一年 100% AI coding 的工程師，從認知到系統設計到團隊導入的全紀錄。 Claude API & Agent SDK 完全指南 從 API 到 multi-agent、MCP server 開發的 hands-on 系列。 15 分鐘打造你自己的 MCP server 把工具用標準介面接給模型——企業 agent 治理的地基。 MCP 與 A2A 協定：實務者指南 兩個讓 agent 互通與接工具的協定，怎麼選、怎麼用。 一個人做產品：AI 時代 Solo Builder 全棧實戰 從點子驗證、AI 驅動開發到上線收費——一個人 + AI 就是一支團隊。 多代理協作的真實世界案例 多個 agent 如何分工、交棒與彙整的實際案例。