跳至主要內容

AI ENGINEERING · PRODUCTION AI AGENT SYSTEMS

把 AI Agent 從 PoC 推向 Production

我是 Bobo，一個有 20 年經驗的 cloud / backend technical lead，現在專注在一件事：把 LLM agent 當成真正的企業系統來工程化——不是跑得動的 demo，而是企業敢接到客戶資料、財務、製造流程上的 production 系統。

閱讀旗艦系列：從 PoC 到 Production → 關於我

For English readers

I'm a cloud-native backend technical lead transitioning into production-grade LLM and agentic AI platforms. My background combines ~20 years of backend and cloud architecture, hands-on technical leadership, and deep practical work with modern AI-agent tooling (Claude Code, self-built MCP servers, Hermes Agent, OpenAB, multi-step agent workflows).

I design AI agent systems the way I design distributed systems: with attention to RAG architecture, vector retrieval & embedding strategy, tool-calling / MCP, agent memory, multi-agent orchestration, evaluation & observability, governance, and the latency / reliability / cost tradeoffs that decide whether an agent ever leaves the demo stage. I'm especially interested in taking agents from PoC to enterprise production — with eval, observability, access control and governance built in from day one — and in leading small (3–8 person) AI engineering teams to deliver them reliably.

The flagship series below is in Traditional Chinese; the competency map links each JD area to the deepest write-up.

能力地圖 Competency Map

每一塊都對應一篇深入的系統工程文章。

RAG Architecture RAG 架構 Ingestion、chunking、檢索、reranking 到 source-cited 回答的完整 pipeline。 深入閱讀 → Vector DB & Embeddings 向量檢索與 embedding pgvector vs 專用向量庫、embedding 策略、hybrid search、HNSW/IVF 取捨。 深入閱讀 → Tool Use & MCP Tool use 與 MCP Function calling、action boundary、approval flow、idempotency，與自建 MCP server。 深入閱讀 → Agent Memory & State Agent 記憶與狀態 Short / long / episodic memory、context engineering，把 agent 當狀態機經營。 深入閱讀 → Multi-Agent Orchestration 多代理協作 Supervisor/worker、handoff 介面設計、錯誤隔離，以及「何時別用 multi-agent」。 深入閱讀 → Eval & Observability 評估與可觀測性 Eval harness、黃金題庫、LLM-as-judge、tracing、成本監控與漂移偵測。 深入閱讀 → Governance & Security 治理與資安 資料分級、RBAC/ABAC、tool registry、audit log、human-in-the-loop。 深入閱讀 → Latency / Reliability / Cost 延遲、可靠性、成本 把 LLM app 當 distributed system：streaming、retry、model routing、token 治理。 深入閱讀 → Technical Leadership 技術領導 帶 3–8 人 AI 工程小隊：delivery loop、四種 review、把 AI 翻譯成業務 ROI。 深入閱讀 →

旗艦系列 Flagship Series

《從 PoC 到 Production：企業 AI Agent 系統工程》· 12 篇

市面上的 AI agent 教學多半停在「會呼叫 API、跑得動 demo」。這個系列補上 demo 到 production 之間最難的那一段：RAG、向量檢索、治理、可觀測性與團隊落地。

  1. 01. 為什麼企業 AI Agent 卡在 PoC？
  2. 02. 企業 AI Agent 系統架構藍圖
  3. 03. RAG 架構實戰
  4. 04. 向量資料庫與 embedding 策略
  5. 05. 權限感知檢索
  6. 06. Tool use 與 MCP
  7. 07. Agent memory 與狀態管理
  8. 08. 多代理協作
  9. 09. 生產級 LLM 可觀測性與評估
  10. 10. 延遲、可靠性、成本的系統權衡
  11. 11. Agent 治理框架
  12. 12. 帶領一支 3–8 人的 AI 工程小隊
看完整系列頁 →

延伸閱讀 Selected Writing

同一套能力，在這些既有系列裡有更多 hands-on 紀錄。

14 篇系列 Agentic Engineering 實戰手冊 一個做了一年 100% AI coding 的工程師，從認知到系統設計到團隊導入的全紀錄。 15 篇系列 Claude API & Agent SDK 完全指南 從 API 到 multi-agent、MCP server 開發的 hands-on 系列。 MCP 實作 15 分鐘打造你自己的 MCP server 把工具用標準介面接給模型——企業 agent 治理的地基。 協定深入 MCP 與 A2A 協定：實務者指南 兩個讓 agent 互通與接工具的協定，怎麼選、怎麼用。 14 篇系列 一個人做產品：AI 時代 Solo Builder 全棧實戰 從點子驗證、AI 驅動開發到上線收費——一個人 + AI 就是一支團隊。 案例 多代理協作的真實世界案例 多個 agent 如何分工、交棒與彙整的實際案例。

聊聊 Get in touch

如果你在找一個能把企業 AI agent 從 PoC 帶到 production、又能帶團隊的人，歡迎聯絡。

關於我 / About GitHub
esc
輸入關鍵字搜尋文章...
↑↓ 導航 ↵ 開啟 esc 關閉
查看收藏 →