AI ENGINEERING · 從 DEMO 到正式上線
AI Agent 做得出來之後,怎麼真的上線?
我是 Bobo,做了 20 年 cloud 與 backend。這幾年開始把 AI agent 接進工作流程後,我最常想的不是 demo 能不能跑,而是公司敢不敢真的用:它能不能碰客戶資料?出錯時查不查得到原因? 成本會不會突然失控?這個頁面整理的,就是我一路研究和實作後留下的答案。
能力地圖 Competency Map
RAG Architecture RAG 架構 文件怎麼整理、切段、檢索和重排,最後讓每個答案都找得到原始出處。 深入閱讀 → Vector DB & Embeddings 向量檢索與 embedding 從 pgvector 和專用向量庫怎麼選,一路談到 embedding、混合搜尋與索引調校。 深入閱讀 → Tool Use & MCP Tool use 與 MCP Agent 開始會動手之後,哪些事能直接做、哪些事一定要先問過人。 深入閱讀 → Agent Memory & State Agent 記憶與狀態 哪些資訊該記、要記多久,以及如何避免不同使用者的記憶混在一起。 深入閱讀 → Multi-Agent Orchestration 多代理協作 多個 agent 怎麼分工、交接與隔離錯誤,也談哪些情況其實一個 agent 就夠。 深入閱讀 → Eval & Observability 評估與可觀測性 用固定題庫、trace 和成本紀錄,看清楚每次改動到底讓系統變好還是變差。 深入閱讀 → Governance & Security 治理與資安 把資料權限、工具清單、操作紀錄和人工確認,整理成能落地的安全邊界。 深入閱讀 → Latency / Reliability / Cost 延遲、可靠性、成本 回得快、撐得住又不能太貴,看看 streaming、retry 和模型路由怎麼搭配。 深入閱讀 → Technical Leadership 技術領導 小團隊如何安排交付和 review,也把技術成果說成業務聽得懂的影響。 深入閱讀 →
旗艦系列
《從 PoC 到 Production:企業 AI Agent 系統工程》· 12 篇
呼叫 API、做出會回答問題的 demo,其實不算太難。真正麻煩的是後面:資料怎麼管、權限怎麼守、 答錯了怎麼查、更新後怎麼知道有沒有退步。這 12 篇就是把這段路完整走一次。
- 01. 從 demo 到正式上線,中間少了什麼?
- 02. 正式上線前要補齊哪些元件
- 03. 文件怎麼變成有來源可查的答案
- 04. 向量資料庫與 embedding 怎麼選?
- 05. 別讓不該看的內容進入 context
- 06. Agent 能動手之後,怎麼守住操作邊界
- 07. 該記什麼,也要知道何時該忘
- 08. Multi-agent 該不該用?
- 09. 每次改動都要知道有沒有退步
- 10. 延遲、可靠性與成本,該怎麼取捨?
- 11. 資料、權限、工具與持續監督
- 12. 把交付做成固定節奏
延伸閱讀 Selected Writing
如果想看更多實作過程,這幾個系列可以接著讀。
Agentic Engineering 實戰手冊 我把 AI coding 用進日常工作後,從個人習慣、系統設計到團隊導入的實際心得。 Claude API & Agent SDK 完全指南 從基本 API 一路做到 multi-agent 和 MCP server,適合想跟著實作的人。 15 分鐘打造你自己的 MCP server 用一個小範例把工具接給模型,也順便看懂 MCP 為什麼方便管理。 MCP 與 A2A 協定:實務者指南 MCP 和 A2A 各自解決什麼問題,什麼時候該用哪一個。 一個人做產品:AI 時代 Solo Builder 全棧實戰 一個人怎麼從驗證點子、開發產品,一路做到部署、收費和維運。 多代理協作的真實世界案例 用實際案例看多個 agent 怎麼拆工作、交換結果,再把答案收回來。