系列 10/12 系統設計 成本優化 AI agent 的延遲、可靠性與成本,該怎麼取捨? AI agent 要回得快、撐得住,帳單又不能失控,三件事很難同時做到最好。這篇用 streaming、retry、快取與模型路由,整理幾種實際可用的取捨方式。 技術 2026-05-27 10min
系列 11/16 Agentic Engineering Token AI Coding 成本怎麼控:從 Token 用量到 Model Routing AI coding 的帳單為什麼會失控?從實際用量拆解 context、cache、model routing 與 session 管理,並說明如何用 eval 守住成本和品質。 技術 2026-05-22 1min
系列 13/15 Claude API 成本優化 成本控制:省錢是一門工程藝術 從 Token 成本全貌、模型選擇策略、Prompt Caching 到 Batch API,系統性地把 AI 應用的成本降下來。一個真實 RAG 系統從每月 $2000 降到 $300 的完整過程。 技術 2026-05-22 3min
系列 7/15 Claude API Prompt Caching Prompt Caching:降低 90% 重複成本的技術 為什麼 prompt caching 是最重要的成本優化技術;cache_control 用法;快取有效期與定價;適合 vs 不適合快取的內容;Python + TypeScript 實作;快取命中率監控;RAG 系統省錢案例。 技術 2026-04-10 6min