#延遲

AI agent 的延遲、可靠性與成本，該怎麼取捨？

AI agent 要回得快、撐得住，帳單又不能失控，三件事很難同時做到最好。這篇用 streaming、retry、快取與模型路由，整理幾種實際可用的取捨方式。