徐强
Fri Jul 24 2026 08:00:00 GMT+0800 (China Standard Time)·1 min readAI EngineeringSuper Agent 实战课

Context Engineering

Prompt Cache 与调用成本追踪

稳定前缀适合缓存,动态事实必须保持新鲜;成本追踪则要落到租户、功能和任务。

#Prompt Cache#Cost#LLM

系统规则、工具描述和固定知识通常适合形成稳定前缀,用户输入、检索结果和价格库存则属于动态部分。缓存边界错误会把旧事实带入回答,也会让成本统计失真。

工程落点

每次调用记录输入输出 Token、缓存命中、模型、租户、节点和业务功能。内容运营根据任务类型选择模型和缓存策略,网关再统一汇总为可运营的成本账本。

结论

缓存是上下文设计的一部分,成本是产品指标的一部分,两者需要一起观察。