如何关闭 Hermes Agent 的上下文缓存功能?有什么副作用?

之前我们深入探讨过 Hermes Agent 会利用极其先进的提示词缓存(Prompt Caching)技术来大幅削减你在高频交互时所产生的 API 费用。但在某种极其罕见的开发场景下,比如极客正在对代理的核心指令集进行实时的毁灭性爆改,并在会话进程中不断地修改底层工具的代码描述,这时候缓存机制会因为旧有策略的留存而导致灾难性的上下文解析错误。为了规避这种错误,你可以在环境配置文件里或者启动参数中强制切断缓存机制的使用。但这带来的副作用是立竿见影且极其痛苦的:代理不仅回复你的计算等待时间会呈几何倍数增加,更要命的是每一次看似简单的问答,都会导致庞大的基础系统参数被全量重新计算计费,你的账户余额会以肉眼可见的速度被疯狂吞噬,请谨慎操作。

作加

类似文章