优化agent成本别只盯着换便宜模型 有篇论文点破了真正的吞金兽

一提到agent省钱,大多数人第一反应是换更便宜的模型或者做model routing。有篇论文提醒了个更容易被忽略的地方:agent真正烧钱的,是整个执行循环。一次任务里可能塞着多轮对话、工具调用、上下文回放、历史压缩、重试、等待、子任务委派,这些东西怎么组织,决定权大多在harness也就是编排层。论文管这现象叫token maxing——单token价格在降,但agent为了啃更复杂的任务,会往里塞更多上下文、更多工具信息、更多重试,总量反而涨上去了。所以真想降本,得从循环结构下手,光换模型是治标

小白问 子任务委派也算成本大头吗

编排层才是大头 这话点醒我了

论文链接有吗 想看看具体是哪块最费钱

token maxing这词起得好 一听就懂

我之前一门心思换模型 省的那点全被重试吃回去

减无效重试 控上下文回放长度 该压缩压缩 就能省不少

从循环结构下手 说起来容易 具体咋优化啊

治标治本这个比喻到位 该看看这论文了