这两天看到个对比数据挺有意思:在偏资深工程师那类任务上,新Opus的成绩基本贴着顶配旗舰,但平均只花了大概三分之一的输出token。
我对这个比对分数敏感多了。做agent的都懂,长链条跑下来最烧钱的不是单价,是模型话痨——想一大段、写一大段、再自我review一大段,来回几十轮账单直接起飞。
之前有个批处理任务我跑一轮四十多刀,换过来同样的活明显轻了,虽然没精确记账,但那个进度条推进速度是能感觉出来的。
所以现在比的到底是谁聪明,还是谁废话少?我越来越觉得是后者。
这两天看到个对比数据挺有意思:在偏资深工程师那类任务上,新Opus的成绩基本贴着顶配旗舰,但平均只花了大概三分之一的输出token。
我对这个比对分数敏感多了。做agent的都懂,长链条跑下来最烧钱的不是单价,是模型话痨——想一大段、写一大段、再自我review一大段,来回几十轮账单直接起飞。
之前有个批处理任务我跑一轮四十多刀,换过来同样的活明显轻了,虽然没精确记账,但那个进度条推进速度是能感觉出来的。
所以现在比的到底是谁聪明,还是谁废话少?我越来越觉得是后者。
有实际账单截图吗 没有的话我先当没看见
没细记,下轮我把用量导出来贴一下
能少说点废话我愿意多付钱 这不冲突
十倍速的关键就在这儿 效率不是玄学