看到个叫Flow的开源项目,定位是一门紧凑的数据管道语言,卖点是能把喂给LLM的token省下大概33%。思路我理解大概是:与其把一堆冗长的中间数据和步骤全用自然语言描述丢给模型,不如用一套更紧凑的管道语法把流程表达出来,中间传递的东西压得更密,模型该懂的一点没少,但字数下来了。三成要是真的,长流程跑下来省的钱不算少。我还没实测,理论上对那种多步骤、要反复传上下文的agent流程最受用。有上手的说说实际能省多少,别是挑好数据算出来的。
有可能性
长流程确实是token大户 能压就是钱
先mark 等个实测帖
省token本质还是信息密度 这个抓得准
三成听着诱人 就怕挑了最理想场景测的
同疑 得看它拿啥任务测的
紧凑语法这方向对 自然语言太啰嗦