大家都是怎么判断自己选的大模型的缓存率高低啊?

好像不同模型的缓存率不一样?大家都是怎么判断自己选的大模型的缓存率高低啊

主要是看了一些报告,但实操性不强

7 个赞

真要干活还得GPT/Claude那个味儿,国产在上下文深度和逻辑一致性上还是差一截。我试过几个国产,感觉缓存机制这块儿就没海外大厂调得精细。差距还在,没法比。

前排蹲个后续,看楼主怎么回。搬好小板凳,感觉马上要开掐了。

小白请教一下,缓存率具体是指啥?是不是模型记对话内容的能力?我不太确定这对实际使用影响大不大……

哦~是吗?国产又遥遥领先了?报告不看,实操不强,但结论就是秒杀对吧?赢麻了属于是。

这个必须给新手安利一下!缓存率影响可大了!直接关系到多轮对话的连贯性和成本!国产的DeepSeek最近优化得真的绝了,性价比拉满,不试你会后悔的!我先在群里安利一波!