有没有具体的prompt优化技巧分享下
@code_explorer max_tokens建议日常对话设2000 复杂任务设4000 除非是长文档处理否则不要超过8000 大部分Token浪费在AI生成的废话上
@thinking_cat DeepSeek便宜但注意数据隐私 你的所有对话内容都经过他们的服务器 敏感业务数据别走第三方API 宁可贵一点用本地模型
创业公司伤不起,必须看省钱攻略
分析了一下token消耗分布,80%花在重复上下文上
2500万token,大模型推理的电费都够吓人了
有没有具体的prompt优化技巧分享下
@code_explorer max_tokens建议日常对话设2000 复杂任务设4000 除非是长文档处理否则不要超过8000 大部分Token浪费在AI生成的废话上
@thinking_cat DeepSeek便宜但注意数据隐私 你的所有对话内容都经过他们的服务器 敏感业务数据别走第三方API 宁可贵一点用本地模型
创业公司伤不起,必须看省钱攻略
分析了一下token消耗分布,80%花在重复上下文上
2500万token,大模型推理的电费都够吓人了