上个月帮一个做电商的朋友搭了一套AI客服系统,从零开始到正式上线大概花了两周时间。现在这套系统已经跑了一个月了,效果还不错,客服成本直接砍了60%。今天把整个流程分享出来,给有类似需求的朋友一个参考。
为什么选Dify + RAG知识库
市面上做AI客服的方案挺多的,我对比了几个之后选了Dify作为主力平台,主要原因有三个。
第一是Dify的工作流编排能力很强,客服场景需要的多轮对话、条件分支、人工转接这些逻辑都能可视化配置,不用写太多代码。第二是它内置了RAG知识库功能,可以直接把FAQ文档、产品手册、售后政策这些扔进去,AI就能基于这些知识来回答问题。第三是开源免费,私有部署的话数据安全有保障。
当然Dify也不是完美的,后面会说到踩的一些坑。
第一步:整理FAQ和知识文档
这一步看起来简单,其实是整个项目最花时间的部分,大概占了总工时的40%。
我做了这几件事:
首先是把朋友公司过去半年的客服聊天记录导出来,用AI做了一轮分析,提取出最高频的100个问题。这些问题按类别分成了几大类:订单查询类、退换货类、产品咨询类、物流查询类、售后服务类。
然后是整理标准答案。这个不能偷懒,每个问题都要有准确的、符合公司政策的标准回答。我把公司的产品手册、退换货政策、常见问题解答这些文档全部整理了一遍,去掉了过时的信息,补充了缺失的内容。
最后是构造一些变体问题。同一个问题用户可能有很多种问法,比如"怎么退货"、“我想退”、“退货流程是什么”、“东西不满意能退吗”,这些都要覆盖到。AI虽然有泛化能力,但给它更多的变体示例,回答准确率会明显提升。
整理完大概有200多个FAQ条目,加上产品手册和政策文档,总共大概5万字的知识库内容。
第二步:构建RAG知识库
Dify里创建知识库还是挺方便的。把整理好的文档上传上去,选择合适的分段策略就行。
这里有几个经验:
文档分段大小建议在300-500 token左右,太长的话检索精度会下降,太短的话上下文不完整。FAQ类的文档最好一个问答对作为一个分段,这样检索最精准。
Embedding模型我用的是bge-large-zh-v1.5,中文场景下效果不错。如果预算够的话OpenAI的text-embedding-3-large效果更好一些。
知识库建好之后一定要做测试检索,随便问几个问题看看召回的文档片段是不是相关的。我在这一步发现了好几个分段不合理的问题,调整之后检索准确率从70%提升到了90%以上。
第三步:配置Dify工作流
这是核心部分。我设计的工作流大概是这样的:
用户输入 → 意图识别(AI判断问题类型)→ 知识库检索 → AI生成回答 → 置信度判断 → 高置信度直接回复 / 低置信度转人工
几个关键节点的配置:
意图识别节点用的是一个分类Prompt,把用户问题分成"产品咨询"、“订单查询”、“售后问题”、“闲聊”、"其他"五类。不同类别走不同的处理分支。
订单查询类的问题需要调用电商平台的API查询实际订单状态,这个我通过Dify的HTTP节点对接了店铺后台的API。
置信度判断这个环节很重要。我让AI在生成回答的同时给出一个1-10的置信度评分,低于6分的自动转人工客服。这样既保证了回答质量,又不会把用户晾在那里。
第四步:接入IM渠道
朋友的客服主要在微信和网页两个渠道。
网页端比较简单,Dify本身就提供了一个可嵌入的聊天窗口组件,复制一段代码到网站里就行。样式可以自定义,和网站整体风格保持一致。
微信端稍微麻烦一些,需要通过企业微信的API做对接。我用了一个开源的微信机器人框架做中间层,消息进来先转发到Dify的API,拿到回复再发回给用户。这部分大概花了两天时间调试。
第五步:测试优化
上线之前做了大量测试,这个阶段非常关键。
我准备了200个测试问题,覆盖了各种正常和边界场景。测试结果第一轮只有75%的准确率,不太理想。
分析了错误案例之后发现主要问题有三个:一是知识库里有些信息过时了导致回答错误;二是一些复杂问题AI理解偏了;三是一些问题知识库里没有覆盖到。
针对性优化之后准确率提升到了92%,对于一个V1版本来说已经够用了。
关键指标和效果
上线一个月后的数据:
- 首次解决率:78%。也就是说近八成的问题AI一次就回答对了,用户不需要追问
- 客户满意度:4.2/5分。比之前纯人工客服的4.0分还略高,主要是因为AI响应速度快,7x24小时在线
- 人工转接率:22%。这些转人工的主要是复杂售后、投诉、特殊情况
- 平均响应时间:从之前的3-5分钟降到了5秒以内
成本对比
之前朋友请了3个客服,每人月薪4000-5000,加上社保之类的,一个月人力成本大概1.8万。
现在AI客服处理了约80%的咨询量,只需要保留1个人工客服处理复杂问题。AI这边的成本主要是服务器费用(约500元/月)加上大模型API调用费(约300元/月),总共约800元/月。
算下来每月节省约1.2万,一年省14万左右。搭建的一次性投入大概1万(我的人工费 + 服务器初始配置),3-4周就回本了。
给想搭AI客服的朋友几个建议
第一,知识库质量决定一切。AI再聪明,如果知识库里的信息不准确不完整,回答也好不了。在知识库建设上多花时间绝对值得。
第二,人工兜底必须要有。现阶段AI客服不可能100%替代人工,一定要设计好转人工的机制。宁可多转一些,也别让AI瞎回答损害客户体验。
第三,持续迭代很重要。上线之后要定期review AI的回答记录,发现新的高频问题及时补充到知识库,发现回答不准确的及时修正。
有做过AI客服的朋友吗?你们用的什么方案?遇到过什么问题?欢迎评论区聊聊,特别想听听大家在实际业务中的经验和教训。