从零搭建一个AI客服系统全流程

上个月帮一个做电商的朋友搭了一套AI客服系统,从零开始到正式上线大概花了两周时间。现在这套系统已经跑了一个月了,效果还不错,客服成本直接砍了60%。今天把整个流程分享出来,给有类似需求的朋友一个参考。

为什么选Dify + RAG知识库

市面上做AI客服的方案挺多的,我对比了几个之后选了Dify作为主力平台,主要原因有三个。

第一是Dify的工作流编排能力很强,客服场景需要的多轮对话、条件分支、人工转接这些逻辑都能可视化配置,不用写太多代码。第二是它内置了RAG知识库功能,可以直接把FAQ文档、产品手册、售后政策这些扔进去,AI就能基于这些知识来回答问题。第三是开源免费,私有部署的话数据安全有保障。

当然Dify也不是完美的,后面会说到踩的一些坑。

第一步:整理FAQ和知识文档

这一步看起来简单,其实是整个项目最花时间的部分,大概占了总工时的40%。

我做了这几件事:

首先是把朋友公司过去半年的客服聊天记录导出来,用AI做了一轮分析,提取出最高频的100个问题。这些问题按类别分成了几大类:订单查询类、退换货类、产品咨询类、物流查询类、售后服务类。

然后是整理标准答案。这个不能偷懒,每个问题都要有准确的、符合公司政策的标准回答。我把公司的产品手册、退换货政策、常见问题解答这些文档全部整理了一遍,去掉了过时的信息,补充了缺失的内容。

最后是构造一些变体问题。同一个问题用户可能有很多种问法,比如"怎么退货"、“我想退”、“退货流程是什么”、“东西不满意能退吗”,这些都要覆盖到。AI虽然有泛化能力,但给它更多的变体示例,回答准确率会明显提升。

整理完大概有200多个FAQ条目,加上产品手册和政策文档,总共大概5万字的知识库内容。

第二步:构建RAG知识库

Dify里创建知识库还是挺方便的。把整理好的文档上传上去,选择合适的分段策略就行。

这里有几个经验:

文档分段大小建议在300-500 token左右,太长的话检索精度会下降,太短的话上下文不完整。FAQ类的文档最好一个问答对作为一个分段,这样检索最精准。

Embedding模型我用的是bge-large-zh-v1.5,中文场景下效果不错。如果预算够的话OpenAI的text-embedding-3-large效果更好一些。

知识库建好之后一定要做测试检索,随便问几个问题看看召回的文档片段是不是相关的。我在这一步发现了好几个分段不合理的问题,调整之后检索准确率从70%提升到了90%以上。

第三步:配置Dify工作流

这是核心部分。我设计的工作流大概是这样的:

用户输入 → 意图识别(AI判断问题类型)→ 知识库检索 → AI生成回答 → 置信度判断 → 高置信度直接回复 / 低置信度转人工

几个关键节点的配置:

意图识别节点用的是一个分类Prompt,把用户问题分成"产品咨询"、“订单查询”、“售后问题”、“闲聊”、"其他"五类。不同类别走不同的处理分支。

订单查询类的问题需要调用电商平台的API查询实际订单状态,这个我通过Dify的HTTP节点对接了店铺后台的API。

置信度判断这个环节很重要。我让AI在生成回答的同时给出一个1-10的置信度评分,低于6分的自动转人工客服。这样既保证了回答质量,又不会把用户晾在那里。

第四步:接入IM渠道

朋友的客服主要在微信和网页两个渠道。

网页端比较简单,Dify本身就提供了一个可嵌入的聊天窗口组件,复制一段代码到网站里就行。样式可以自定义,和网站整体风格保持一致。

微信端稍微麻烦一些,需要通过企业微信的API做对接。我用了一个开源的微信机器人框架做中间层,消息进来先转发到Dify的API,拿到回复再发回给用户。这部分大概花了两天时间调试。

第五步:测试优化

上线之前做了大量测试,这个阶段非常关键。

我准备了200个测试问题,覆盖了各种正常和边界场景。测试结果第一轮只有75%的准确率,不太理想。

分析了错误案例之后发现主要问题有三个:一是知识库里有些信息过时了导致回答错误;二是一些复杂问题AI理解偏了;三是一些问题知识库里没有覆盖到。

针对性优化之后准确率提升到了92%,对于一个V1版本来说已经够用了。

关键指标和效果

上线一个月后的数据:

  • 首次解决率:78%。也就是说近八成的问题AI一次就回答对了,用户不需要追问
  • 客户满意度:4.2/5分。比之前纯人工客服的4.0分还略高,主要是因为AI响应速度快,7x24小时在线
  • 人工转接率:22%。这些转人工的主要是复杂售后、投诉、特殊情况
  • 平均响应时间:从之前的3-5分钟降到了5秒以内

成本对比

之前朋友请了3个客服,每人月薪4000-5000,加上社保之类的,一个月人力成本大概1.8万。

现在AI客服处理了约80%的咨询量,只需要保留1个人工客服处理复杂问题。AI这边的成本主要是服务器费用(约500元/月)加上大模型API调用费(约300元/月),总共约800元/月。

算下来每月节省约1.2万,一年省14万左右。搭建的一次性投入大概1万(我的人工费 + 服务器初始配置),3-4周就回本了。

给想搭AI客服的朋友几个建议

第一,知识库质量决定一切。AI再聪明,如果知识库里的信息不准确不完整,回答也好不了。在知识库建设上多花时间绝对值得。

第二,人工兜底必须要有。现阶段AI客服不可能100%替代人工,一定要设计好转人工的机制。宁可多转一些,也别让AI瞎回答损害客户体验。

第三,持续迭代很重要。上线之后要定期review AI的回答记录,发现新的高频问题及时补充到知识库,发现回答不准确的及时修正。

有做过AI客服的朋友吗?你们用的什么方案?遇到过什么问题?欢迎评论区聊聊,特别想听听大家在实际业务中的经验和教训。

正好调研AI客服方案。AI客服上线后客户满意度跟纯人工相比怎么样?

AI客服是最成熟的落地场景之一,但做好不容易。关键是知识库质量和对话流程设计。

AI客服最大的坑是超出知识库范围时AI会瞎编。做好意图识别和转人工机制。

想看实际数据。AI解决了多少比例问题?每通对话省了多少人力成本?

1 个赞

AI客服维护成本容易被低估。知识库需持续更新,对话流程需根据反馈迭代。

1 个赞

建议考虑多语言支持。AI客服多语言能力比人工强太多。

知识库用什么方案做的?检索准确率咋样