跳到主要内容

第 2.1.1 节:先判断哪些问题应该交给 RAG

进入实现之前,先围绕“先判断哪些问题应该交给 RAG”划清适用场景、不做范围和判断条件。完成本节后,你应该能够写出问题应该交给 RAG 的适用场景、不适用场景、前置条件和进入工程实现的判断标准。

本章要解决什么问题​

进入第 2 卷后,很多读者会自然把注意力放到 RAG(检索增强生成)上。它是 AI Agent(人工智能体)岗位、企业项目和作品集里最常见的能力之一。只要客户说“我们有很多资料,能不能做一个 AI(人工智能)知识库”,大概率就会有人想到 RAG。

但真实项目里,RAG 最容易被误解。很多新手会把它理解成“把文档扔进向量数据库,然后让模型回答”。这个理解太粗糙。向量数据库只是系统组件,不是完整 RAG 系统。文档上传成功也不等于知识库可用。模型能说出一段流畅回答,也不等于答案可信、可追溯、可验收。

本章要解决的问题是:如何给 RAG划边界,并把它放进一个真实客服 Agent 系统里。

我们的贯穿项目仍然是:企业客服知识库与工单 Agent 工作台。在这个工作台里,用户可能会问:

  • “这个产品支持 7 天无理由退货吗?”
  • “我的订单为什么还没发货?”
  • “你们最新的质保政策是什么?”
  • “帮我申请退款。”
  • “我对客服处理结果不满意,帮我投诉。”

这些问题看起来都像客服问答,但它们的处理方式完全不同。有的问题可以由普通模型根据常识解释;有的问题必须检索企业最新资料;有的问题要调用订单、物流、工单等业务工具;有的问题必须转人工。

RAG 在这里解决的不是“让模型变成万能知识库”,而是解决企业问答里的 4 个核心问题:

  • 企业资料依据:答案必须基于公司认可的制度、产品文档、售后政策、培训手册和 FAQ(常见问题)。
  • 引用来源:回答要能说明“依据来自哪份资料、哪个版本、哪一段内容”。
  • 资料更新:企业资料会变化,知识库要能重新解析、索引和生效。
  • 权限边界:不同用户、部门、角色不能看到同一批资料。

这一章帮助你建立工程判断:什么时候让模型直接回答,什么时候走 RAG,什么时候调用工具,什么时候转人工。只有先把边界讲清楚,后面分块、Embedding(嵌入向量)、索引、重排序、权限和可观测性才有意义。

学习目标​

学完本章后,读者应该能做到:

  • 用人话解释 RAG 是什么,而不是只背“检索增强生成”这个词。
  • 判断一个客服问题应该由普通模型回答、RAG、工具调用还是人工处理。
  • 画出企业客服知识库 RAG 的最小系统流程图。
  • 说明 RAG 为什么重点解决依据、引用、更新和权限问题。
  • 设计客服知识库的资料来源、模块拆分、字段契约和状态流转。
  • 说明检索、重排序、生成、引用、拒答之间的关系。
  • 设计权限过滤、资料状态、问答日志和引用日志。
  • 写出 RAG 项目的失败兜底方案。
  • 说明哪些场景不适合使用 RAG。
  • 把本章能力连接到作品集项目和面试表达。

贯穿业务场景​

我们要做的系统是“企业客服知识库与工单 Agent 工作台”。它面向客服团队、售后团队、运营人员和内部管理员。

这个工作台至少有 4 类用户:

用户角色典型需求系统应该提供什么
外部客户查询产品、售后、物流和投诉入口可理解、可追溯、不会泄露内部资料的回答。
一线客服快速查政策、查订单、生成回复建议最新知识库、业务工具和工单协作。
运营管理员上传资料、维护版本、查看命中情况资料治理、发布流程和效果看板。
质检负责人复盘错误回答和客服处理质量引用记录、问答日志、拒答原因和人工接管记录。

在这个场景里,知识库不是一个“聊天文件夹”。它是客服系统的一部分,必须和用户身份、资料版本、权限、工单流程、日志审计连接起来。

来看几类真实问题:

用户问题推荐处理方式为什么
“你们客服工作时间是几点?”RAG 或固定配置回答答案来自企业公开资料,必须跟当前政策一致。
“这个产品适合新手吗?”RAG + 模型总结需要参考产品说明书和适用人群资料。
“什么是 7 天无理由退货?”普通模型可解释概念,但企业承诺要用 RAG通用概念和企业政策不能混在一起。
“我的订单什么时候发货?”工具调用需要查询订单系统,不是知识库问题。
“帮我申请退款。”工具调用 + 人工审批涉及业务状态改变和资金风险。
“你们公司内部投诉升级规则是什么?”视权限决定是否 RAG内部资料不能对外部客户直接开放。
“资料里没写,但你觉得我能不能退?”拒答或转人工不能让模型代替公司做承诺。

这张表的重点是:RAG 不是所有问题的默认答案。 它只适合回答“需要从企业资料中找依据,并基于依据生成说明”的问题。只要问题涉及实时业务数据、写入动作、资金风险、合规判断或资料外推,就必须引入工具、规则或人工。

新手为什么会卡住​

新手做 RAG 项目,经常不是卡在某个模型参数,而是卡在边界不清。常见误解有 7 个。

误解问题在哪里正确理解
RAG 就是向量数据库向量库只负责存和查,不负责资料治理、权限、引用和拒答RAG 是资料进入、检索、生成、引用、日志和反馈的完整链路。
文档传上去就能答文档可能过期、重复、冲突、权限不明上传只是第一步,还要解析、分块、审核、发布和索引。
检索到资料就一定能回答命中的片段可能不完整、不相关或互相冲突需要重排序、阈值、引用规则和拒答策略。
模型可以自己判断资料是否可信模型不知道企业内部版本规则资料状态、版本和有效期必须由系统字段控制。
答案流畅就代表正确模型可能把片段拼错、扩写过度或编造承诺必须用引用、日志、验收问题集来检查。
权限可以靠 Prompt(提示词)提醒Prompt 不能替代后端权限权限过滤必须发生在检索和生成链路中。
RAG 可以替代客服复杂争议、审批、投诉和资金动作需要人工RAG 是辅助依据,不是最终业务责任人。

这些误解背后有一个共同点:把 RAG 当成“模型效果问题”,而不是“企业知识工程问题”。本章会反复强调:RAG 的价值来自可控资料、可见引用、可更新索引、可审计权限,而不只是回答看起来聪明。

继续学习​