企业 RAG 落地:从一堆文档到可用的答案,中间隔着六个环节

Category:InsightsPublished on:2026-10-02Views:10792Comments:0#技术#RAG

很多企业的知识库问答"能跑起来,但不好用"。问题基本出在下面六个环节,逐条对照就能定位——模型选型只决定上限,这六个环节决定下限。绝大多数项目的问题是下限太低。

RAG 落地的六个环节:解析、切片、检索、生成、权限、更新

1. 文档解析:结构丢了,后面全白做

表现:表格内容答错、条款编号对不上、扫描件里的文字查不到。

根因:PDF 里的表格、扫描件里的文字、Word 里的目录结构在解析时被丢弃,剩下的只是一串断行的文字。

做法:解析阶段保留标题层级、条款编号、表格行列关系与章节从属关系;扫描件走 OCR 并做识别质量抽检;Excel 类表格按行记录处理,而不是转成文本。

验证:随机抽 10 页原文,比对解析结果的段落与表格是否完整,不要用"看起来没问题"来判断。

2. 切片:按结构切,不按字数切

表现:答案说了一半、同一条款的不同部分互相矛盾。

根因:按固定字数硬切,一条安全规程

RAG 六环节流程与逐环节验证方法

被切成两半,两半都答不准。

做法:以条款、章节、问答对为最小单位;长章节保留适度上下文重叠;切片上打元数据(文件名、章节、生效日期、适用范围、密级),让这些标签参与检索过滤。

验证:检查同一条款是否被拆到多个切片、跨切片的答案是否完整。

3. 检索:向量 + 关键词,必要时加 rerank

表现:问"第 3.2 条规定了什么"查不到,问"启动前要做什么"答非所问。

根因:纯向量检索在专业术语、编号、缩写上容易失手;纯关键词检索又处理不了口语化表达。

做法:混合召回(向量 + 关键词)覆盖两类查询,必要时加一层 rerank 重排序提升 top-k 质量;针对行业术语维护同义词表(简称、俗称、英文缩写)。

验证:准备两类测试问题各 20 条(精确型 + 口语型),分别统计召回命中率。

4. 生成与引用:允许拒答,强制出处

表现:答案看着合理但查无实据,或者库里没有也硬编一个。

做法:三条硬约束——只依据召回内容作答、每条答案附出处(文件名 + 章节 + 原文片段)可跳转核对、答不上就拒答并说明"库里没有"。

验证:构造 20 条"库里确实没有"的问题,检查是否全部正确拒答。拒答率为零不是好事,往往意味着在编。

5. 权限:在召回前过滤,不是召回后打码

表现:该看的看不到、不该看的都看到了。

做法:按部门、角色、密级控制可见范围,越权内容不参与召回;检索在权限范围内进行。

验证:用不同角色账号问同一敏感问题,比对召回与答案差异。

6. 更新:机制写进运维,不是等出问题再补

表现:上线挺准,半年后开始答错——制度文件改过,知识库没动。

做法:明确谁负责投喂新文档、谁负责下线废止文件、多久做一次全量校验;支持增量更新与版本管理。

验证:检查近三个月修订过的制度,是否在知识库中同步。

上线前必须做的三件事

  1. 建基线问题集:由业务部门出 50—100 条真实问题并标注标准答案,作为验收基线。没有基线,效果好不好只能靠感觉;
  2. 灰度试用:先给一个小团队用两周,收集真实提问与点踩反馈,再放开;
  3. 反馈闭环:答案页必须有"答错了"入口,且有人处理。用户第一次发现答错却无人响应,就不会有第二次使用。

一页检查清单

  • 解析:表格与条款结构是否保留?扫描件是否 OCR 并抽检?
  • 切片:是否按结构切?元数据是否齐全?
  • 检索:混合召回是否开启?术语同义词是否维护?
  • 生成:是否强制引用?是否能正确拒答?
  • 权限:是否在召回前过滤?
  • 更新:责任人与频率是否明确?
  • 度量:基线集、灰度计划、反馈入口是否就位?
Share to:Weibo

Comments(0)

No comments yet — be the first to share