付一韬：RAG在办公领域中的探索与实践-31页_2mb

RAG在办公领域的探索与实践总结

1. RAG技术概述

检索增强生成（RAG）通过结合检索系统与生成模型，提升语言生成的准确性和相关性，能够引入外部知识、实时更新，并降低模型幻觉问题。其核心组件包括：

• 数据源、数据处理模块、检索器、排序器、生成器

2. RAG核心技术架构

架构设计分为三大核心阶段：搜得更全、排得更好、答得更准。

2.1 检索阶段

• 文档解析：处理多样化版式文档（如中英文、结构复杂文档）
• 数据切分：依版面结构与长度划分文本块
• 混合检索：结合全文检索（高精度）与向量检索（多语义匹配），适用于多语言、多模态场景，通过多轮Query改写（如指代消歧、信息补全）提升召回效果
• 开源模型对比：优先使用BGE-M3、bce-base-v1等高性能向量模型

2.2 排序阶段

• 粗排序：采用ReciprocalRankFusion（RRF）和ColBERT模型进行多召回源整合
  • RRF：简单有效，适合多路召回；ColBERT：兼顾多语义交互与效率
• 精排序：使用CrossEncoder对文档层级进行深度分析（计算成本高，逻辑性强）
• 知识过滤：通过自然语言推理（NLI）任务剔除不相关内容，确保生成内容指向准确

2.3 生成阶段

• 知识排版：依据检索源划分上下文层级，防止信息断裂
• FoRAG方法创新
  • 采用两阶段生成结构：先构建提纲模板，再基于大纲生成完整回答
  • 支持长文本生成，确保逻辑清晰、无事实性缺失

3. 办公领域的实践挑战

3.1 核心痛点

• 数据处理：需适配各种文档格式（PDF/Word），保持原格式的语义完整性
• 长周期文档管理：支持多轮对话串联，保持上下文连贯性
• 模型选型优化：需权衡速度、成本与质量，选择适合大语境的NLI模型

3.2 解决方案实践

• 检索优化
  • 使用RAGFlow模块实现PDF/Word的深度解析
  • 混合召回提高召回率与多样性
• 排序机制
  • 粗排序用RRF集成多模型结果
  • 精排序选用ColBERT+多向量交互，但需权衡延迟问题
• 生成优化
  • 引导结构化输出：通过提纲模板保障内容逻辑性
  • 配合chunksize策略
  • 提供提示模板约束输出质量，避免幻觉生成

4. 一点心得

• RAG要落地成功需技术细化、过程闭环
• 技术实践需多角色协作（算法+工程+业务）
• 可观测性与可解释性保障方案仍需加强