RAG检索-组装-生成

RAG 在线 Pipeline 2 + 3 + 4（全景）：把 Query 向量送进检索漏斗，拼成结构化 Prompt，喂给 LLM，最后后处理交付前端。

Pipeline 2：向量检索

6 个动作

查询构建：双路并行

Query → ┬→ Text-to-SQL    → 关系型数据库 ┐
        └→ Text-to-Embedding → 向量数据库 ┘
                                          → 检索文件夹 → 合并去重

多路查询 & 查询分解

• 多重查询：一个 Query 派生出多个语义近邻的子查询，分别检索后合并（如"气候变化的影响" → "气候变化如何影响日常天气" + "气候变化对经济有哪些影响"）
• 查询分解：复杂 Query 拆成多个独立子问题，分别检索后融合（如"在 GitHub 上 A 和 B 哪个 star 更多" → "A 在 GitHub 上有多少 star" + "B 在 GitHub 上有多少 star" + "A 和 B 哪个的 star 更多"）

多路召回结果合并去重

用哈希表：

• 键：文档的唯一标识
• 值：该文档的整合信息（得分、内容、召回路径、是否多路命中等）

召回重排序漏斗

ALL Item (百万/千万级) ──快速筛选──→ 召回 (万级候选)
                ──轻量模型──→ 粗排 (千级候选)
                ──复杂模型──→ 精排 (八十级候选)
                ──后处理──→ TOP 5-10

每层用复杂度递增的模型，是工程降本的核心结构。

面试真题：RAG 中怎么有效降低成本？

二级片段法：chunk 切分成三级结构，通过检索二级片段，若 Top-K 二级片段中超过 n 个属于同一一级片段，二级片段用一级片段替换，以获得主题完整的文本语义信息；独立二级片段不输出。

PM 此阶段职责

1. 明确检索目标：定义"搜什么"和"怎么算成功"。
2. 制定质量标准：设计"召回率 ≥ 90%、准确率 ≥ 85%"等核心验收指标。
3. 设计查询优化链：Query 改写、意图识别（分类用户问题类型）、多跳检索（针对复杂问题设计多步骤搜索，如"查张三报销单 → 再查报销规则 → 最后查审批记录"）。

协作对象：算法、AI 工程、数据工程、前后端。

Pipeline 3：上下文组装

3 个动作

Prompt 模板 5 段结构

整理 chunks 的具体动作

注入关键指令（兜底 + 格式）

• 兜底策略：如果参考资料中没有足够信息回答用户问题，不要使用预训练知识猜测，直接回复"根据现有 HR 政策资料无法判断，建议联系您的 HRBP 进一步咨询。您也可以补充更具体的问题描述，我再帮您查找。"
• 输出格式：JSON 格式，含 answer / citations / confidence / need_human_followup 等字段。

Pipeline 4：生成

模型选型（route_model 路由）

def route_model(query, retrieved_chunks):
    # 规则 1：空召回直接小模型
    if len(retrieved_chunks) == 0:
        return "gpt-4o-mini"
    # 规则 2：需要计算的用大模型 + Tool
    if has_calculation_intent(query):
        return "gpt-4o-with-tools"
    # 规则 3：多轮 follow-up 用中等模型
    if is_followup_question(query):
        return "claude-haiku"
    # 规则 4：检索召回量多 + 问题复杂 → 大模型
    if len(retrieved_chunks) >= 4 and query_complexity(query) > 0.7:
        return "gpt-4o"
    # 默认
    return "gpt-4o-mini"

模型参数

temperature=0.1, max_tokens=800, stream=True, top_p=0.9

低温度保证事实性回答的稳定性；流式提升用户感知速度。

流式输出 4 要点

后处理 4 步

相关页面

→ RAG运转流程 → Query增强与改写 → 提示词设计五要素 → 提示词工程四象限法则 → 模型选型方法论 → 效果评测体系 → AIPM课程 Day8