RAG流程

2026-08-06 20:53:28   0  举报





RAG基础流程

Python

模板推荐

作者其他创作

大纲/内容

面试题：你们向量库是怎么设计的？最细粒度(代码级别的)

优点：容量大、持久化、数据永久保存、成本低；缺点：磁盘 IO 读写慢，大量并发查询耗时高，频繁查表会拖慢系统 TPS。

高速：内存读写，毫秒级响应；易丢失：内存断电数据清空，只做缓存，不做持久主库；过期淘汰：可设置缓存过期时间，自动清理冷门问答，不占用内存。

第一次查询未知问题，反应较慢第二次查询已知问题反应迅速

BM25

FAQ高频常见问答库

RAG系统检索

加载读取

注释：向量化 --> BGE-M3(稠密1024 + 稀疏250000)

如果本地没有查询结果大模型兜底文本：字符串

Mysql数据库检索

result

阈值0.85 不存在

数据持久化在硬盘（磁盘），断电数据不会丢失。

注释：RRF：TOP-3粗排(索引，稠密+稀疏)+精排聚类RRF倒数排序融合 / 互惠排名融合

你是如何解决幻觉问题的？检索阶段：混合召回 + RRF 倒数排序融合稀疏 BM25（关键词） + 稠密向量 Embedding (BGE‑M3) 两路召回BM25 抓字面关键词，向量抓语义，两路一起拿候选文档，避免漏资料RRF（倒数排序融合）粗排把两路检索结果按排名融合，选出最相关 top‑3 文档，过滤掉无关内容。之后做精排聚类，进一步筛掉相关性低的片段。

Documents的Embeddin

query

文档切分

将字符串向量化(Embedding)

本地文档

数据库检索

用户输入query

Documents

MySQL 检索命中标准答案后，会把高频问答 + 答案存入 Redis做热点缓存

存入Milvus数据库

阈值0.85存在

Container