面试题：你们向量库是怎么设计的？最细粒度(代码级别的)
优点：容量大、持久化、数据永久保存、成本低；缺点：磁盘 IO 读写慢，大量并发查询耗时高，频繁查表会拖慢系统 TPS。
高速：内存读写，毫秒级响应；易丢失：内存断电数据清空，只做缓存，不做持久主库；过期淘汰：可设置缓存过期时间，自动清理冷门问答，不占用内存。
第一次查询未知问题，反应较慢 第二次查询 已知问题 反应迅速
BM25
FAQ高频常见问答库
RAG系统检索
加载读取
注释：向量化 --> BGE-M3(稠密1024 + 稀疏250000)
如果本地没有查询结果大模型兜底文本：字符串
Mysql数据库检索
result
阈值0.85 不存在
数据持久化在硬盘（磁盘），断电数据不会丢失。
注释：RRF：TOP-3粗排(索引，稠密+稀疏)+精排聚类RRF倒数排序融合 / 互惠排名融合
你是如何解决幻觉问题的？检索阶段：混合召回 + RRF 倒数排序融合稀疏 BM25（关键词） + 稠密向量 Embedding (BGE‑M3) 两路召回BM25 抓字面关键词，向量抓语义，两路一起拿候选文档，避免漏资料RRF（倒数排序融合）粗排把两路检索结果按排名融合，选出最相关 top‑3 文档，过滤掉无关内容。之后做精排聚类，进一步筛掉相关性低的片段。
Documents的Embeddin
query
文档切分
将字符串向量化(Embedding)
本地文档
数据库检索
用户输入query
Documents
MySQL 检索命中标准答案后，会把高频问答 + 答案存入 Redis做热点缓存
存入Milvus数据库
阈值0.85存在
Container
ChatOpenai
得到top-K相关的doc
LLM
直接返回对应的答案
query+doc拼接
Redis存储在内存
langchain对模型调用进行了封装，使用起来更简单
