跳到正文
维小灿! / douyin· 维小灿!·发布时间:评分31
图文

RAG 检索系统的三层拆解:怎么找、谁来做、怎么跑得快

刚把 RAG 检索这块重新拆了一遍,发现它其实就三层。最上面一层管“怎么找”。向量检索看意思近不近,关键词检索盯字面。俩分数没法直接加,得用 RRF 按排名重新排。要是嫌不准,再上个重排模型精修一下。中间一层管“谁来做”。向量数据库不光存向

内容导读

维小灿将 RAG 的检索部分拆成检索策略、组件职责和运行性能三层。策略上,向量检索匹配语义、关键词检索匹配字面,两路分数不能直接相加,用 RRF 按排名融合结果,必要时再用重排模型细排。组件上,向量数据库负责保存向量、原文与来源,并建立索引、执行搜索;性能上,用 HNSW 和图结构减少向量比较,或用 PQ 压缩向量,节省内存和计算。

继续看关键要点
  • 作者提醒,使用 Faiss 承担向量搜索时,还需要另外配关键词检索组件,才能覆盖前述两种检索方式。

来源:维小灿! / douyin · douyin.com