HyPE 假设性提示嵌入RAG 检索的问题对齐离线方案【免费下载链接】RAG_TechniquesThis repository showcases various advanced techniques for Retrieval-Augmented Generation (RAG) systems. Each technique has a detailed notebook tutorial.项目地址: https://gitcode.com/GitHub_Trending/ra/RAG_TechniquesHyPEHypothetical Prompt Embeddings假设性提示嵌入是一种 RAG检索增强生成检索优化技术索引阶段用大语言模型为每个文本块预生成一组假设性问题并入库在线查询只做一次向量相似度匹配。当查询与文档说着不同的语言场景很具体员工向知识库提问“年假有多少天”而制度原文写的是“员工每自然年度享有十个工作日带薪年休假”。前者是口语化短句后者是正式长句二者在嵌入空间中距离较远一旦查询向量与正确文本块的相似度低于无关块top-k 检索带回的就是错误段落下游生成随之引用错误内容或回答“不知道”。常规补救是在查询时改写表达或现场生成假设文档去匹配文档代价是每次请求都要多付计算。机制拆解索引期预计算查询期只查向量HyPE 的索引管线分三步。第一步分块后由大语言模型LLM生成假设问题。PDF 经 PyPDFLoader 加载、用 RecursiveCharacterTextSplitter 分块notebook 默认块长 1000 字符、重叠 200之后管线调用 LLM 为每个块生成若干覆盖其要点的代理问题这一步完全发生在离线的索引管线中。第二步每块多向量入库。每个假设问题经 OpenAI 嵌入模型单独向量化原文块按“每个问题一个向量”的规则被重复写入 FAISSFacebook AI Similarity Search索引——同一个块在向量库中占据多个位置即多向量表示块的语义覆盖不再只依赖原文措辞。第三步查询期只做向量相似度匹配。用户提问后系统计算查询向量在 FAISS 中对假设问题向量做一次最近邻检索去重后取回关联的原文块检索任务从“问题对文档”变成“问题对问题”。离线预计算预计算提示嵌入是 HyPE 与 HyDEHypothetical Document Embeddings这类实时查询扩展的分水岭后者在每次查询时现场生成假设文档查询路径上必然多一次 LLM 调用HyPE 把问题生成全部前移到索引阶段在线链路只剩嵌入与检索单次查询延迟与标准 RAG 一致。预计算与实时查询扩展的差异对比把 HyPE 看作实时查询扩展的替代方案它与常规 RAG 的差异集中在两个维度维度常规 RAG / 实时查询扩展HyDE 等HyPE计算时机查询时触发 LLM 调用改写查询或生成假设文档问题生成集中在索引期一次完成查询期只做嵌入与向量检索查询对齐方式每次请求实时构造改写句或假设文档去对齐文档每块预置一组问题查询与问题直接匹配据项目评估的检索指标据项目评估HyPE 在多个数据集上相对基线 RAG 的检索精度最高提升42 个百分点声明召回率claim recall最高提升45 个百分点由于查询路径未新增 LLM 调用单次查询的额外开销接近于零检索速度与标准向量检索相当。落地要点分块、问题数量与向量库选型获取仓库并运行教程git clone https://gitcode.com/GitHub_Trending/ra/RAG_Techniques完整实现见 HyPE 完整实现 Notebook可直接运行的脚本版为 all_rag_techniques_runnable_scripts/HyPE_Hypothetical_Prompt_Embeddings.py。分块策略多向量表示会稀释单块措辞偏差HyPE 允许更大的块notebook 默认块长 1000、重叠 200可按文档信息密度进一步放大。每块问题数量先用抽样检查 LLM 对块要点的覆盖度信息密度高的块多生成或分批生成问题再去重避免关键事实漏配。向量库选型本地实验用 FAISSnotebook 采用 IndexFlatL2 平铺索引即可语料上规模后可迁移 Milvus 或 Zilliz Cloud 等托管向量库管理集合与接入端点。适用场景适合对检索精度要求高、且需处理大规模语料的场景把一次性的问题生成成本付在索引期换取查询路径无额外 LLM 调用的问题对齐检索。【免费下载链接】RAG_TechniquesThis repository showcases various advanced techniques for Retrieval-Augmented Generation (RAG) systems. Each technique has a detailed notebook tutorial.项目地址: https://gitcode.com/GitHub_Trending/ra/RAG_Techniques创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考