BGE嵌入模型速通指南512到8192 token搭一条真的能用的RAG检索管线【免费下载链接】FlagEmbeddingRetrieval and Retrieval-augmented LLMs项目地址: https://gitcode.com/GitHub_Trending/fl/FlagEmbedding文档库一变大检索就开始答非所问查询词和文档里的用词对不上长文档又被 512 token 的输入上限拦腰截断。BGE嵌入模型BAAI General Embedding就是一套面向密集检索与检索增强生成RAG的工具箱把文本变成可比较的向量这一步的准头直接决定你 RAG 回答的上限。BGE 一句话定位谁做的做到什么水平BGE 由北京智源人工智能研究院BAAI开发解决的核心问题只有一个让 RAG 里找相关内容这一步更准。它最能打的成绩2023 年 8 月bge-large 系列在英文基准 MTEB 和中文基准 C-MTEB 上同时拿到第 1 名。向量检索是什么用图书馆编号打比方别把嵌入模型想成搜索引擎把它想成一个给每篇文档发坐标的图书管理员两段文本意思越像坐标就越近检索就是从库里找出离查询最近的几个邻居。想明白这一点你就理解了 BGE 为什么把活拆成两段干embedder双编码器负责粗筛一次编码、速度快reranker交叉编码器负责细筛精度更高。官方 README 里也明说cross-encoder 的排序精度比 bi-encoder 更高值得对 top-k 结果再过一遍。为什么值得用三个可以带走的数字100 语言BGE-M3 支持 100 多种常用语言跨语言检索是它的标配能力8192 token传统密集模型输入上限是 512 tokenBGE-M3 能一次读进8192 token整整 16 倍一整章技术文档不用切碎了喂一个模型三种检索BGE-M3 同时输出 dense、sparse类 BM25、multi-vectorColBERT三种结果做混合检索不用再单独部署一套词法匹配。怎么选 BGE 模型按场景对号入座中英文档、快速部署选bge-*-v1.5系列如bge-base-en-v1.5、bge-large-zh-v1.5512 token 足够覆盖大多数 FAQ 与知识库场景多语言 长文档 混合检索选BAAI/bge-m31024 维向量、8192 token查询侧也不再需要加指令top-k 结果里还有噪声在检索之后接重排序轻量快速的选bge-reranker-v2-m3求更准的选bge-reranker-large。官方推荐就是用它对 embedder 返回的 top-k 文档做二次排序。5 分钟跑起来安装与调用先克隆仓库并安装如果你还要微调装.[finetune]版本 git clone https://gitcode.com/GitHub_Trending/fl/FlagEmbedding cd FlagEmbedding pip install -e .再写几行 Python 就能给句子生成向量from FlagEmbedding import FlagAutoModel model FlagAutoModel.from_finetuned(BAAI/bge-base-en-v1.5, use_fp16True) emb model.encode([How to install BGE?, BGE installation tutorial])encode返回的形状是句数向量维度拿它做内积算相似度就可以搭一个最小可跑的向量检索了。落地建议两条官方可验证的实践RAG 管线 混合检索 重排序。BGE-M3 的 README 明确给出推荐组合用 BGE-M3 的 dense sparse 混合检索拿候选再用 reranker 精筛精度更高、泛化更强。查询侧别忘加指令。v1.5 系列模型要求给 query 前置指令如 Represent this sentence for searching relevant passages:仓库 README 的模型列表里每个模型都标好了现成指令BGE-M3 则免掉这一步。继续深入教程、微调与评测入口Tutorials/官方教程覆盖嵌入、Faiss 索引、评测到 RAG 的完整链路examples/finetune/embedder/ 和 examples/finetune/reranker/端到端微调脚本换成自己的数据即可训练专属模型examples/evaluation/MTEB、BEIR、MIRACL 等基准的评测入口research/LLaRA、LLM-Embedder、BGE-VL 等研究方向基础版跑通后从这里找升级路线。【免费下载链接】FlagEmbeddingRetrieval and Retrieval-augmented LLMs项目地址: https://gitcode.com/GitHub_Trending/fl/FlagEmbedding创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考