新闻详情

新闻详情

首页 / 资讯中心 / 详情

RAG 分块策略实战:固定、递归与语义分块的选型与评测

发布时间:2026/10/1 8:44:58来源:尧图网络
RAG 分块策略实战:固定、递归与语义分块的选型与评测
RAG 分块策略实战:固定、递归与语义分块的选型与评测一、从一次"答非所问"说起去年我接手过一个企业知识库问答项目,语料是三百多份产品手册和售后工单,总计约四百万字。向量库用的是当时很流行的组合:bge-large-zh 做嵌入,Milvus 做存储,检索 top-5 拼接后丢给大模型。上线第一周,用户提了一个非常朴素的问题:"保修期内人为损坏能不能免费维修?“系统的回答却在大谈"设备安装环境要求"和"开箱验收流程”。排查了半天,问题不在嵌入模型,也不在提示词,而是出在最上游、最不起眼的一步:分块。当时的分块逻辑是教科书式的chunk_size=512, overlap=50,按字符硬切。而那份手册的"售后服务条款"章节里,前 400 字在讲服务网点分布,真正的"人为损坏不在免费保修范围"只占第 500 到 560 个字符——正好被切开,前半句留在第 3 块,后半句跑到第 4 块。检索时第 3 块命中了"保修"这个关键词,向量相似度排在第一,于是模型拿到的是半截条款,自然答得驴唇不对马嘴。这件事让我意识到一个常被忽略的事实:在 RAG 系统里,分块是唯一一个"上游做错、下游无法补救"的环节。嵌入模型可以换,重排序可以加,提示词可以调,但如果条款本身被切成了两半,任何下游手段都拼不回来。这篇文章把分块这件事讲清楚:三种策略的原理与边界、代码实现,以及如何用数据而非直觉判断哪个策略更适合你的语料。二、分块为什么决定 RAG 的性能上限要理解分块的重要性,得先看清楚检索这一步到底在做什么。RAG 的检索本质是一个语义匹配问题:问题编码成向量qqq,每个片段编码成cic_ici​,再按余弦相似度排序:sim(q,ci)=E(q)⋅E(ci)∥E(q)∥ ∥E(ci)∥ \text{sim}(q, c_i) = \frac{E(q) \cdot E(c_i)}{\|E(q)\| \, \|E(c_i)\|}sim(q,ci​)=∥E(q)∥∥E(ci​)∥E(q)⋅E(ci​)​这里的关键在于嵌入模型的工作方式。绝大多数中文嵌入模型(bge、m3e、text2vec 系列)把输入截断在 512 个 token 左右,输出一个定长向量——无论片段是 50 字还是 2000 字,都被压成同一个 1024 维向量。这意味着片段内部包含的主题越多,这个向量就越像多个主题向量的"平均"。用一个简化模型说明。假设片段ccc包含mmm个主题,嵌入近似为主题向量的加权和E(c)≈∑i=1mwiE(ti)E(c) \approx \sum_{i=1}^{m} w_i E(t_i)E(c)≈∑i=1m​wi​E(ti​),∑wi=1\sum w_i = 1∑wi​=1。查询只关心主题tjt_jtj​时:sim(q,c)≈wj⋅cos⁡(E(q),E(tj)) \text{sim}(q, c) \approx w_j \cdot \cos\big(E(q), E(t_j)\big)sim(q,c)≈wj​⋅cos(E(q),
网站建设高端定制企业官网
RELATED

相关资讯

更多精彩内容,欢迎继续阅读

较早相关资讯

最新相关资讯

Ice 菜单栏管理工具完整指南:三步搞定 macOS 图标堆挤与刘海遮挡 2026/10/1 9:38:09

Ice 菜单栏管理工具完整指南:三步搞定 macOS 图标堆挤与刘海遮挡

Ice 菜单栏管理工具完整指南:三步搞定 macOS 图标堆挤与刘海遮挡 【免费下载链接】Ice Powerful menu bar manager for macOS 项目地址: https://gitcode.com/GitHub_Trending/ice/Ice Ice 是一款 macOS 菜单栏管理工具(menu bar manager&#xf…

阅读更多 →
type-challenges 进阶实战:用模板字面量类型实现 Integers Comparator(Extreme 难度全解析) 2026/10/1 9:38:09

type-challenges 进阶实战:用模板字面量类型实现 Integers Comparator(Extreme 难度全解析)

示例工程 【免费下载链接】type-challenges Collection of TypeScript type challenges with online judge 项目地址: https://gitcode.com/GitHub_Trending/ty/type-challenges 点击查看 免费下载 导读 本篇文章围绕 type-challenges 仓库中的 Extreme 难度题目 …

阅读更多 →
mdBook 渲染器(Backend)配置完全指南:从输出表、自定义命令到 HTML 渲染器的全部选项 2026/10/1 9:37:56

mdBook 渲染器(Backend)配置完全指南:从输出表、自定义命令到 HTML 渲染器的全部选项

开发工具文档 【免费下载链接】mdBook Create book from markdown files. Like Gitbook but implemented in Rust 项目地址: https://gitcode.com/gh_mirrors/md/mdBook 点击查看 免费下载 mdBook 的渲染器(Renderers,也称 backends&#xf…

阅读更多 →
响应时间性能排查指南:从网站接口到传感器,一套方法论全讲透 2026/10/1 9:37:49

响应时间性能排查指南:从网站接口到传感器,一套方法论全讲透

去年秋天我接到一个线上工单,客户说后台管理页面打开要十几秒,有时候直接转圈圈,我在办公室隔着屏幕都能感受到那边的焦灼。打开浏览器F12一测,接口的TTFB都快8秒了。说实话,到这一步基本不用猜了,性能指标…

阅读更多 →
最完整《一人企业方法论》V2.1资源库:从0到1创业工具包 2026/10/1 9:37:49

最完整《一人企业方法论》V2.1资源库:从0到1创业工具包

最完整《一人企业方法论》V2.1资源库:从0到1创业工具包 你还在为一人企业启动缺方法、少资源发愁?本文汇总《一人企业方法论》第二版全部核心资料,包含4大模块、12个实战工具和20案例图表,帮你从副业起步实现月入10万。读完你将获…

阅读更多 →
从副业到财务自由:《一人企业方法论》V2.1官方阅读指南 2026/10/1 9:37:49

从副业到财务自由:《一人企业方法论》V2.1官方阅读指南

从副业到财务自由:《一人企业方法论》V2.1官方阅读指南 你是否还在为副业收入不稳定而焦虑?是否想摆脱"用时间换钱"的困境?本文将带你系统掌握《一人企业方法论》V2.1的核心框架与官方阅读路径,只需15分钟,…

阅读更多 →

今日资讯

本周资讯

本月资讯

看完文章仍有疑问?

联系尧图顾问,获取一对一建站咨询

立即免费咨询 📞 400-888-8888
📞 ✉