新闻详情

新闻详情

首页 / 资讯中心 / 详情

RecursiveCharacterTextSplitter 的分割原理

发布时间:2026/9/29 7:29:43来源:尧图网络
RecursiveCharacterTextSplitter 的分割原理
RecursiveCharacterTextSplitter 的分割原理核心就是“按语义层级从大到小依次尝试切分直到块足够小”。一、优先保留大语义单元它预设了一套分隔符的优先级列表默认是[\n\n, \n, , ]。\n\n(段落)最优先尝试因为段落是语义最完整的单元。\n(换行)段落切不开时退一步按行切。 (空格)行也切不开时按单词切。(空字符)最后兜底直接按字符硬切保证一定能切开。二、具体分割流程递归过程整个分割是一个递归的过程尝试第一级分隔符用列表里第一个分隔符如\n\n把文本切成若干段。检查每段大小看切出来的每一段是否小于设定的chunk_size。递归处理超长段如果某一段还是太大就针对这一段使用剩下的分隔符列表去掉\n\n重复第 1 步用\n去切它以此类推。合并成块把最终切出来的、足够小的片段按顺序重新合并直到接近chunk_size形成一个最终的块。三、举例假设chunk_size10文本是Learning new skills is essential分隔符是[\n\n, \n, , ]。找不到\n\n和\n于是用空格 切分。切成[Learning, new, skills, is, essential]。开始合并Learning(8字符) → 先放进去。看下一个new(3字符)8311 10放不下所以第一个块就是Learning。开始新块放入new(3字符)。看下一个skills(6字符)369 ≤ 10可以放下于是合并成new skills。继续看is(2字符)9211 10放不下所以第二个块就是new skills。以此类推。最终结果就是[Learning, new skills, is, essential]。为什么要这么设计保持语义完整尽可能让一个完整的段落或句子留在一个块里避免“半句话”被切到另一个块影响 RAG 的检索质量。保证一定能切万一文本里没有任何标点最后还有兜底强制按字符切开确保不会出错。提醒默认分隔符是为英文设计的直接用于中文可能会把词语切碎。建议在separators列表中加入中文标点例如[\n\n, \n, 。, , , , , , ]。
网站建设高端定制企业官网
RELATED

相关资讯

更多精彩内容,欢迎继续阅读

较早相关资讯

最新相关资讯

计算机网络第5版课后答案:从协议栈到TCP机制的高效复习指南 2026/9/29 13:02:14

计算机网络第5版课后答案:从协议栈到TCP机制的高效复习指南

简介:这份《计算机网络(第5版)》课后答案整理自严伟、潘爱民译本,服务对象是正在系统学习计算机网络的高校学生、考研复习者及自学者,能够帮助读者对照教材习题检验理解、排查知识盲点。资源包十分精简,仅含…

阅读更多 →
中国AI又爆火了,全球第一款通用AI智能体诞生:用TaoToken统一Key接入Manus类智能体工作流 2026/9/29 13:02:13

中国AI又爆火了,全球第一款通用AI智能体诞生:用TaoToken统一Key接入Manus类智能体工作流

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

阅读更多 →
批量 SHAKE 哈希提速实战:CANN Crypto Shake128/256 算子调用教程 2026/9/29 13:01:45

批量 SHAKE 哈希提速实战:CANN Crypto Shake128/256 算子调用教程

批量 SHAKE 哈希提速实战:CANN Crypto Shake128/256 算子调用教程 【免费下载链接】crypto crypto SIG 是密码学兴趣小组,围绕昇腾 NPU 打造高性能密码软件库,提供丰富的密码算子与算法实现 项目地址: https://gitcode.com/cann/crypto …

阅读更多 →
不换权重也能将TTFT降低77%:LLM推理优化全拆解 2026/9/29 13:01:45

不换权重也能将TTFT降低77%:LLM推理优化全拆解

今年开年我们内部群里贴了一条评测记录:同一份权重,一行代码没改,首字延迟(TTFT)从 2.3 秒干到 0.53 秒,降幅 77%。群里第一反应是“又拿假数据骗我”,但顺着配置和日志翻完,大家都沉…

阅读更多 →
离线安装 Windows Server 2019 中文语言包:DISM 命令与完整步骤 2026/9/29 13:01:45

离线安装 Windows Server 2019 中文语言包:DISM 命令与完整步骤

接手过一台纯英文环境的 Windows Server 2019,第一件事就是想把它改成中文界面,结果服务器所在网络受限,连 Windows Update 都连不通,在线装语言包这条路直接被堵死。后来我把中文语言包下载好,在完全离线的状态下装完…

阅读更多 →
机器学习加速超材料设计:性能表征与逆向工程实战 2026/9/29 13:01:45

机器学习加速超材料设计:性能表征与逆向工程实战

简介:机器学习超材料性能表征与逆向设计研究文档,面向材料科学、电磁超材料与人工智能交叉领域的学习者和研究者,系统梳理如何借助机器学习算法解决超材料结构设计与性能优化难题。超材料在特定波长下可实现负折射率、异常传播、完美成像等独…

阅读更多 →

今日资讯

本周资讯

本月资讯

看完文章仍有疑问?

联系尧图顾问,获取一对一建站咨询

立即免费咨询 📞 400-888-8888
📞 ✉