1. 为什么要在本地搭一套 RAG 私有知识库很多人第一次听到 RAG 私有知识库会觉得这是大厂才玩的东西。其实拆开看就三件事一个能跑在本地的对话大模型、一个把文字转成向量的嵌入模型、一个能存向量并做相似度检索的库。Cherry Studio 负责把这三件事串成可视化界面Ollama 负责在本地把模型跑起来你只需要准备一台内存别太寒酸的电脑。我这次要解决的场景很具体手里有一堆 Excel 报表想让智能体读进去自动生成分析结论和图表。传统做法是每次手动打开表格、复制数据、丢给在线模型数据出了本地不说格式还老丢。用 Cherry Studio 接 Ollama 之后Excel 文件放在指定目录智能体通过 MCP 读取向量模型把历史文档切片入库问问题的时候先检索再回答整个过程数据不出本机。这套方案适合谁一是对数据隐私敏感、不想把业务表格传到公网的人二是想低成本试水 RAG、不想一上来就买云服务的开发者三是需要把零散 Excel 变成可问答知识库的运营或财务同学。核心检索词就三个Cherry Studio、Ollama、向量模型把这三个配通RAG 私有知识库就成了一半。需要说明的是本地 Ollama 跑对话模型对显存有要求7B 量化模型大概 6GB 显存起步嵌入模型小得多1GB 左右就够。如果你的机器实在吃力后面我会讲怎么把对话通道切到 TaoToken 的统一 API本地只留向量模型这样既保住检索的私密性又不用为了对话模型升级硬件。先理清数据流Excel 和文档 → 向量模型转成向量 → 存进 Cherry Studio 的知识库 → 提问时检索相关片段 → 对话模型基于片段生成回答 → 智能体再调 MCP 把结果画成图表。每一步都有对应的配置项下面逐个拆。2. Ollama 与向量模型的前置配置2.1 安装 Ollama 并拉取对话模型Ollama 的安装没什么坑官网下载对应系统安装包一路下一步。装完打开终端验证ollama --version有版本号输出就说明装好了。接着拉对话模型我选 qwen2.5:7b中文表现稳量化后体积可控ollama pull qwen2.5:7b拉取完成后本地起服务默认监听 11434 端口ollama serve如果你之前已经开过 Ollama它可能已经在后台跑了直接ollama list看有没有模型即可。这里有个细节Ollama 默认只监听 127.0.0.1Cherry Studio 在同一台机器上访问没问题不用改。2.2 拉取向量模型向量模型和对话模型是两码事。对话模型负责生成文字向量模型负责把文本转成高维向量用于相似度计算。RAG 检索准不准向量模型占很大权重。我选 bge-m3多语言、支持长文本中文检索效果好ollama pull bge-m3拉完确认一下ollama list应该能看到 qwen2.5:7b 和 bge-m3 两行。向量模型的维度是 1024这个数字后面配知识库时会用到不过 Cherry Studio 一般会自动识别。2.3 验证 Ollama 接口能通在配 Cherry Studio 之前先用 curl 确认 Ollama 的 API 正常curl http://localhost:11434/api/tags返回一个 JSON里面列出你拉过的模型就说明接口没问题。如果这一步报连接拒绝检查 Ollama 服务是不是没起来或者端口被占用。提示Ollama 的对话接口是/api/chat嵌入接口是/api/embeddingsCherry Studio 配置时会自动拼这些路径你只要填对 Base URL 就行。到这里前置就绪。对话模型和向量模型都在本地接下来装 Cherry Studio 把它们接起来。3. Cherry Studio 接入 Ollama 的可复制配置3.1 安装 Cherry Studio 并添加 Ollama 服务Cherry Studio 官网下载安装包装完打开。点左下角设置图标进入「模型服务」找到 Ollama 那一项。如果列表里没有点「添加」手动建一个类型选 Ollama。关键配置项如下配置项填写值说明API 类型Ollama决定请求路径格式Base URLhttp://localhost:11434Ollama 默认地址API Key留空本地 Ollama 不需要鉴权模型qwen2.5:7b、bge-m3手动添加或自动拉取填完点「检查」Cherry Studio 会去请求/api/tags能列出模型就说明通了。然后把 qwen2.5:7b 设为默认对话模型bge-m3 设为默认嵌入模型。3.2 用 settings 片段固化配置Cherry Studio 的配置存在本地如果你想备份或迁移可以看它的配置文件。模型服务这块的结构大致是这样路径在应用数据目录下的config.json{ providers: [ { id: ollama, type: ollama, apiHost: http://localhost:11434, apiKey: , models: [ { id: qwen2.5:7b, name: qwen2.5:7b }, { id: bge-m3, name: bge-m3 } ] } ] }这段不是让你直接改文件而是让你理解 Cherry Studio 背后存了什么。界面上的操作最终落到这个结构出问题时对照着看能快速定位是地址错了还是模型 ID 写错了。3.3 把对话通道切到 TaoToken 统一 API本地跑 7B 模型机器一般扛得住。但如果你想用更大的模型或者本地显存不够可以把对话模型这一路切到 TaoToken 的统一 API 通道向量模型继续留在本地检索的私密性不受影响。在 Cherry Studio 里新增一个模型服务类型选 OpenAI 兼容Base URL 填# TaoToken 统一 API 通道 base_url https://taotoken.net/api api_key 你的 TaoToken Key model 你需要的对话模型 ID三件套齐了Base URL、Key、Model ID。Key 在控制台创建地址是 https://taotoken.net/api-keys 创建后复制保存。模型 ID 可以在模型对话页确认地址 https://taotoken.net/models 。这样配置的好处是对话走统一通道向量和知识库还在本地两边各取所长。如果你后面要做长期编码或 Agent 任务可以考虑 Coding Plan地址 https://taotoken.net/coding-plan 按需选就行。注意切到统一通道后Cherry Studio 里要把默认对话模型改成新服务下的模型否则提问还是走本地 Ollama。配置这块最容易错的是 Base URL 结尾多写或少写斜杠。TaoToken 的地址是https://taotoken.net/api不要自己加/v1Cherry Studio 会按 OpenAI 兼容格式自动补路径。4. 搭建知识库并让智能体把 Excel 转成图表4.1 创建知识库并导入文档回到 Cherry Studio 主界面点「知识库」新建一个。嵌入模型选 bge-m3也就是刚才配的向量模型。分块大小先用默认的中文文档一般 500 到 800 字符一块比较合适太大检索不精准太小上下文断裂。导入文档支持 PDF、Word、TXT、Markdown。Excel 本身不适合直接当知识库文档因为它是结构化数据向量检索对表格不友好。Excel 的正确用法是走 MCP 让智能体读取而不是塞进向量库。这点要分清知识库放的是说明文档、制度、历史报告这类文本Excel 放的是待分析的数据源。导入后 Cherry Studio 会自动切片、调 bge-m3 生成向量、存进本地库。你可以在知识库界面看到切片数量和向量维度确认嵌入成功。4.2 配置 MCP 服务读取 ExcelExcel 转图表靠 MCP。在 Cherry Studio 设置里找到「MCP 服务器」添加以下配置{ mcpServers: { files: { command: npx, args: [-y, modelcontextprotocol/server-filesystem, D:/excel-data] }, excel: { command: npx, args: [--yes, negokaz/excel-mcp-server], env: { EXCEL_MCP_PAGING_CELLS_LIMIT: 4000 } }, quickchart-server: { command: npx, args: [-y, gongrzhe/quickchart-mcp-server] } } }三个服务分工明确files 负责读写指定目录excel 负责解析表格内容quickchart 负责把数据画成图表。D:/excel-data换成你自己的目录把待分析的 Excel 放进去。配完重启 Cherry Studio在每个服务后面打开开关。4.3 创建智能体并写提示词新建一个智能体绑定刚才的知识库开启上面三个 MCP 服务。系统提示词可以这样写你是一个数据分析助手。用户会指定 D:/excel-data 下的 Excel 文件。 请先用 excel 服务读取表格内容理解字段含义。 然后基于数据做汇总分析最后调用 quickchart 服务生成柱状图或折线图。 输出时先给结论再给图表链接最后附上关键数据。 如果知识库中有相关分析规范请遵循。提示词里明确三步读表、分析、画图。不写清楚的话模型可能只读不画或者画了图但没结论。4.4 验证 Excel 转图表的完整链路在对话框里输入读取 D:/excel-data/sales.xlsx按月份汇总销售额生成柱状图。正常的话你会看到智能体依次调用 excel 读取、分析数据、调 quickchart 返回图表。图表以图片链接形式呈现点开能看到柱状图。如果只返回文字没有图检查 quickchart 服务的开关是不是没打开。实测下来这套链路对字段名清晰的表格效果最好。如果 Excel 表头是合并单元格或者有多层表头excel 服务解析可能出错建议先把表头整理成单行。5. 本篇常见报错排查5.1 401 鉴权失败如果你把对话通道切到了 TaoToken报 401 基本是 Key 的问题。检查三处Key 有没有复制完整、有没有多余空格、Base URL 是不是https://taotoken.net/api。Key 在 https://taotoken.net/api-keys 重新生成一个对比测试。本地 Ollama 不会报 401因为它压根不校验 Key。5.2 local proxy failed这个报错通常出现在 Cherry Studio 请求本地 Ollama 时。原因一般是 Ollama 服务没起或者端口不是 11434。先curl http://localhost:11434/api/tags确认服务活着。如果活着还报错检查 Cherry Studio 的 Base URL 有没有写成https://而不是http://本地服务不走 https。5.3 reading choices 报错这个报错来自 OpenAI 兼容接口的响应解析。当你用 TaoToken 通道时如果模型 ID 填错返回结构里没有 choices 字段Cherry Studio 就会报 reading choices。解决办法是去 https://taotoken.net/models 核对准确的模型 ID别自己拼名字。另外确认 Base URL 没有多加/v1路径重复也会导致返回异常。5.4 OAuth 相关报错有些模型服务需要 OAuth 授权Cherry Studio 里如果选错了鉴权方式会报 OAuth 错误。本地 Ollama 和 TaoToken 的 API Key 方式都不走 OAuth遇到这个报错说明你选的服务类型不对。回到模型服务设置把类型改成 OpenAI 兼容或 Ollama重新填 Key。5.5 向量检索召回为空知识库导入后提问模型说没找到相关内容。先看知识库界面切片数量是不是 0是 0 说明嵌入没成功检查 bge-m3 有没有拉下来、Cherry Studio 里嵌入模型有没有选对。切片正常但召回为空可能是问题表述和文档用词差异太大试着换关键词或者把分块大小调小一点提高召回粒度。5.6 Excel MCP 读取超限EXCEL_MCP_PAGING_CELLS_LIMIT设的是 4000表格太大时会分页读取。如果报读取超限要么调大这个值要么在提示词里让智能体分批读取。表格行数上万的话建议先在 Excel 里做透视汇总再让智能体读汇总结果别直接怼原始明细。6. 把通道固定下来长期用配置跑通之后建议把常用模型固定成默认省得每次切换。Cherry Studio 支持给智能体绑定固定的模型和知识库建好之后直接开对话就行。如果你后面要频繁做编码或 Agent 类任务本地 7B 模型可能不够用这时候把对话通道切到 TaoToken 的 Coding Plan 会更顺地址 https://taotoken.net/coding-plan 。向量模型和知识库继续留本地检索的私密性和对话的能力两头都保住。接入文档在 https://taotoken.net/doc 里面有各语言的调用示例遇到路径或参数问题可以对照。模型对话页 https://taotoken.net/models 可以快速验证某个模型 ID 能不能用省得在 Cherry Studio 里反复试错。最后说个实用技巧Excel 转图表这条链路提示词里把「先结论、再图表、后数据」的顺序写死输出会稳定很多。我试过不写顺序模型有时候先甩一堆原始数据再画图读起来很累。另外 quickchart 生成的图表链接可以直接嵌到报告里配合知识库里的分析规范智能体产出的报表格式能保持一致。