我最近把家里那台吃灰多年的旧主机重新翻出来折腾了一台离线知识服务器。这东西干三件事跑起维基百科离线镜像、把可汗学院课程资料完整落到本地、再挂上一个本地部署的AI助手。现在整个局域网里的手机、平板、电脑随时都能直接访问断网环境下照常查资料、看课程、做问答。整套系统稳定运行了两个多月实用程度远超预期。为什么要搞这么一套东西先交代一下背景。我在家和工作室两头跑有些环境的网络状况确实一言难尽查资料经常被各种因素打断。更关键的是我想给孩子搭一个干净、可控的学习环境——不依赖在线平台没有弹窗、没有推荐流干扰只有能查到的内容本身。本地AI助手还有一个额外的好处隐私不出局域网问什么都行数据不会经过第三方服务器。这篇文章把这趟折腾的完整过程、踩过的坑、调优过的参数都记录下来给想做同样事情的朋友一条能直接照着走的路。1. 项目需求拆解与整体架构设计1.1 三个核心组件各自的定位这套系统里三个组成部分角色分工完全不同很多人一开始容易混在一起觉得不就是个离线搜索引擎吗其实差别很大。维基百科离线镜像解决的是查词条、看背景资料这类百科型需求。它内容结构固定、词条之间互相链接适合快速浏览、交叉引用、按分类翻阅本质上就是一个大型离线网站。可汗学院离线内容解决的是系统性学习的需求。它有完整的课程体系按年级和学科组织有教学视频、有练习题目、有知识点衔接不是零散的知识点而是闭环的学习路径。本地AI助手解决的是问答交互的需求——你问一句它答一句适合灵活提问、概念解释、写代码片段、头脑风暴这类场景答案不固定每次对话都可能不同。三者放在一起基本覆盖了一个人在断网环境下学习、工作、查证的全部高频场景。查背景资料翻维基系统学习走可汗课程遇到开放性问题直接问本地AI助手。1.2 组件选型与架构取舍思路选型阶段我给自己定了一条铁律能用成熟开源方案就绝不自己造轮子。这条原则在后面帮我省了大量时间。维基百科离线这块没有太多可选项Kiwix是这个领域的绝对标准。它提供zim格式的离线包官方会定期发布各语言、各主题的zim文件配合Kiwix-serve就能在本地起一个网页服务。中文维基、英文维基、维基词典、维基文库都有对应的zim包按需下载就行。可汗学院离线则有两个路线一是官方维护的KA Lite项目它本身就是为离线部署设计的在线学习平台把视频、字幕、练习全部缓存到本地二是直接下载课程离线包用内容管理系统挂载。我选了KA Lite因为它自带学习进度追踪功能孩子看到进度条会有成就感这个细节对学习习惯养成挺重要。AI助手部分模型推理我用Ollama做运行时前端用开源聊天界面数据层再叠加一层精简的检索增强让本地维基的内容能进入模型上下文。1.3 离线环境下的架构约束这套系统最大的约束就是离线二字。离线意味着不能依赖任何外部API所有数据必须在本地闭环同时离线也意味着局域网内多终端并发是主要使用场景要处理好缓存和并发。基于这两个约束我做了几个关键取舍。硬件用旧主机而非新购初始成本几乎为零性能不够再升级也不心疼。存储上优先保证容量和可靠性视频资料和zim索引都比较占空间我用两块机械硬盘组RAID 1做数据盘系统单独放一块小容量固态读写性能和安全性兼顾。服务通过局域网IP直接访问不搞域名、不整证书省去一堆运维负担远程访问暂时不做万一要做也必须走加密隧道方案默认不暴露公网。数据流向其实很简单手机、平板、电脑通过局域网访问这台主机主机分别监听80端口提供维基和可汗学院的网页服务监听11434端口跑模型推理API另外用443端口反代到聊天前端。所有服务用systemd管理开机自启进程异常退出时自动拉起。2. 硬件配置评估与基础系统部署2.1 硬件选配与存储容量测算先说我这台机器的配置给打算照做的朋友一个参考基准CPU是i5-4590四核四线程2014年的中端产品放到现在很一般但这套系统里它完全够用。内存加到16GB系统盘用240GB的SATA SSD另加两块2TB机械硬盘组RAID 1存放所有内容数据。显卡是一块旧GTX 1050 Ti4GB显存跑大模型比较吃力但跑7B参数的量化模型勉强能接受。如果你手头设备更旧也完全不用慌。维基百科浏览和可汗视频播放对硬件要求很低木Celeron级别的CPU加8GB内存都能流畅跑。真正吃配置的只有AI模型推理这一步建议至少16GB内存有独立显卡更好没有显卡用CPU纯跑也能用只是回复速度会慢不少。容量方面我实测数据给你参考中文维基百科zim包约20GB英文维基如果只选正文不带图片约50GB带完整图片的话能到100GB以上。可汗学院离线课程打包后约50GB出头大头是视频文件。系统和模型文件占掉约15GB。所以全部算下来准备200GB空间是舒适起步线1TB以上更宽裕毕竟后续还想往里塞维基词典、维基文库甚至Stack Exchange语料。2.2 操作系统安装与磁盘布局规划系统我装的Ubuntu Server 22.04 LTS没有装桌面环境纯命令行。选它的原因很朴素Docker支持好、驱动省心、网上资料最多。你用Debian 12或者Rocky Linux 9也完全没问题核心操作大同小异。安装时有两个细节值得注意。第一系统盘和数据盘要分开系统装在SSD上zim文件、可汗视频、模型权重全部放机械盘这样即使系统盘崩了数据还在。第二机械盘组RAID 1要在安装系统时就规划好用mdadm软RAID即可比硬件RAID卡更灵活换机器也能直接迁移。磁盘布局最终是这样的/dev/sda是SSD做系统盘/dev/sdb和/dev/sdc两块机械盘组成/dev/md0挂载到/data。所有应用数据都放在/data下面分/data/zim、/data/khan、/data/models、/data/backup四个目录职责清晰备份也方便。2.3 基础环境配置系统装完后我做几件基础配置。第一设置静态IP编辑/etc/netplan/下的yaml文件把局域网IP固定下来避免重启后自动获取地址变化导致所有客户端失联。第二开启SSH服务后续所有管理操作都远程完成主机放到角落不接显示器。第三创建普通用户并加入sudo组禁用root直接登录安全习惯从第一步就养成。Docker和Docker Compose 通过官方脚本安装。为什么用Docker因为Kiwix-serve、KA Lite这些工具运行时有比较多的依赖容器化之后升级、迁移、备份全都方便一条docker compose up -d全部搞定出问题也能快速回滚。3. 维基百科离线镜像部署实战3.1 获取zim文件与校验维基百科离线部署第一件事是下载zim文件。Kiwix官方提供了下载入口我用了它的library接口直接通过命令行列出可用文件并下载比网页点击方便太多。下载时有几个坑要提前说。第一中文维基zim包和中文简体是两种不同文件前者是全部中文页面包含繁体内容体积更大后者经过转换只保留简体体积小一些。给孩子用的环境我选了全部中文版因为繁体条目本身也是学习素材。第二下载时务必把zsync工具装上它能断点续传和增量校验官方zim仓库支持这种方式实测比直接HTTP下载稳得多。我下载20GB的中文维基文件中途断网两次靠zsync恢复了两次最终校验无损坏。下载完成后用ls -lh确认文件大小再对一下SHA-256哈希。官网提供了校验值这一步千万别省文件损坏安装后各种诡异报错会让人崩溃。3.2 Kiwix-serve容器部署与参数调优zim文件就位后部署用的是Kiwix官方容器镜像。我写了一个简单的docker-compose文件核心配置如下version: 3.8 services: kiwix: image: ghcr.io/kiwix/kiwix-serve:latest container_name: kiwix volumes: - /data/zim:/data:ro ports: - 80:80 command: --port80 --library /data/library.xml restart: unless-stopped--library参数很有意思它让Kiwix读取一个library.xml索引文件把目录下所有zim文件统一管理起来访问者在一个页面上就能搜索和切换不同语料库不用知道具体文件路径。我把中文维基、英文维基精选、维基词典、维基文库都登记进library一次部署多种资料全搞定。Kiwix-serve默认的首页搜索用的是内置索引检索体验不错。比较值得调的是缓存参数如果把--cache参数设成512M访问热门页面时响应明显更快。另外官方镜像支持--urlRootPath如果以后要接统一的Nginx网关可以设置子路径访问不过我目前是直接占用了80端口。3.3 维基文库与维基词典的附加集成只放维基百科其实有点浪费这套架构Kiwix支持的语料库远不止百科一个。我在部署时顺手把维基文库和维基词典也加了进来。维基文库解决了找经典文本的需求比如唐诗三百首、古文观止这类公版作品全都能离线查阅。维基词典则偏语言学习查词源、查释义很方便。这三个库通过library.xml整合后页面上会有标签切换搜索默认覆盖全部语料对孩子的使用场景来说已经等于一个迷你版的全套知识入口。4. 可汗学院课程内容离线化4.1 KA Lite平台部署与课程同步可汗学院离线化最成熟的方案是KA Lite它专门为低带宽和离线区域设计支持把课程内容和练习全部缓存到本地。部署同样走Docker官方镜像虽然更新频率不高但胜在稳定。安装完成后进入KA Lite管理后台会有一个专门的同步课程选项。这里要留意的是它同步的是可汗学院的开放课程内容目前以数学和科学类为主分学年、分学科组织。我第一次粗心地勾选了所有年级结果同步到一半空间告急——因为每个年级都有大量视频和配套练习全量同步会非常庞大。后来调整策略只同步了小学到初中阶段的核心数学课程以及基础物理和化学的内容总数据量控制在50GB左右。KA Lite还有一个很实用的功能可以控制每小时的同步流量上限。这个特性对带宽有限的环境特别友好但我是离线使用同步完成后就把网络断开完全不依赖在线再同步。4.2 视频播放优化与字幕配置KA Lite的视频采用HTML5播放器离线环境下局域网内播放体验尚可但有一个问题被我忽视了默认的视频清晰度版本包含多个档位存储占用大。实际使用时8英寸小屏幕上看1080P是纯浪费。我在后台把视频质量统一调整为720P文件总量缩小了约三分之一视觉上几乎没有差别。字幕方面KA Lite默认携带英文字幕如果想加中文字幕需要额外加载字幕文件并通过播放器的字幕轨道切换。我给核心课程手动补了一批中文字幕这个工作量不算小但孩子看的时候理解效率提升明显。家里有双语学习需求的朋友这块值得投入。4.3 学习进度追踪与多账号管理KA Lite相比单纯下载一堆视频的最大优势就是学习管理系统。它支持创建多个用户账号每个账号独立记录学习进度、练习正确率和视频观看时长。我给家里两个小孩各建了一个账号他们的学习记录互不干扰我能在后台直接看到各自的学习轨迹。后台的报告模块能按时间维度查看活跃度、掌握度、练习表现这些数据对调整学习计划很有帮助。比如我发现二儿子在四年级分数运算单元的练习正确率偏低就让他回头重新过一遍之前的视频。这个闭环是传统离线视频库做不到的也是我坚持保留KA Lite而不是直接拷视频文件的核心原因。5. 本地AI助手部署与知识检索增强5.1 模型选型和推理运行时安装AI助手部分是整套系统里最折腾、也最有意思的一环。模型推理运行时我选了Ollama因为它支持模型多、命令简单、GPU和CPU两种模式都能跑对小型服务器非常友好。安装依然走Dockerservices: ollama: image: ollama/ollama:latest container_name: ollama volumes: - /data/models:/root/.ollama ports: - 11434:11434 restart: unless-stopped模型选型上在4GB显存的GTX 1050 Ti上能跑的模型有Qwen2.5 7B的量化版本也有Llama 3.2 3B这类更轻量的选择。我实测下来Qwen2.5 7B的int4量化版在CPUGPU混合推理模式下回答质量明显好于3B模型但生成速度大概每秒钟8到12个token一句完整回答要等30秒左右。对于不着急的求知性提问这个速度其实可以接受。如果想更快3B模型能达到每秒25个token以上响应流畅得多代价是回答深度会弱一些。最终我给两台设备分别做好配置在这台4GB显存机器上主模型用Qwen2.5 7B int4同时拉了一个3B模型做快速问答用户可以在聊天页面切换模型。5.2 聊天界面接入与系统提示词模型只提供API还不够要给非技术用户一个可用的界面。我用了开源的Open WebUI它支持多用户登录、会话历史、参数设置界面清爽跟主流聊天产品体验接近。Open WebUI接入Ollama很简单设置里填一下Ollama的API地址即可具体配置如下services: open-webui: image: ghcr.io/open-webui/open-webui:main container_name: open-webui volumes: - /data/webui:/app/backend/data ports: - 443:8080 environment: - OLLAMA_BASE_URLhttp://ollama:11434 restart: unless-stopped系统提示词这块我调试了蛮久。由于面向的是家庭场景我把默认提示词设成了你是一个知识渊博但不失温和的学习助手回答要简洁、准确、多用例子解释避免长篇大论。在模型层面这个提示词能显著影响回答风格经过几轮调整现在的输出长度和语气都比较适合孩子阅读。5.3 检索增强把本地资料喂给AI这一步是这个项目真正的点睛之笔。默认情况下本地AI模型的知识截止到训练数据它并不知道我已经下载的维基百科和可汗学院里面有哪些内容也没法回答最近的新内容。所以我额外做了一层极简的检索增强RAG。流程不复杂先把维基百科和可汗学院的文本内容做切块用嵌入模型生成向量存入本地的向量数据库。用户提问时系统先从向量库里检索出最相关的内容片段把这些片段连同问题一起塞给大模型模型基于这些材料组织回答。整个过程中用户无感知但回答的准确性和知识新鲜度明显提升。由于机器性能有限嵌入模型我选了轻量级的bge-small-zh向量库用Chroma总数据量大概几万条文本块检索延迟在200毫秒以内基本无感。实现代码不复杂核心调用就三步查询词向量化、向量库相似度检索、拼接上下文后调用Ollama API。这个架构极简但够用如果后面数据量翻倍换一个更重的向量库也很快。6. 网络控制、备份策略与日常维护6.1 防火墙配置与访问白名单离线服务器虽然不像公网服务器那样面临海量攻击但局域网内安全仍然不能忽视。Ubuntu自带的ufw防火墙我第一时间打开只放行SSH、HTTP、HTTPS、Ollama四个端口其余全部拒绝。这样即使局域网里有其他设备被入侵横向扩散时也会受到限制。同时我在路由器上做了MAC地址白名单只有登记过的设备才能访问这台服务器访客网络和IoT设备一律隔离。这个设置对家庭环境特别适用既能保护数据又不会干扰正常上网。如果你想从外网远程访问这套系统务必走加密隧道方式同时把Ollama这类API服务严格绑定在回环地址后面只允许通过经过认证的网关访问绝不能直接把API裸奔到公网。这个安全意识要当成本能来培养。6.2 数据备份恢复流程离线服务器最怕的是硬盘损坏。虽然数据盘是RAID 1理论上坏一块盘不影响运行但备份不能只依赖RAID。我的备份策略是三层第一层是RAID 1应对单盘故障第二层是定期把zim文件和模型权重导出到一个8TB的USB移动硬盘每两周一做第三层是关键配置和docker-compose文件同步到另一台电脑上方便整个重建。备份命令就是一个rsync脚本配合cron定时任务自动执行核心内容如下#!/bin/bash rsync -av --delete /data/zim/ /mnt/usbbackup/zim/ rsync -av --delete /data/models/ /mnt/usbbackup/models/ rsync -av /data/webui/ /mnt/usbbackup/webui/ logger Backup completed at $(date)定时任务配置为凌晨3点执行这个时间段网络和磁盘负载都低不影响白天使用。前两次执行发现USB外接硬盘在长时间工作后会休眠导致备份跳过但没有报错后来在rsync命令前加了一步检查挂载点是否存在脚本里再补一个mount操作把硬盘唤醒问题才彻底解决。6.3 功耗控制与资源监控一直开机运行的服务器功耗也是隐性成本。我这台旧主机待机功耗大约25W运行时35到45W之间一个月电费成本其实还好但还是能优化。系统层面我把CPU调成节能模式用cpupower把governor设成powersave空闲时自动降频。BIOS里也开启了远程唤醒平时不用时可以关机需要时通过局域网开机省电不少。资源监控我用了一个极简方案在主机上跑htop和iftop两个命令行工具随机看的时候比较直观。另外写了一个cron脚本检查磁盘空间超过80%自动在SSH登录时给警告避免出现磁盘写满导致服务崩溃的情况。监控这块不求花哨能及时发现问题就够了。7. 常见问题排查与调优记录7.1 部署过程中遇到的典型问题表格式速查都是我真实踩过坑问题现象原因分析解决办法Kiwix页面打开非常慢机械盘随机读性能差缓存未生效zim文件放到SSD或者调整--cache参数到1GKA Lite视频播放卡顿局域网内多设备同时拉流播放器缓冲小限制并发数把视频码率降到720P开启播放器预缓存AI回复速度不可接受模型尺寸过大GPU显存不够导致CPU兜底太多换int4量化版本或切换到3B小模型客户端无法访问服务器防火墙规则遗漏了端口或网段配置错误检查ufw状态和路由设置ping排查链路Open WebUI登录后没模型可选Ollama服务地址配置错误确认OLLAMA_BASE_URL环境变量指向正确容器名同步可汗课程时进度卡住源站限速或断流断网环境建议直接下载离线包再导入工具会做完整性检查7.2 搜索和索引优化实战Kiwix的全文搜索体验是部署后最需要调的一个点。默认配置下搜索中文条约时偶尔会漏掉一些相关词条这跟Kiwix对中文词法分词的适配有关。我尝试调整了Kiwix的索引分词设置让它对中文按二元分词方式处理搜索结果明显更精准。具体来说搜索光合作用时旧的索引可能返回一堆包含光或合的无关页面调整后返回的条目基本都能命中主题。另外如果经常要搜索大量英文内容建议下载对应的英文zim包Kiwix对英文搜索的优化比中文成熟得多搜索时关键词加引号、用布尔运算符这些语法Kiwix都是支持的熟练后检索效率极高。7.3 体验层面的细节优化整套系统运行一个多月后我开始折腾体验细节有几个改进很值得分享。第一Kiwix首页被我改成了一个自定义的静态页面把维基、可汗学院、AI助手三个入口做成大字卡片孩子一眼就能看懂怎么点。第二为平板端的阅读体验做了一次UI调整Kiwix自带响应式布局但字体偏小我在设置里把默认字号调大了一号。第三KA Lite的视频播放页我调整了自动播放设置防止每次打开视频就自动连播下一集毕竟有时候看两分钟只是想查一个知识点不该让系统替用户决策。最后再分享一个省心的小技巧这套系统跑下来我觉得最值回票价的改动是给所有服务统一加了restart: unless-stopped策略。以前手动跑服务遇到一次停电后忘记重新启动孩子第二天早上打不开学习页面差点以为系统坏了。现在所有容器都由systemd管理开机自启、崩溃自动拉起再加上健康检查脚本定期探测端口有问题直接推送到手机基本实现了傻瓜式运维。如果你家里也有老旧电脑闲置或者你想给孩子、给自己建一个不依赖网络的知识空间这个项目投入的时间大概在一到两个周末成本几乎为零。折腾的过程中你会重新理解本地优先这个理念——数据在自己手里服务在自己手里不受制于任何在线平台的可用性和审核策略这种感觉踏实。下一步我准备再扩充几套语料库再把RAG的向量库做一次完整更新让AI助手对新加入的内容也能应答自如。