如何零基础上手 Off Grid AI5分钟完成安装、下载第一个GGUF模型的完整指南【免费下载链接】OGAMThe Swiss Army Knife of Offline AI. Chat, see, speak, and generate images on your phone or Mac — GGUF LLMs, vision, Whisper speech-to-text, Stable Diffusion, tool calling, and local-network servers. Runs on your CPU, GPU, or NPU. No account, no API key, zero data leaves your device.项目地址: https://gitcode.com/gh_mirrors/of/OGAMOff Grid AI 是一款完全离线的本地 AI 套件支持在你的手机或 Mac 上运行 GGUF 大模型聊天、语音转文字、AI 绘图和视觉问答。它不需要注册账号、不需要 API Key所有对话、语音和生成内容都只保存在你的设备本地真正做到数据零外传。本文将从安装开始带你用 5 分钟跑通第一个 GGUF 模型。安装 Off Grid AI三种方式任选Off Grid AI 支持Android、iOS 和 macOS三大平台安装非常简单不需要任何开发环境方式适用平台操作 应用商店Android / iOS在 Google Play 或 App Store 搜索Off Grid下载 APK 直装Android从 Releases 获取最新 APK 安装 Mac 原生运行Apple Silicon Mac直接安装 iOS 版通过 Mac Catalyst / iPad 兼容模式原生运行小提示Mac 用户无需额外下载iOS App Store 版本即可在 Apple Silicon Mac 上原生使用。如果你偏好自己编译源码可选非必需克隆仓库后按以下步骤构建git clone https://gitcode.com/gh_mirrors/of/OGAM cd OGAM npm install完整构建指南可参考 docs/ARCHITECTURE.md。新手强烈建议直接安装正式版把时间留给模型体验。上手引导6 步新手任务清单首次打开应用Off Grid AI 会弹出一份Get Started任务清单用聚光灯Spotlight一步步高亮教你操作。共 6 个步骤全部完成后引导自动收起Download a model— 下载一个模型Load a model— 加载模型到内存Send your first message— 发出第一条消息Try image generation— 体验 AI 绘图Explore settings— 探索模型设置Create a project— 创建你的第一个项目点击清单中任意未完成项应用会自动跳转到对应界面并高亮引导你操作。每一步完成条件都是实时检测的——比如模型下载完成、消息发送成功清单会自动打勾 ✅。整个引导流程的实现细节可查阅 docs/onboarding/ONBOARDING_FLOWS.md。下载第一个GGUF模型最快路径这是新手最需要的一步跟着下面 3 步走第 1 步进入 Models 标签页点击底部导航的Models模型标签默认打开的是Text Models文本模型列表。首页会推荐几款适配你设备的模型如 Qwen、Llama、Gemma、Phi 等流行系列推荐模型卡片会带聚光灯提示Tap this recommended model。第 2 步挑选合适的文件规格点进模型详情页你会看到多个不同量化规格的.gguf文件。选择原则内存紧张8GB RAM 以下→ 选 0.8B ~ 2B 参数的小模型或较大的Q4_0量化旗舰机型→ 可选 7B~9B 参数模型配合 GPU/NPU 加速体验流式输出模型列表会用徽标标出哪些文件能走GPU / NPU 加速下载前先看徽标避免白下几个 GB第 3 步点下载图标坐等完成点击文件卡片上的下载图标即开始下载。下载管理器支持 3 个下载并行其余任务自动排队显示为 Queued支持暂停、继续、重试和取消即使把应用切到后台下载也不会中断。 旗舰设备骁龙 8 系 / A17 Pro上加载完成后文本生成可达 15~40 token/s中端机型约 5~15 token/s完全能流畅对话。加载模型发出第一条消息模型下载完成后回到Home标签页点击顶部的文本模型卡片TextModelCard从模型选择器中选中刚下载的模型——应用会立即把它加载进内存切到Chats标签点New新建对话在输入框输入你好介绍一下你自己点击发送流式回复会一个字一个字地打印出来全程离线运行断网也能聊。如果模型在对话中被系统挤出内存聊天界面会主动提示并提供一键带回按钮不会静默失败。进阶玩法与更多资源跑通第一条消息后可以按兴趣解锁更多能力AI 绘图Models 标签切到 Image Models下载 Stable Diffusion 模型后在聊天里说画一只狗即可本机出图骁龙 NPU 上约 5~10 秒/张语音输入下载 Whisper 语音模型后点麦克风即可本机语音转文字音频永不离开手机工具调用支持 function calling 的模型可自动使用联网搜索、计算器、知识库检索等内置工具Personal Mesh 多设备同步手机和 Mac 之间通过局域网加密同步聊天、文件和设置无中转服务器配对界面如图所示模型设置在 Settings → Model Settings 中调整系统提示词、生成参数和加载策略Lean / Balanced / Aggressive想深入了解项目架构和性能调优推荐阅读架构文档docs/ARCHITECTURE.md代码导读docs/standards/CODEBASE_GUIDE.md模型下载服务设计docs/design/MODEL_DOWNLOAD_SERVICE.md文本模型列表源码src/constants/models.ts模型浏览界面源码src/screens/ModelsScreen/现在打开应用5 分钟后你就能拥有第一个完全属于你的离线 AI 【免费下载链接】OGAMThe Swiss Army Knife of Offline AI. Chat, see, speak, and generate images on your phone or Mac — GGUF LLMs, vision, Whisper speech-to-text, Stable Diffusion, tool calling, and local-network servers. Runs on your CPU, GPU, or NPU. No account, no API key, zero data leaves your device.项目地址: https://gitcode.com/gh_mirrors/of/OGAM创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考