开源模型下载全攻略HuggingFace、ModelScope、魔搭怎么用本地部署大模型第一道坎往往不是显存是下载。国内直连 HuggingFace经常几 KB/s或者下一半断了、重下又从零开始。一个 7B 模型 14GB能耗掉你一整天。这篇给全套方案镜像站、ModelScope、多线程加速、断点续传、离线搬运。可直接复制命令不讲原理只讲怎么下得快、下得稳。一、先搞清模型到底能从哪下下载慢的根源是源在境外。所以核心思路就一个换源。来源适合特点hf-mirror镜像国外的模型Llama、Mistral 等最简单的加速方式改一个环境变量ModelScope / 魔搭国产模型Qwen、GLM、DeepSeek 等国内站点原生快HuggingFace 官方有稳定网络时最全但国内慢别人下好的超大模型直接拷贝最省事先判断你要下的模型在哪国产模型Qwen/GLM/DeepSeek基本都在 ModelScope 有国外模型Llama/Mistral走镜像。二、方案一换镜像站最简单先试这个hf-mirror 是一个公益镜像项目把huggingface.co镜像到国内。用法就是设一个环境变量# Linux / macOSexportHF_ENDPOINThttps://hf-mirror.com# Windows PowerShell$env:HF_ENDPOINThttps://hf-mirror.com设完之后所有走 huggingface_hub 的工具都会自动走镜像——包括transformers、diffusers、huggingface-cli。不用改任何代码。下载命令新版 CLI 是hf老版是huggingface-clipipinstall-Uhuggingface_hub# 下载整个仓库到指定目录hf download Qwen/Qwen2.5-7B-Instruct --local-dir ./models/qwen2.5-7b# 只下部分文件比如只下 4-bit 量化版hf download Qwen/Qwen2.5-7B-Instruct-GGUF--include*q4_k_m*--local-dir ./models这是投入产出比最高的方案改一行速度就能从几 KB变成几 MB。三、方案二国产模型直接用 ModelScope国产模型在魔搭ModelScope是原生托管的不用绕镜像pipinstallmodelscope# 下载模型modelscope download--modelQwen/Qwen2.5-7B-Instruct--local_dir./models/qwen2.5-7b# 下载数据集同理modelscope download--dataset数据集id--local_dir./data代码里也能直接换把from_pretrained(Qwen/Qwen2.5-7B-Instruct)换成指定 ModelScope 的加载方式即可。建议国产模型优先用 ModelScope国外模型用 hf-mirror。两条路都配好基本不用再为下载发愁。四、方案三多线程加速如果镜像还是慢可以开多线程下载。官方有个hf_transfer工具pipinstallhf_transfer# 开启后下载会走多线程exportHF_HUB_ENABLE_HF_TRANSFER1hf download Qwen/Qwen2.5-7B-Instruct --local-dir ./models/qwen2.5-7b注意多线程会吃满带宽公司/宿舍网络可能被限速反而更慢。先试单线程慢再开。五、断点续传与离线搬运大模型必看大模型下载最怕下到 90% 断了。好消息是huggingface_hub 和 modelscope 默认支持断点续传——重新执行同一条命令它会从断的地方继续不会从头再来。如果网络实在不稳用离线搬运这招在一台网络好的机器或云服务器上把模型下好打包时排除临时文件.cache、*.incomplete只留模型文件用 U 盘/移动硬盘/内网拷贝到目标机器放到目录里加载时用本地路径./models/qwen2.5-7b而不是仓库名。# 打包时排除半成品文件tar--exclude*.incomplete--exclude.cache-czfmodel.tar.gz ./models/qwen2.5-7b这一步能省掉大量等待——尤其当你有多台机器要部署同一个模型时。六、方案怎么选你的情况用哪个下国产模型Qwen/GLM/DeepSeekModelScope下国外模型Llama/Mistralhf-mirror 镜像镜像还慢开hf_transfer多线程网络极不稳定离线搬运别台机器下好拷过来只要量化版用--include只下需要的文件两条实用建议只下你需要的文件。一个模型仓库里常有好几种格式FP16、GGUF、AWQ。用--include过滤能省掉一半以上的下载量下之前先看仓库文件列表。有些模型分多个文件别漏了下tokenizer或config.json。七、卡住时的排查顺序下载慢→ 先确认HF_ENDPOINT生效了没很多人的问题是环境变量没生效下到一半断→ 重新执行同一条命令会自动续传报 401 / 403→ 模型需要授权如 Llama 系列先去官网同意条款并配 token磁盘不够→ 先看模型文件总大小FP16 的 7B 就要 14GB下载完加载报错→ 检查文件是否完整有没有漏config.json/tokenizer反复失败→ 换 ModelScope或走离线搬运。最后一句下载不是技术难题是网络问题——而网络问题都有现成解法。把镜像 ModelScope 断点续传这三件事配好你以后下任何模型都不会再卡在这一步。别把时间浪费在等待进度条上。说明文中镜像站hf-mirror、ModelScope 均为公开可用的第三方/官方服务其可用性、限速策略与使用条款以各站最新公告为准请遵守相应服务条款与模型许可证。命令中的 CLI 名称hf/huggingface-cli随huggingface_hub版本变化请以官方文档为准。