深度解析 LLM Checker 四维评分系统Q/S/F/C 如何为你精准推荐本地大模型【免费下载链接】llm-checkerAdvanced CLI tool that scans your hardware and tells you exactly which LLM or sLLM models you can run locally, with full Ollama integration.项目地址: https://gitcode.com/gh_mirrors/ll/llm-checkerLLM Checker 是一款先进的命令行CLI工具它会扫描你的电脑硬件CPU、GPU、内存通过质量Q、速度S、适配F、上下文C四维评分系统精准告诉你哪些本地大模型LLM/sLLM能在你的机器上流畅运行并与 Ollama 深度集成。本文将带你深入拆解这套评分系统的运作机制帮你彻底搞懂为什么它给我推荐了这个模型。一、为什么推荐本地大模型需要四维评分想在一台笔记本或家用 PC 上跑大模型最怕两件事模型装不下显存/内存不够和跑得飞快慢每秒几个 token等待焦虑。而大参数一定更好的直觉也常常失灵——你的 8GB 显卡跑 70B 模型会爆显存跑 0.5B 小模型又体验太差。LLM Checker 的解法是把这台机器适合跑哪个模型拆成 4 个可量化维度每个模型都会得到 4 个 0-100 的子分数维度代号回答的问题打分依据质量Q(Quality)这个模型聪不聪明基准测试成绩 / 参数量级 家族加成速度S(Speed)在我的硬件上跑得多快后端算力 × 参数量 × 量化倍数估算的 token/s适配F(Fit)内存/显存装得下吗模型需求 vs 可用内存预算上下文C(Context)支持多长的对话/文档模型最大上下文 vs 使用场景目标最后四个分数按使用场景加权求和再加上一个高容量修正分H得到 0-100 的总分排名靠前的就是最推荐给你的模型。核心打分逻辑位于 deterministic-selector.js权重配置统一收敛在 scoring-config.js。二、逐个拆解Q/S/F/C 各自怎么打分2.1 Q质量先查实测成绩查不到再按体量估算质量分是最聪明的一维它有两条路径deterministic-selector.js有实测基准成绩系统会从本地评分库如 BigCodeBench、HumanEval、LiveBench、MMLU-Pro、MMMU 等中查该模型的测试分数并按同类模型中的百分位换算到统一区间。这意味着不同榜单难度差异巨大的成绩可以公平比较。没有实测数据退化为参数量级基础分0.5B-1B 约 45 分7B 约 75 分13B 约 82 分30B 约 89 分70B 约 95 分再叠加几笔修正家族加成deepseek-r1 5、qwen3 4、deepseek 3 等量化惩罚Q8_0 不扣分Q4_K_M 扣 5 分Q2_K 扣 12 分压缩越狠质量损失越大新鲜度与热度已弃用模型扣 12 分Ollama 拉取量破亿加 4 分任务匹配写代码场景选 coder 模型加 6 分但选非 instruct 模型写代码会扣 15 分。2.2 S速度一套算力常数 ÷ 参数量的估算模型速度分基于你机器的实际硬件推算预估 token 吞吐deterministic-selector.js不同后端有各自的算力常数 KNVIDIA CUDA 220Apple Metal 160CPU ARM 90CPU x86 70基础速度 ≈ K ÷ 有效参数量量化越低速度越快Q8_0 慢至 0.8 倍Q2_K 快至 1.35 倍8 核以上 CPU 和独显还能再乘加成最后与场景目标速度对比换算成分数通用/编程场景目标 40 token/s推理场景放宽到 25Embeddings 高达 200。 所以同一个 8B 模型在独显工作站上 S 分可能接近满分在纯 CPU 笔记本上则明显偏低——速度分永远是你的硬件专属的。2.3 F适配内存装得下才有资格谈其他适配分判断模型内存需求占可用内存预算的比例deterministic-selector.js需求 ≤ 预算的 90%满分 100留有余量运行稳定需求在 90%~100% 之间70 分能跑但偏紧超出预算直接淘汰不进入评分。2.4 C上下文长文档党最该关注的一维上下文分对比模型最大上下文ctxMax与场景目标通用 4096编程/推理 8192 等满足目标满分 100只有目标一半给 70 分更低则为 0。注意它不会直接淘汰模型而是通过权重压低排名——即使上下文不足模型仍可能因其他维度优秀上榜。三、权重怎么配不同场景不同侧重四个子分并不是平均相加权重随你的使用场景变化完整配置见 scoring-config.js使用场景QSFC设计意图通用对话 (general)45%35%15%5%质量与速度均衡编程 (coding)55%20%15%10%代码质量优先推理 (reasoning)60%10%20%10%最重质量多模态 (multimodal)50%15%20%15%更看重能否跑得下Embeddings30%50%20%0%吞吐量就是正义此外还有面向特殊需求的一键预设scoring-config.jsfast模式把速度权重拉到 55%quality模式把质量拉到 65%。隐藏第五分H高容量修正对于显存 ≥ 32GB 的大内存机器系统还会追加高容量修正如果你 128GB 显存却只配一个 7B 小模型属于大材小用会被最高扣 24 分引导你选择 30B 起步、70B 甜点区间的模型deterministic-selector.js。统一评分核心三条命令同一把尺子历史上check、recommend、smart-recommend三条命令各用一套引擎可能对同一个模型给出不同结论。现在统一评分核心 scoring-core.js 让所有命令共用同一个rankModels()入口——相同输入必然相同分数消除了两条命令推荐打架的问题。四、一次推荐的完整旅程以check命令为例评分流水线是硬件扫描→ 得出内存预算与后端CUDA/Metal/CPU对模型池中每个模型挑选最合适的量化版本装不下更高质量的自动降档计算内存需求装不下的直接出局分别算出 Q、S、F、C 四个子分按场景权重加权叠加 H 修正得到 0-100 总分并排序输出时还会附上推荐理由rationale解释为什么是这个模型、这个量化版本。五、快速上手3 步验证你自己的硬件 克隆仓库即可开始体验git clone https://gitcode.com/gh_mirrors/ll/llm-checker cd llm-checker npm install随后运行检查命令即可看到带四维分数的推荐列表。各命令的详细参数与输出解读可参考官方文档 usage-guide.md 和 advanced-usage.md进阶场景多卡、MoE 模型、策略路由见 docs/reference/technical-docs.md。六、总结四维评分带来的确定性Q让聪明程度有据可查实测基准优先参数量兜底S让速度预估绑定你的真实硬件而非纸面参数F从源头杜绝推荐了也跑不动的尴尬C保证长文档、长对话场景不被小上下文模型拖累H修正让大显存机器不再浪费。理解了 Q/S/F/C你再看到 LLM Checker 的推荐列表时就能清楚地知道每个分数背后意味着什么——这正是它能把跑哪个模型从玄学变成工程判断的原因。【免费下载链接】llm-checkerAdvanced CLI tool that scans your hardware and tells you exactly which LLM or sLLM models you can run locally, with full Ollama integration.项目地址: https://gitcode.com/gh_mirrors/ll/llm-checker创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考