新闻详情

新闻详情

首页 / 资讯中心 / 详情

让 AI 助理管理本地大模型:LLM Checker 内置 MCP 服务器接入指南

发布时间:2026/11/20 19:41:55来源:尧图网络
让 AI 助理管理本地大模型:LLM Checker 内置 MCP 服务器接入指南
让 AI 助理管理本地大模型LLM Checker 内置 MCP 服务器接入指南【免费下载链接】llm-checkerAdvanced CLI tool that scans your hardware and tells you exactly which LLM or sLLM models you can run locally, with full Ollama integration.项目地址: https://gitcode.com/gh_mirrors/ll/llm-checkerLLM Checker是一款开源的硬件扫描工具它能分析你的 CPU、GPU、内存告诉你本机到底能跑哪些本地大模型LLM/sLLM并深度集成 Ollama。更实用的是它内置了一个 MCPModel Context Protocol服务器——只需一条命令就能让 Claude Code、Codex、Cursor、Windsurf 等 AI 助理直接接手你电脑上的 Ollama 模型检测硬件、下载/删除模型、跑基准测试、清理磁盘全程自然语言指挥。 为什么需要 MCP 服务器如果你用 Ollama 跑过本地模型大概率遇到过这些场景下了一堆模型不知道哪些能流畅运行、哪些该删掉想测模型速度tokens/s得手动敲一堆命令想知道某个项目该配哪个模型只能凭感觉AI 助理很聪明但它看不见你的硬件也管不了你的 OllamaMCP 就是 AI 助理的工具总线LLM Checker 把自己的硬件检测、模型推荐、Ollama 管理能力打包成一组标准工具任何支持 MCP 的 AI 客户端连上之后就能直接调用。源码位于 bin/mcp-server.mjs基于官方modelcontextprotocol/sdk实现。支持哪些客户端内置mcp-setup命令一条搞定支持客户端写入位置Claude Codeclaude mcp add默认OpenAI Codex~/.codex/config.tomlGrok~/.grok/config.tomlKimi~/.kimi/mcp.jsonCursor~/.cursor/mcp.jsonWindsurf~/.codeium/windsurf/mcp_config.jsonGemini CLI~/.gemini/settings.json其他任意客户端--client generic输出标准mcpServersJSON 3 步完成接入第 1 步安装npm install -g llm-checker第 2 步一条命令生成配置llm-checker mcp-setup --client claude加上--apply会自动把配置合并进客户端配置文件不会覆盖已有内容加上--json输出结构化片段方便脚本化不想全局安装用--npx生成npx --yes --package llm-checker llm-checker-mcp命令按需启动第 3 步重启客户端完事了。AI 助理现在能看到一组以llm-checker命名的工具。️ 接入后你能用哪些工具连上之后AI 助理获得三大类能力① 核心分析硬件 模型选型工具作用hw_detect检测 CPU/GPU/内存/加速后端check全量兼容性分析所有模型按评分排序recommend按用途推荐coding、reasoning、multimodal…installed给已下载的 Ollama 模型打兼容分search关键词搜索模型目录支持用途/大小过滤smart_recommend调用完整评分引擎的智能推荐gpu_plan多 GPU 模型摆放与运行参数规划verify_context校验本地模型的实际上下文窗口上限ollama_plan/ollama_plan_env生成容量规划与可直接粘贴的环境变量toolcheck测试本地模型的工具调用兼容性② Ollama 模型管理工具作用ollama_list列出已下载模型参数量/量化/家族/体积ollama_pull从仓库下载模型ollama_run跑提示词附带 tok/s 等性能指标ollama_remove删除模型腾磁盘③ 高级独家工具仅 MCP 提供工具作用ollama_optimize按硬件生成最优 Ollama 环境变量benchmark标准提示词跑 3 轮基准测试测出 tok/s、加载耗时compare_models两个模型同题对决速度回答并排展示cleanup_models分析冗余模型、超大模型给出清理建议project_recommend扫描你的项目目录语言/框架/规模推荐最配的模型ollama_monitor实时查看内存占用与已加载模型verify_model加载前对 GGUF/safetensors 文件做结构安全校验cli_help/cli_exec列出/执行白名单内的任意 CLI 命令安全方面也不用担心cli_exec只允许执行白名单内的命令工具入参都带类型校验详见 tests/mcp-multiclient.test.mjs。 连上之后直接说人话配置完成后你可以像聊天一样指挥 AI 助理它会自己挑对的工具我的硬件最适合跑哪个编程模型给 qwen2.5-coder 跑个基准测试看看 tok/s对比一下 llama3.2 和 codellama 的编码表现清理一下我的 Ollama哪些模型该删我这个 Rust 项目该用哪个模型帮我优化 Ollama 配置到最佳性能现在 Ollama 占了多少内存比如最后一句AI 会调用ollama_monitor返回内存占用、已加载模型、可用余量并直接告诉你现在能跑多大的模型。❓ 常见问题Q必须全局安装吗不必。mcp-setup --npx会生成npx方式启动命令客户端首次调用时自动拉取。Q没装 Ollama 能用吗可以用hw_detect、check、recommend等纯分析工具Ollama 管理类工具需要本机有 Ollama默认连接http://localhost:11434可用环境变量OLLAMA_HOST指向其他地址。Q怎么验证接入成功重启客户端后问它一句列出我的 Ollama 模型如果返回了ollama_list的结果就说明 MCP 通道已通。 延伸阅读官方使用说明docs/guides/usage-guide.md高级玩法docs/guides/advanced-usage.md技术文档docs/reference/technical-docs.mdMCP 服务器源码bin/mcp-server.mjs多客户端配置与verify_model工具测试tests/mcp-server.test.mjs一条mcp-setup把硬件检测、模型选型、Ollama 管理全部交给你的 AI 助理——本地大模型的运维岗从今天起由它来当班。【免费下载链接】llm-checkerAdvanced CLI tool that scans your hardware and tells you exactly which LLM or sLLM models you can run locally, with full Ollama integration.项目地址: https://gitcode.com/gh_mirrors/ll/llm-checker创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
网站建设高端定制企业官网
RELATED

相关资讯

更多精彩内容,欢迎继续阅读

较早相关资讯

最新相关资讯

【外设】之大彩串口显示屏 2026/11/20 0:44:51

【外设】之大彩串口显示屏

大彩串口屏初步使用 1 .官网下载 STM32 屏幕 GUI 设计资料 http://www.gz-dc.com/category/typeid/4112 找到 STM32 Keil 工程,移植相关代码因项目而异进行移植,由于项目简单,本人只对用到的指令接口进行修改。 比如:注意事项&…

阅读更多 →
无法下载Windows系统iso文件 2026/11/19 15:17:14

无法下载Windows系统iso文件

当我遇到这个问题的时候,我打开了一个网站: 登录 然后我打算下载的时候: 突然那个官方的连接就可以下载了:

阅读更多 →
【清华代码熊】DeepSeek V4.1 Flash 后训练详解 2026/11/19 20:26:12

【清华代码熊】DeepSeek V4.1 Flash 后训练详解

📌 上期解析了 DeepSeek V4.1 Flash 模型架构改进,本期解析 DeepSeek V4.1 Flash 预训练/后训练技术: 🌟 预训练:45T 文本 多模态混合语料、直接训练 sparse attention(取消 DeepSeek V4 的 dense 冷启动&…

阅读更多 →
Shuffle-R1: Efficient RL framework for Multimodal Large Language Models via Data-centric Dynamic ... 2026/11/20 16:11:20

Shuffle-R1: Efficient RL framework for Multimodal Large Language Models via Data-centric Dynamic ...

文章主要内容和创新点 主要内容 本文聚焦于多模态大语言模型(MLLM)强化学习(RL)训练中的效率问题,提出了一个名为Shuffle-R1的框架。研究发现,当前RL训练存在两个关键缺陷: 优势值坍缩(Advantage Collapsing):批次中大多数优势值集中在零附近,导致有效梯度信号被淹…

阅读更多 →
PRvL: Quantifying the Capabilities and Risks of Large Language Models for PII Redaction 2026/11/20 18:41:01

PRvL: Quantifying the Capabilities and Risks of Large Language Models for PII Redaction

一、文章主要内容总结 本文聚焦于利用大型语言模型(LLMs)实现个人身份信息(PII)脱敏的研究,旨在解决传统脱敏方法(如基于规则的系统、领域特定命名实体识别(NER)模型)泛化能力差、跨格式/跨语境适应性弱的问题。 研究通过全面评估多种LLM架构(包括密集型LLM(D-LLM…

阅读更多 →
LLaVA-RE: Binary Image-Text Relevancy Evaluation with Multimodal Large Language Model 2026/11/20 0:44:55

LLaVA-RE: Binary Image-Text Relevancy Evaluation with Multimodal Large Language Model

文章主要内容和创新点 主要内容 本文聚焦于二进制图像-文本相关性评估任务(判断图像与文本“相关”或“不相关”),针对该任务中文本格式多样、相关性定义随场景变化等挑战,提出了基于多模态大语言模型(MLLM)的解决方案LLaVA-RE。 模型设计:LLaVA-RE基于LLaVA 1.5架构,…

阅读更多 →

今日资讯

本周资讯

本月资讯

看完文章仍有疑问?

联系尧图顾问,获取一对一建站咨询

立即免费咨询 📞 400-888-8888
📞 ✉