新闻详情

新闻详情

首页 / 资讯中心 / 详情

DeepTutor LLM服务商支持:20+云端与7种本地模型怎么配

发布时间:2026/9/1 13:44:46来源:尧图网络
DeepTutor LLM服务商支持:20+云端与7种本地模型怎么配
DeepTutor LLM服务商支持20云端与7种本地模型怎么配【免费下载链接】DeepTutorDeepTutor: Lifelong Personalized Tutoring. https://deeptutor.info/.项目地址: https://gitcode.com/GitHub_Trending/dee/DeepTutorDeepTutor 不绑定任何单一模型厂商。它在deeptutor/services/provider_registry.py里维护一份 PROVIDERS 登记表把 20 多个云端服务商、7 种本地推理方案和若干聚合网关统一成同一份模型列表在 Settings → Models 页面填好 Base URL 和 API key同一套代码就能驱动所有供应商。先看清登记表里有什么DeepTutor 把 LLM 服务商分成四类区别主要在认证方式和接入协议类别代表厂商认证方式直连云端 APIOpenAI、Anthropic、DeepSeek、Gemini、DashScope通义千问、Zhipu、Moonshot、Mistral、Groq、VolcEngine、QianfanAPI key聚合网关OpenRouter、Eden AI、SiliconFlow、AiHubMix、Atlas Cloud一把 key 走多家模型订阅制 OAuthOpenAI Codex用自己的 ChatGPT 订阅、GitHub Copilot浏览器登录免 API key本地部署Ollama、vLLM、LM Studio、llama.cpp、Lemonade、OpenVINO、NVIDIA NIM指向本机地址![DeepTutor对话中切换LLM模型的界面](https://raw.gitcode.com/GitHub_Trending/dee/DeepTutor/raw/5a197bd143b8c644b1a33783f39bed40a5329a56/assets/figs/web-1.4.6/home/06-switch model.png?utm_sourcegitcode_repo_files)Chat 工具栏里的模型切换同一会话可随时换 LLM 服务商不用重建上下文云端服务商怎么接入的OpenAI 和 Anthropic 因为请求格式差异大各自有独立实现deeptutor/services/llm/providers/open_ai.py里的OpenAIProvider和deeptutor/services/llm/providers/anthropic.py里的AnthropicProvider。其余大多数云端厂商复用 OpenAI 兼容协议——在 PROVIDERS 里登记一条ProviderSpec关键词、环境变量名、key 前缀、默认地址工厂就能识别并路由。这也解释了配置体验填好 Base URL 后DeepTutor 会按 key 前缀比如sk-or-或地址关键词自动认出你用的是哪家网关模型列表也从对应端点拉取。适合手里已有 API key 或订阅、想直接开用的场景。 本地跑模型的路径本地方案标记is_local走deeptutor/services/llm/local_provider.py探测可用模型知识库的向量部分同样支持本地deeptutor/services/embedding/adapters/ollama.py是 Ollama embedding 适配器LM Studio、vLLM、llama.cpp 则走 OpenAI 兼容端点。用 Docker 部署时注意容器里的localhost指向容器自身README 给了现成写法加--add-hosthost.docker.internal:host-gateway再把 Base URL 指到http://host.docker.internal:11434/v1。数据不出机器、长期成本可控但需要能跑得起模型的硬件。别忽略第二种模型Embedding知识库 / RAG 检索靠的是 embedding 模型它和对话 LLM 是两套独立配置。deeptutor/services/embedding/adapters/下有openai_sdk、cohere、jina、dashscope_native、ollama等适配器对应 Settings → Embedding 里的独立 profile。不配 embedding 也能用聊天但rag工具和知识库会缺腿。架构怎么串起来的所有调用最终收口到deeptutor/services/llm/factory.py的complete/stream两个入口。流程是读取当前生效的 LLM profile →_resolve_provider_spec按显式 binding → 网关识别 → 模型名匹配 → 本地地址特征的顺序选出对应的ProviderSpec→get_runtime_provider返回 provider 实例。重试退避、思考标签think块包装、不支持response_format的参数剔除都在这一层统一处理。对开发者的含义很直接新增一家服务商通常就是往 PROVIDERS 加一条记录。![DeepTutor系统架构与LLM调用链路](https://raw.gitcode.com/GitHub_Trending/dee/DeepTutor/raw/5a197bd143b8c644b1a33783f39bed40a5329a56/assets/figs/system/system architecture.png?utm_sourcegitcode_repo_files)系统架构图Chat、Research 等能力都经由统一的 agent loop 调用底层 LLM 服务层按场景选服务商已有 ChatGPT 订阅选 OpenAI Codex OAuth浏览器登录后免 API keytoken 单独存放在沙箱够不到的目录想横向试多家模型OpenRouter 这类网关一个 key 切换不同厂商中文场景 / 国内访问DeepSeek、DashScope、Zhipu、SiliconFlow 更顺手隐私敏感、数据不能出内网Ollama 或 LM Studio 本地 vLLM大知识库 RAGembedding 建议用云端向量模型OpenAI / Cohere / Jina检索质量直接决定回答质量⚡ 上手指引三步到可用模型git clone https://gitcode.com/GitHub_Trending/dee/DeepTutor或干脆pip install -U deeptutordeeptutor init提示端口与模型→deeptutor start打开前端页面进Settings → Models添加 LLM profile计划建知识库就再补一个 Embedding profile想继续往下读从deeptutor/services/llm/providers/目录看各家实现再到deeptutor/services/provider_registry.py看整份登记表比翻零散文档快得多。模型只是 DeepTutor 的地基上面还架着 Chat、Deep Research、知识库、Memory 等能力——把模型跑通才算真正入场。Settings 页面Models 卡片管理 LLM / Embedding / Search 各类服务商配置【免费下载链接】DeepTutorDeepTutor: Lifelong Personalized Tutoring. https://deeptutor.info/.项目地址: https://gitcode.com/GitHub_Trending/dee/DeepTutor创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
网站建设高端定制企业官网
RELATED

相关资讯

更多精彩内容,欢迎继续阅读

较早相关资讯

最新相关资讯

基于STM32F407的4096点FFT频谱分析实现与优化 2026/9/1 14:33:06

基于STM32F407的4096点FFT频谱分析实现与优化

简介:面向嵌入式开发者的4096点快速傅里叶变换(FFT)实现资料,基于STM32微控制器,系统讲解从采样数据准备、数字信号处理库选择到频域结果输出的完整流程,适合用于音频分析、通信解调与频谱检测等场景&#…

阅读更多 →
理想汽车软件岗笔试复盘:题型拆解与备考策略 2026/9/1 14:33:06

理想汽车软件岗笔试复盘:题型拆解与备考策略

2024年秋招的时候,我投了理想汽车的软件岗。作为一个主要准备互联网大厂后端方向的人,理想这套笔试题做下来,最直观的感受是:考察范围很广,难度中上,但不像互联网大厂那样完全堆算法题,反而更看…

阅读更多 →
基于误差四元数的滑模姿态跟踪控制设计与仿真实现 2026/9/1 14:33:06

基于误差四元数的滑模姿态跟踪控制设计与仿真实现

简介:面向飞行器姿态控制中普遍存在的万向节死锁与外部扰动问题,这套资源以误差四元数作为姿态误差描述方式,结合滑模控制策略,提供MATLAB源码和配套CAJ格式文献,可支撑姿态跟踪系统建模、控制器设计与仿真验证&#x…

阅读更多 →
10分钟语音训练AI歌手:RVC WebUI 完整上手路径 2026/9/1 14:33:06

10分钟语音训练AI歌手:RVC WebUI 完整上手路径

10分钟语音训练AI歌手&#xff1a;RVC WebUI 完整上手路径 【免费下载链接】Retrieval-based-Voice-Conversion-WebUI Easily train a good VC model with voice data < 10 mins! 项目地址: https://gitcode.com/GitHub_Trending/re/Retrieval-based-Voice-Conversion-Web…

阅读更多 →
游戏系统设计重构:从“噩梦模式”到健康体验的技术实践 2026/9/1 14:33:06

游戏系统设计重构:从“噩梦模式”到健康体验的技术实践

在实际游戏开发或系统设计过程中&#xff0c;我们偶尔会遇到一些被玩家或开发者私下称为“噩梦模式”的设计。这种设计通常表现为极高的难度、反直觉的规则、苛刻的惩罚机制或极度复杂的操作流程&#xff0c;其初衷可能是为了增加挑战性、延长游戏时间或模拟极端场景&#xff0…

阅读更多 →
小学到初中都能用的学习工具 APP 有哪些?小猿AI全学段矩阵 2026/9/1 14:30:05

小学到初中都能用的学习工具 APP 有哪些?小猿AI全学段矩阵

在孩子的学习长跑中&#xff0c;家长们常面临一个棘手的问题&#xff1a;市面上的学习APP虽多&#xff0c;但大多“术业有专攻”且“保质期”短。小学阶段好用的口算工具&#xff0c;到了初中面对复杂的几何和物理就显得捉襟见肘。而频繁更换APP不仅增加了孩子的适应成本&#…

阅读更多 →

今日资讯

本周资讯

本月资讯

看完文章仍有疑问?

联系尧图顾问,获取一对一建站咨询

立即免费咨询 📞 400-888-8888
📞