新闻详情

新闻详情

首页 / 资讯中心 / 详情

OpenBiliClaw如何接入最好的大模型:DeepSeek、Ollama与本地模型配置实战清单

发布时间:2026/11/12 15:52:39来源:尧图网络
OpenBiliClaw如何接入最好的大模型:DeepSeek、Ollama与本地模型配置实战清单
OpenBiliClaw如何接入最好的大模型DeepSeek、Ollama与本地模型配置实战清单【免费下载链接】OpenBiliClaw本地私有、开源的自进化跨平台 AI 内容发现 Agent先理解你再主动从 B站、小红书、抖音、YouTube、X、知乎、Reddit、微博等平台与开放 Web 寻找内容。支持 deepseek harness 插件 | Local-first open-source cross-platform AI content discovery agent: understands you, then proactively finds content across Bilibili, Xiaohongshu, Douyin, YouTube, X, Zhihu, Reddit, Weibo and the open web.support deepseek harness plugin项目地址: https://gitcode.com/gh_mirrors/op/OpenBiliClawOpenBiliClaw 是一个本地优先、开源的跨平台 AI 内容发现 Agent它能先理解你的兴趣画像再主动从 B 站、小红书、抖音、YouTube、X、知乎等平台寻找内容。而这一切的大脑都来自你为大模型配置的模型。本文是一份大模型配置实战清单从接入 DeepSeek、到用 Ollama 本地模型离线跑再到分模块路由与避坑清单全程图形化操作几乎不用手写代码。一、为什么要先配好大模型 OpenBiliClaw 的所有智能行为——兴趣画像生成、候选内容相关性打分、推荐文案撰写、和你聊聊口味——都由大模型驱动。模型选得不对后果很直接画像不准、推荐文案敷衍、甚至初始化卡在门禁上。配置其实只有两个独立部分新手先建立这个心智模型组成部分配置位置作用是否必须聊天 / 推理模型[llm][llm.instances.id]画像、评估、文案、对话✅ 必须配一个Embedding 向量模型[llm.embedding]主题去重、语义相似度可选推荐本地 Ollama两者完全解耦聊天用 DeepSeek、向量用本地 Ollama 的组合是完全合法的互不干扰。二、3步完成OpenBiliClaw大模型配置步骤 1在设置页创建模型实例启动后端后打开桌面 Web 的「设置」→「模型」标签页或直接编辑 config.example.toml 风格的config.toml。每个实例是一套完整可独立调用的端点类型 地址 凭据 模型四件套缺一不可。provider_type支持 8 种类型按需选择deepseek— DeepSeek 官方 API国内网络默认首选openai/claude/gemini— 三大官方 APIopenrouter/orcarouter— 聚合网关一个 Key 调 150 模型openai_compatible— 万能钥匙Groq、vLLM、OneAPI、自建中转ollama— 本地模型详见第五节步骤 2把实例放进 default_chain 故障切换链[llm]段的default_chain是一个有序的实例 ID 链请求从左到右依次尝试当前实例出现失败、超时或限流时自动降级到下一个。限流冷却按实例 ID 隔离健康的备用渠道不会被连坐[llm] routing_version 2 default_chain [deepseek, relay-backup] # 主渠道 备用中转 [llm.instances.deepseek] name DeepSeek 官方 provider_type deepseek enabled true api_key sk-... model deepseek-v4-flash base_url # 留空 官方 API 地址 reasoning_effort medium保存时有强校验空链、重复引用、停用实例、缺凭据的启用实例都会被拦截并给出具体修复提示不会出现配了但没生效的静默失败。步骤 3一键连通性探测不写盘不保存设置页每个实例旁都有测试按钮。它走的是无写入探测接口临时构建 registry 真实发一次请求返回最终命中的实例、模型与延迟失败时行内直接显示错因Key 被拒 / 额度不足 / 超时 / 空响应不会修改你磁盘上的配置。确认绿灯后再保存即可。三、DeepSeek 接入多数用户的默认最优解 对国内用户DeepSeek 官方 API 是性价比与可用性平衡最好的起点模型选择默认deepseek-v4-flash快、便宜、够用画像质量要求更高时可换deepseek-v4-pro思考档位reasoning_effort默认mediumDeepSeek 官方会映射为high。系统对关键词生成、内容打分等短任务会自动关闭 thinking避免思考吞掉输出预算无需手动干预审核 400 的正确姿势官方 API 内容安全审核较严初始化偏好分析偶发 HTTP 400 Content Exists Risk 时系统会自动拆分跳过但更稳的做法是给default_chain加一个openai_compatible中转实例作 fallback如示例中的relay-backup配好之后你会在首页看到按你口味生成的推荐流每条都带朋友口吻的推荐理由四、Ollama 与本地模型配置离线跑通零 API 成本 场景 AEmbedding 用 Ollama推荐新手不需要再多一份向量 API KeyOllama bge-m3是官方推荐的本地方案CPU 即可跑约 100–200ms/次跨 Mac / Windows / Linux 一致。一条命令搞定# 装好 Ollama 后跑向导自动拉 bge-m3 并写入 [llm.embedding] openbiliclaw setup-embedding或手动在config.toml写两行[llm.embedding] provider ollama model bge-m3注意区分OpenBiliClaw捆绑的 Ollama 只预装了 embedding 模型——小体积本地聊天模型达不到内容管线质量线所以图形向导不会推荐它当聊天默认。想要本地聊天走场景 B。场景 B本地模型当聊天 Provider进阶自建一个provider_type ollama实例并放入default_chain即可但有两个必须做对的细节model必须显式填写——留空时实例不会进入聊天注册表系统绝不替你猜模型建议num_ctx 8192——Ollama 的/v1兼容层会静默丢弃该参数上下文停在默认 4096批量评估的 prompt 被截断后小模型会吐出非法 JSON 或整批重复文案设为 8192 后系统改走原生/api/chat端点规避此坑另外本地 24G 显卡级别的小模型80–100K 上下文应调低[soul]段的认知批次预算awareness_event_batch_size等注释项而不是去改源码。配好本地模型后我的画像页依然能看到完整的用户认知五、分模块路由给不同任务配不同的大模型 配好单一模型只是及格线。OpenBiliClaw 支持把四类任务指向不同实例链实现质量与成本的最优分配见 docs/modules/config.md 的[llm.routes.*]章节模块任务选型建议soul五层画像生成、情绪判断高质量旗舰模型discovery关键词生成、来源抽取高频低成本、低延迟模型recommendation朋友式推荐理由文案平衡型模型evaluation候选打分、相关度评估最高频低成本模型默认四个模块全部inherit true跟随全局default_chain想让发现/评估走便宜中转、画像走旗舰时只改对应模块为inherit false并填入自己的有序实例链。自定义链耗尽也不会越界回落到全局链成本边界清晰可控。六、常见坑位速查清单 ✅症状根因解法报错某服务拒绝了当前 API key401 鉴权失败系统零重试换 Key / 检查临时 token 是否过期配额 / 429 报错额度用尽或被限流该实例冷却 60 秒后自动切到链上下一实例本地模型输出非法 JSONOllama/v1丢了num_ctx设num_ctx 8192第四节实例配了却不生效未加入default_chain或enabled false检查链引用与启用开关向量相似度行为异常主备 embedding 模型维度 / 空间不一致保持同一向量空间或统一output_dimensionality请求 20 分钟超时timeout默认 1200s本地模型冷加载慢正常现象Ollama 冷启动属合法等待完整错误分类鉴权 / 限流 / 超时 / 空响应 / 审核拦截的归一化逻辑在 src/openbiliclaw/llm/base.py面向用户的中文错因说明见 docs/modules/llm.md。七、进阶资料文件索引想深入某个环节时直接打开这些文件config.example.toml — 全量配置项与逐行注释含[llm]/[llm.instances.*]/[llm.embedding]/[llm.routes.*]docs/modules/llm.md — LLM 多模型支持模块文档Provider 全景、故障切换链、推理档位映射、托管 Ollama 生命周期docs/modules/config.md — 配置参考每个实例字段的类型、默认值与专属语义src/openbiliclaw/llm/ — LLM 源码registry.py实例路由与冷却、openai_provider.pyOpenAI 系含 DeepSeek 适配、ollama_provider.py本地模型【免费下载链接】OpenBiliClaw本地私有、开源的自进化跨平台 AI 内容发现 Agent先理解你再主动从 B站、小红书、抖音、YouTube、X、知乎、Reddit、微博等平台与开放 Web 寻找内容。支持 deepseek harness 插件 | Local-first open-source cross-platform AI content discovery agent: understands you, then proactively finds content across Bilibili, Xiaohongshu, Douyin, YouTube, X, Zhihu, Reddit, Weibo and the open web.support deepseek harness plugin项目地址: https://gitcode.com/gh_mirrors/op/OpenBiliClaw创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
网站建设高端定制企业官网
RELATED

相关资讯

更多精彩内容,欢迎继续阅读

较早相关资讯

最新相关资讯

【外设】之大彩串口显示屏 2026/11/11 13:52:51

【外设】之大彩串口显示屏

大彩串口屏初步使用 1 .官网下载 STM32 屏幕 GUI 设计资料 http://www.gz-dc.com/category/typeid/4112 找到 STM32 Keil 工程,移植相关代码因项目而异进行移植,由于项目简单,本人只对用到的指令接口进行修改。 比如:注意事项&…

阅读更多 →
无法下载Windows系统iso文件 2026/11/10 19:42:40

无法下载Windows系统iso文件

当我遇到这个问题的时候,我打开了一个网站: 登录 然后我打算下载的时候: 突然那个官方的连接就可以下载了:

阅读更多 →
【清华代码熊】DeepSeek V4.1 Flash 后训练详解 2026/11/12 9:50:02

【清华代码熊】DeepSeek V4.1 Flash 后训练详解

📌 上期解析了 DeepSeek V4.1 Flash 模型架构改进,本期解析 DeepSeek V4.1 Flash 预训练/后训练技术: 🌟 预训练:45T 文本 多模态混合语料、直接训练 sparse attention(取消 DeepSeek V4 的 dense 冷启动&…

阅读更多 →
Shuffle-R1: Efficient RL framework for Multimodal Large Language Models via Data-centric Dynamic ... 2026/11/12 9:25:38

Shuffle-R1: Efficient RL framework for Multimodal Large Language Models via Data-centric Dynamic ...

文章主要内容和创新点 主要内容 本文聚焦于多模态大语言模型(MLLM)强化学习(RL)训练中的效率问题,提出了一个名为Shuffle-R1的框架。研究发现,当前RL训练存在两个关键缺陷: 优势值坍缩(Advantage Collapsing):批次中大多数优势值集中在零附近,导致有效梯度信号被淹…

阅读更多 →
PRvL: Quantifying the Capabilities and Risks of Large Language Models for PII Redaction 2026/11/11 15:37:39

PRvL: Quantifying the Capabilities and Risks of Large Language Models for PII Redaction

一、文章主要内容总结 本文聚焦于利用大型语言模型(LLMs)实现个人身份信息(PII)脱敏的研究,旨在解决传统脱敏方法(如基于规则的系统、领域特定命名实体识别(NER)模型)泛化能力差、跨格式/跨语境适应性弱的问题。 研究通过全面评估多种LLM架构(包括密集型LLM(D-LLM…

阅读更多 →
LLaVA-RE: Binary Image-Text Relevancy Evaluation with Multimodal Large Language Model 2026/11/10 17:14:10

LLaVA-RE: Binary Image-Text Relevancy Evaluation with Multimodal Large Language Model

文章主要内容和创新点 主要内容 本文聚焦于二进制图像-文本相关性评估任务(判断图像与文本“相关”或“不相关”),针对该任务中文本格式多样、相关性定义随场景变化等挑战,提出了基于多模态大语言模型(MLLM)的解决方案LLaVA-RE。 模型设计:LLaVA-RE基于LLaVA 1.5架构,…

阅读更多 →

今日资讯

本周资讯

本月资讯

看完文章仍有疑问?

联系尧图顾问,获取一对一建站咨询

立即免费咨询 📞 400-888-8888
📞 ✉