新闻详情

新闻详情

首页 / 资讯中心 / 详情

读书笔记(ai agents in action)-semantic_kernel连接本地lm-studio部署的本地模型

发布时间:2026/9/29 21:52:37来源:尧图网络
读书笔记(ai agents in action)-semantic_kernel连接本地lm-studio部署的本地模型
在学习《动手学ai agents》第5章时书中介绍开源semantic_kernel库用法示例中给出的代码是基于gpt。但我在学习是使用本地使用lm studio部署的minicpm5-2b模型。因此书中的示例sk_connecting.py需要作对应调整。修改后的代码如下import os import json import asyncio from openai import OpenAI,AsyncOpenAI import semantic_kernel as sk from semantic_kernel.connectors.ai.open_ai import OpenAIChatCompletion from semantic_kernel.connectors.ai.prompt_execution_settings import PromptExecutionSettings kernel sk.Kernel() api_key sk-lm-am25JcFg:zSXiYznKSNHs9n5qhNGq client AsyncOpenAI( base_urlhttp://192.168.101.26:1234/v1, api_keyapi_key ) org_id service_id lm_studio_cpm kernel.add_service( OpenAIChatCompletion( service_idservice_id, ai_model_idminicpm5-2b, async_clientclient, ), ) #print(Registered Services:, list(kernel.services.keys())) #import inspect #sig inspect.signature(OpenAIChatCompletion.__init__) #print(Available parameters:, list(sig.parameters.keys())) settings PromptExecutionSettings(service_idlm_studio_qwen) result await kernel.invoke_prompt(prompt推荐一部关于时间旅行的电影, settingssettings) print(result) # Use asyncio.run to execute the async function asyncio.run(run_prompt())主要的调整为1OpenAIChatCompletion接口不支持直接对模型的定义代码中注释可以放开查看该接口的参数因此只好走 async_client这个参数2invoke_prompt函数调用时指定settings参数明确使用的模型。补充说明本地使用lm studio部署的模型增加了api key因此在使用中需要指定一下。这个具体看各自的配置了。
网站建设高端定制企业官网
RELATED

相关资讯

更多精彩内容,欢迎继续阅读

较早相关资讯

最新相关资讯

宁德时代AON测评|保姆级通关攻略干货✨ 2026/9/29 21:52:30

宁德时代AON测评|保姆级通关攻略干货✨

收到宁王测评邮件的宝子千万不要摆烂❗测评结果会影响后续面试,时间超级紧张,一定要认真对待! ⏰基础须知 收到测评邮件起72小时内必须完成,超时链接直接失效!优先用电脑Chrome浏览器,准备好草稿纸和计算器…

阅读更多 →
Word文档太大怎么拆分?段落结构与两种拆法的边界实测 2026/9/29 21:52:30

Word文档太大怎么拆分?段落结构与两种拆法的边界实测

上周要把自己写的一份代码应用安全评估初查报告发给三个不同的对接人,每个人只负责其中一部分。全文 2.12 MB,直接整份发过去,对方还得自己翻到对应章节。最直接的想法是把它拆开——但 Word 文档的"拆分"并不像切文本文件那么直接…

阅读更多 →
大模型应用开发岗月薪35-50K! 2026/9/29 21:52:30

大模型应用开发岗月薪35-50K!

新东方网2026年4月报道显示,AI应用开发工程师应届生校招月薪20-35K(年薪24-42W),1-3年经验月薪30-50K(年薪36-60W),资深工程师年薪60-100W。 与此同时,据新京报等媒体报道&#xff0…

阅读更多 →
变电站局放巡检用什么设备?几类检测手段的适用条件 2026/9/29 21:52:30

变电站局放巡检用什么设备?几类检测手段的适用条件

变电站局放巡检带什么设备,取决于放电点在哪、信号从哪条路径传出来。设备类型不同,外泄的信号形式不同,对应的手段也不同。局放信号往哪走,决定用哪类设备局部放电是绝缘内部或表面局部区域的反复击穿,它会产生几样东…

阅读更多 →
电子合同大批量怎么测?并发与批量处理维度专项测评 2026/9/29 21:52:30

电子合同大批量怎么测?并发与批量处理维度专项测评

旺季第一天,运营一次性发两千份合同。系统转了十分钟没动静,等页面刷出来的时候显示只发出去三百份,剩下的一千七百份状态不明,谁也不知道哪些发了哪些没发。批量和并发能力,平时完全看不出来,只在两个时刻…

阅读更多 →
ZYNQ7020从零到Linux最小系统完整实战指南 2026/9/29 21:52:23

ZYNQ7020从零到Linux最小系统完整实战指南

最近在折腾ZYNQ7020,从一片空白到最后把Linux跑起来,整个过程踩了不少坑。网上关于ZYNQ的资料虽然多,但大多是零散的知识点,真正能照着从零走到系统启动的完整流程其实不多。这篇博文就是想把我的实操过程完整记录下来——用Vivad…

阅读更多 →

今日资讯

本周资讯

本月资讯

看完文章仍有疑问?

联系尧图顾问,获取一对一建站咨询

立即免费咨询 📞 400-888-8888
📞 ✉