更多精彩内容,欢迎继续阅读
最近一个月我一直在折腾大模型推理服务的显存优化。起因是线上一个多轮对话场景接入后,两台A100的显存占用直接顶到99%,服务开始频繁排队。模型权重明明只占了不到一半的卡,剩下的显存去哪了,当时完全没有头绪。灌了一整遍推理框架…
阅读更多 →如果有人第一次看我搭Prometheus,多半会问:监控数据不都是采集器主动上报的吗,为什么Prometheus要反着来,自己跑到目标机器上去拉?这几乎是每个监控初学者都会冒出来的疑问。其实拉取模式是Prometheus的立身之本&#…
阅读更多 →如果说Java毕设选题是每年都会让一批人失眠的事,那springboot宠物前端网站这类项目基本上是站在“性价比”最高的那一档里。宠物主题有意思、够生活化,前端展示加后台管理的结构又正好卡在毕业设计该有的项目体量上,功能不够可以往上加&#…
阅读更多 →之前在企业知识库问答项目里,我踩了不少坑:文档格式五花八门,有的 PDF 一解析全是乱码;切分参数来回试,检索回来的片段要么太碎、要么答非所问;好不容易把链路跑通,大模型又一本正经地“编”答案…
阅读更多 →1. RMBG-2.0不是“又一个抠图模型”,而是本地实时抠图的工程分水岭RMBG-2.0这个名称在最近三个月的AI视觉圈里出现频率陡增,但很多人点开GitHub仓库第一反应是:“又一个SOTA模型?跑个Demo看看效果就扔一边了。”我去年底开始系统性…
阅读更多 →1. 小米社区等级与解锁资格的真实关系很多人第一次接触小米解锁BL这件事,脑子里想的都是"我直接下个工具开干不就行了",结果打开解锁页面才发现,系统提示你社区等级不够、答题分数不达标。这时候才回过头来研究社区等级体系&#x…
阅读更多 →这几周一直在处理公司内部知识库的问答需求:产品文档、运维手册、售后工单散落在十几个系统里,员工查一份资料要打开五六个页面,还经常找不到最新版本。试用了几种方案之后,发现RAG(检索增强生成)是最贴合这…
阅读更多 →搞过多agent系统的人应该都有过这种体验:demo演示的时候一切都丝滑,Agent们分工明确、协作流畅,Leader agent一张嘴,其他agent老老实实执行。可一旦进入生产环境,问题就接二连三地冒出来——上下文互相污染、agent之间…
阅读更多 →从"wescode 是什么"这个问题写起,是因为最近后台私信里问这个工具的朋友实在太多了。很多人第一次听到这个名字,第一反应是"又出一个新编辑器?"——没错,它确实是一款面向现代开发流程的轻量级代码编辑器&…
阅读更多 →简介:万常选版《数据库原理与设计》课后习题答案资源,覆盖第2至6章及第9章,适合正在学习关系模型、数据库建模、关系数据理论与模式求精的本科生、自学者作为复习与自测材料。压缩包共7个文件,含3个doc参考答案、2个sql示例脚本、…
阅读更多 →/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …
阅读更多 →一次版本升级事故,是很多团队绕不过去的坎。线上环境里,服务端明明已经上线了新版接口,老的移动端还在照着旧文档传参数。请求一到网关,校验直接拒绝,用户操作失败,客服群炸了锅,开发群里开始互…
阅读更多 →