更多精彩内容,欢迎继续阅读
/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …
阅读更多 →1. 为什么 LLM 应用上线后,运维反而更难了做过传统后端服务的同学应该都有体会:服务上线之后,看 CPU、内存、QPS、P99 延迟、错误率这几条曲线,基本就能判断系统健不健康。但换成 LLM 应用或者 AI Agent,这套经验会突然…
阅读更多 →操作系统嵌入式物联网嵌入式OSRTOS 【免费下载链接】rt-thread RT-Thread is an open source IoT Real-Time Operating System (RTOS). https://rt-thread.github.io/rt-thread/ 项目地址: https://gitcode.com/gh_mirrors/rt/rt-thread 点击查看 免费下载 Raspber…
阅读更多 →干了这么多年AI部署,说实话被各种推理卡折磨过不少回,Atlas 300V 24G 这张卡算是让我印象比较深的一张。一开始单纯以为它就是一张普通的 PCIe 加速卡,结果从驱动到算子适配到模型转换,每一步都有它自己的脾气。这篇文章就围绕 At…
阅读更多 →最近在折腾Atlas这块卡,把YOLO模型从PyTorch一路迁移到昇腾推理环境,踩了不少坑,也终于理清了整套流程。先说结论:Atlas 300V 24G确实是运算加速卡,但更准确的说法是AI推理加速卡,它和打游戏的显卡、跑训练…
阅读更多 →1. 项目概述:为什么CIFAR-10和CIFAR-100仍是深度学习入门绕不开的“第一块砖”你刚打开PyTorch文档,想跑通第一个图像分类模型,官方教程里赫然写着torchvision.datasets.CIFAR10;你在Keras官网上找示例代码,tf.keras.d…
阅读更多 →1. 一张24GB的推理卡,先搞清楚它能干什么先回答那个被反复问到的问题:Atlas 300V 24G确实是运算加速卡,而且不是那种插在个人电脑里跑游戏的显卡,它的定位是数据中心和边缘服务器里的AI推理加速卡。很多朋友看到“300V”“24G”第…
阅读更多 →/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …
阅读更多 →1. 项目概述:Atlas到底是什么东西?很多人第一次听到Atlas,要么以为它是某张游戏显卡,要么以为是某个开源项目代号。实际上,华为Atlas是昇腾AI计算平台的产品线,本质上是一张专门用来跑神经网络推理的运算加…
阅读更多 →/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …
阅读更多 →/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …
阅读更多 →/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …
阅读更多 →