新闻详情

新闻详情

首页 / 资讯中心 / 详情

YOLOv13改进策略【卷积层篇】| ICCV2023 SwiftFormer,一层线性注意力就够快

发布时间:2026/10/2 2:20:12来源:尧图网络
YOLOv13改进策略【卷积层篇】| ICCV2023 SwiftFormer,一层线性注意力就够快
本文基于YOLOv13 官方仓库(iMoonLab/yolov13,ultralytics 8.3.63 fork)实测整理,Windows/CPU 全程可跑。SwiftFormer(Shao et al., ICCV 2023《SwiftFormer: Efficient Additive Attention for Lightning-fast Vision Transformers》,官方源码 github.com/Amshaker/SwiftFormer)的核心是高效加性注意力:Q/K 线性映射并 L2 归一化后,用可学习向量给 Q 打分,token 维 softmax 得到全局上下文向量 G(B×D),输出Proj(G⊙K)+Q——全程没有 N×N 注意力矩阵,复杂度 O(N)。本文把官方 SwiftFormerEncoder 整块(局部表征 + 加性注意力 + MLP,双 layer-scale 残差)插进 v13n 层 8 之后(P5 出口,256 通道 @20×20),实测+924,928 参数、GFLOPs 6.54→7.28,与官方逐位一致(max diff = 0),1 轮冒烟训练正常完成。前言移动端 ViT 的进化链:MobileViT(第 85 篇)把 Transformer 塞进 CNN、EfficientFormer 砍掉 4D 注意力里的 layouts、SwiftFormer 再进一步——注意力矩阵整个不要了:每个 token 的注意力分数
网站建设高端定制企业官网
RELATED

相关资讯

更多精彩内容,欢迎继续阅读

较早相关资讯

最新相关资讯

OpenCV离线人脸聚类与场景理解系统 2026/10/2 4:56:41

OpenCV离线人脸聚类与场景理解系统

简介:本资源是一份面向人工智能与计算机视觉初学者、高校课程设计及系统开发者的专业参考文献,聚焦于利用OpenCV解决数码照片智能管理的实际问题。文档详细阐述了基于OpenCV构建智能相册系统的核心技术路径,包括照片元信息提取、Haar级联与LB…

阅读更多 →
CPU跑1000个智能体:原理实测与部署调优指南 2026/10/2 4:56:34

CPU跑1000个智能体:原理实测与部署调优指南

智能体这个词已经被炒了大半年,但英特尔最近丢出来的“一颗CPU跑1000个智能体”依然让我认真琢磨了一阵子。作为长期做AI应用落地的技术人,我第一反应是:这到底是个营销话术,还是真有点技术底牌?把AI Agent的算力主战场…

阅读更多 →
阜积铝业微通风窗源头生产厂家:广东用户力荐实力参考 2026/10/2 4:56:34

阜积铝业微通风窗源头生产厂家:广东用户力荐实力参考

你是不是对微通风窗的核心原理还一知半解?很多广东业主在选门窗时,都会听到微通风这个词,但真正能说清它到底怎么实现关窗也能换气的人少之又少。简单来说,普通开窗是通过扇体完全打开实现换气,而微通风窗则是通过扇体与框体之间…

阅读更多 →
OpenRig搭建指南:开放式硬件测试平台从零到实战 2026/10/2 4:56:27

OpenRig搭建指南:开放式硬件测试平台从零到实战

刚入坑硬件测试,我为什么建议你直接搭一套 OpenRig如果你和我一样,手里常年攒着七八块主板、三五张显卡、各种电源和散热器,每次想测个东西都要翻箱倒柜接线、换平台、装系统,测完又得拆掉,那你一定懂那种“测试五分钟…

阅读更多 →
Jev不是聊天机器人:智能if语句的原理、本地部署与Codex集成实操 2026/10/2 4:56:27

Jev不是聊天机器人:智能if语句的原理、本地部署与Codex集成实操

你大概和我一样,第一眼看到"Jev 不是聊天机器人,而是一个智能 if 语句"这个说法时,会愣一下。聊天机器人都快成为 AI 的代名词了,一个模型不是聊天机器人,还能是什么?但如果换个角度想&#xff1…

阅读更多 →
ECharts中国地图打点实战:Vue3中城市定位与坐标系纠偏 2026/10/2 4:56:27

ECharts中国地图打点实战:Vue3中城市定位与坐标系纠偏

1. 项目概述:为什么一张“带点的中国地图”在实际业务中远比想象中复杂 你拿到一个需求:“在Vue页面里,用ECharts画一张中国省份地图,再把几个城市标出来。”听起来很简单——不就是引入echarts、加载中国地图JSON、配置series加…

阅读更多 →

今日资讯

本周资讯

本月资讯

看完文章仍有疑问?

联系尧图顾问,获取一对一建站咨询

立即免费咨询 📞 400-888-8888
📞 ✉