新闻详情

新闻详情

首页 / 资讯中心 / 详情

YOLOv13改进策略【注意力机制篇】| CVPR2023 NATTEN 邻域注意力,窗口里的稀疏全局

发布时间:2026/10/1 9:54:37来源:尧图网络
YOLOv13改进策略【注意力机制篇】| CVPR2023 NATTEN 邻域注意力,窗口里的稀疏全局
本文基于YOLOv13 官方仓库(iMoonLab/yolov13,ultralytics 8.3.63 fork)实测整理,Windows/CPU 全程可跑。Neighborhood Attention(Hassani et al.,CVPR 2023《Neighborhood Attention Transformer》,arXiv 2204.07143,官方源码 github.com/SHI-Labs/NATTEN)把自注意力从"全图两两配对"缩到"滑动邻域":每个 query 只对以自己为中心的 k×k 窗口做 softmax 注意力(边界处窗口裁剪)——感受野重叠滑过全图、复杂度 O(N·k²)。本文把官方 NeighborhoodAttention2D(kernel 3、dilation 1、heads=4)插进 v13n 层 8 之后,实测+263,168 参数、GFLOPs 6.54→6.75,与官方模块壳同权重逐位一致(max diff = 0;注意力核按官方 NA 语义用纯 torch unfold 实现,与逐像素暴力循环参考 diff = 4.77e-07),1 轮冒烟训练正常完成。前言窗口注意力的家族谱系是这样的:ViT 全图配对(贵)、Swin 固定不重叠窗口(便宜但边界生硬)、NATTEN 重叠滑动窗口(每个像素都是自己那扇窗的"窗主")——邻域之间天然有信息往来,边界不再是隔离墙,而账本只从 N² 降到 N·k²。官方 NATTEN 包
网站建设高端定制企业官网
RELATED

相关资讯

更多精彩内容,欢迎继续阅读

较早相关资讯

最新相关资讯

YOLO驾驶员行为检测实战:22600张数据集训练调优与边缘部署 2026/10/1 13:01:18

YOLO驾驶员行为检测实战:22600张数据集训练调优与边缘部署

驾驶员行为检测这个方向,我在过去两年里陆续接触过几个落地项目,从最初拿公开数据集跑通baseline,到后来自己参与标注和清洗两万多张实拍图,踩过的坑不算少。这次拿到的是一份22600张规模的YOLO格式驾驶员行为检测数据集&#xff…

阅读更多 →
基于Java Swing+MySQL的停车场管理系统设计与实现 2026/10/1 13:01:18

基于Java Swing+MySQL的停车场管理系统设计与实现

简介:这是一份基于Java Swing与MySQL的停车场管理系统完整源码包,适合Java初学者、课程设计或毕业设计人群,覆盖车辆出入场、计费、用户注册充值、信息查询与后台管理等典型业务场景。资源共80个文件,zip压缩包大小约2.11MB&#…

阅读更多 →
YOLO模块化改进框架:backbone/neck/head/loss可插拔设计 2026/10/1 13:01:12

YOLO模块化改进框架:backbone/neck/head/loss可插拔设计

简介:本资源是一套面向深度学习算法工程师与计算机视觉研究者的YOLO系列模型改进实战工具包,聚焦YOLOv5/v7/v8/v9四大主流版本,系统支持Backbone、Neck、Head、Loss函数、IoU计算、NMS策略及注意力机制等核心模块的可插拔式改进。压缩包共690…

阅读更多 →
ASP.NET WebForms商城源码+小程序双端部署实战指南 2026/10/1 13:01:12

ASP.NET WebForms商城源码+小程序双端部署实战指南

简介:这是一套基于ASP.NET开发的完整B/S架构商城系统源码,面向Web后端开发者、ASP.NET学习者及小程序全栈实践者,解决电商类项目快速搭建与二次开发需求。资源包含2000个文件,主体为3536个C#业务逻辑文件、377个ASPX页面、279个CS…

阅读更多 →
AI论文平台实测测评:研究生毕业论文写作效率提升指南 2026/10/1 13:01:12

AI论文平台实测测评:研究生毕业论文写作效率提升指南

我们组去年有四个研究生一起准备毕业答辩,论文进度参差不齐。有一个学弟光是文献综述就改了五版,最后那几天几乎天天通宵。我看不下去,把自己用过的AI论文平台整理了一套清单给他,结果他一周之内就把综述、英文摘要和降重收尾全处…

阅读更多 →
VC中Win32原生OpenGL三维绘图实战:从窗口创建到渲染上下文配置 2026/10/1 13:01:12

VC中Win32原生OpenGL三维绘图实战:从窗口创建到渲染上下文配置

简介:本资源是一套在Visual C环境下实现OpenGL三维图形渲染的完整工程实践代码包,面向C图形编程初学者与计算机图形学入门开发者,解决Windows平台下OpenGL环境搭建、上下文管理、三维建模与实时渲染等核心问题。压缩包共108个文件&#xff0c…

阅读更多 →

今日资讯

本周资讯

本月资讯

看完文章仍有疑问?

联系尧图顾问,获取一对一建站咨询

立即免费咨询 📞 400-888-8888
📞 ✉