Partial Channel Network
Partial Channel Network AAAI2026
核心思路是在保证模型精度的前提下,通过“部分通道计算”来大幅降低计算量、提升推理速度。
现有高效网络常用的深度可分离卷积(DWConv) 虽然降低了FLOPs和参数量,但在实际推理时存在频繁内存访问和低并行度的问题,导致吞吐量(Throughput)偏低。
论文提出了两个核心模块:
部分注意力卷积(PATConv):将部分通道用于卷积,另一部分通道用于视觉注意力,两者并行处理。
不同于以往将卷积和注意力串联(Series)的做法,能同时提升性能和推理速度。
动态部分卷积(DPConv):能根据模型参数或延迟等约束,自适应地为不同层学习最优的通道拆分比例。
三大创新点
提出并行融合的PATConv:将视觉注意力集成到部分卷积中,以并行方式融合二者,区别于传统的串联方式,实现了性能和速度的双重提升。
设计三种轻量级注意力模块:
PAT_ch(通道注意力):增强通道间全局信息交互,有望替代常规卷积和DWConv。
PAT_sp(空间注意力):以极小代价增强MLP层。
PAT_sf(自注意力):在模型最后阶段引入全局自注意力,扩大感受野,融合局部与全局特征。
提出可学习的DPConv:能够根据约束条件(如参数量、延迟)自适应地学习每一层的最佳通道拆分比例,实现推理速度与精度的最优平衡
语义分割 目标检测 深度学习 人工智能 计算机视觉 Python 硕士






