前言
本文介绍了 DiffCLIP，一种将差分注意力机制集成到 CLIP 架构的视觉 - 语言模型，并将其应用于 YOLOv11。差分注意力机制通过计算两个互补注意力分布的差值，抵消无关信息干扰。单头差分注意力将 Q 和 K 拆分，分别计算注意力分布后做差值融合；多头差分注意力则每个头独立执行差分操作后聚合输出。关键参数 λ 可动态调控噪声抵消强度。我们将 DiffAttention 代码集成到 YOLOv11 中，替换原有模块。实验表明，改进后的 YOLOv11 在图像 - 文本理解任务中表现出色。
文章目录： YOLOv11改进大全：卷积层、轻量化、注意力机制、损失函数、Backbone、SPPF、Neck、检测头全方位优化汇总
专栏链接: YOLOv11改进专栏