Page 144 - 《软件学报》2026年第4期
P. 144

陇盛 等: 基于动量加速和任务均衡的目标检测对抗训练方法                                                    1585


                 样本准确率造成影响.
                    为探讨模型在使用本文算法进行长期训练的表现, 我们额外设置了                       T=200000 (5  倍原标准训练时间) 进行实
                 验, 结果如图   4  所示. 不难看出, 训练损失和各项检测精度值都随着迭代增加趋于稳定, 没有明显的过拟合或者性
                 能退化等情况发生. 同时从图         4(a) 也可以看出, 模型在经过      20 000  轮迭代训练后, 损失曲线不再明显下降, 说明此
                 时已经收敛.


                         0.9                                    0.9
                               Ours-clean  Ours-cls  Ours-loc  Ours-CWA  Ours-clean  Ours-cls  Ours-loc  Ours-CWA
                         0.8   PGD-clean  PGD-cls  PGD-loc  PGD-CWA  0.8
                         0.7                                    0.7
                         0.6                                    0.6
                         0.5                                    0.5
                         mAP  0.4                               mAP  0.4

                         0.3                                    0.3
                         0.2                                    0.2
                         0.1                                    0.1
                          0                                      0
                               5 000  10 000  15 000  20 000  25 000  30 000  35 000  40 000  算法内部迭代次数 (K)
                              0                                      0      5    10     15    20
                                      模型训练次数 (T)
                                 (a) 模型训练次数对检测精度影响                    (b) 算法内部迭代次数对检测精度影响
                       图 3 模型训练次数      (T) 和算法内部迭代次数      (K) 对  PGD  和本文方法所训练模型的检测精度影响


                         3.5                                    0.9
                                                                    Ours-clean  Ours-cls  Ours-loc  Ours-CWA
                         3.0                                    0.8
                                                                0.7
                         2.5
                                                                0.6
                         损失值  2.0                              mAP  0.5
                                                                0.4
                         1.5
                                                                0.3
                         1.0
                                                                0.2
                         0.5
                                                                0.1
                          0                                      0  0
                              10 000  20 000  30 000  40 000  50 000  60 000  70 000  80 000  90 000  100 000  110 000  120 000  130 000  140 000  150 000  160 000  170 000  180 000  190 000  200 000  10 000  20 000  30 000  40 000  50 000  60 000  70 000  80 000  90 000  100 000  110 000  120 000  130 000  140 000  150 000  160 000  170 000  180 000  190 000  200 000
                                      模型训练次数 (T)                            模型训练次数 (T)
                                    (a) 模型损失变化曲线                          (b) 模型检测精度变化曲线
                                      图 4 长期训练下模型的训练损失和检测精度变化趋势图

                    另外, 我们进一步研究了        NAG ad 和 v  LR  在不同迭代次数  (K∈{10, 20})、不同数据集    (PASCAL VOC 2007、
                 MS-COCO 2017) 上的独立和协同作用, 结果如表         6  和表  7  所示.
                    从表  6  的实验结果来看, NAG ad 和 v  LR  均能独立提高不同迭代次数基线算法的鲁棒精度. 在没有加入                    LR  的
                 情况下, NAG ad 能节省约    1/2  的训练时间达到与     PGD  相当的鲁棒性能, 同时使用        NAG ad 和 v  LR  鲁棒精度最高,
                             v
                 证明了两者具有一定的协同作用. 从表            7  算法在  MS-COCO  数据集的实验结果来看, NAG ad 的鲁棒性提升效果要
                                                                                       v
                 比  LR  更明显, 甚至于两者之间可能存在冲突          (NAG adv -20  优于  NAG adv -LR-20), 这可能是  MS-COCO  数据集中目
                 标尺度变化大导致的. 对于小目标, 由于其在图像中占比较小, 梯度范数可能相对较小, LR                        模块为平衡任务间的损
                 失差异, 生成对抗样本时梯度尺度变化可能集中于更易区分的大目标, 从而降低了对小目标的关注. 相反, NAG adv
                 可以平衡这些不同尺度目标带来的梯度尺度差异. 一方面, 动量可以累积小目标的小尺度梯度, 使对抗噪声向小目
                 标聚集, 从而提高模型对小目标鲁棒特征的学习. 同时, 对于大目标检测的大尺度梯度, 动量可以平滑更新, 避免模
                 型过度拟合大目标而忽略小目标.
   139   140   141   142   143   144   145   146   147   148   149