Page 44 - 《软件学报》2026年第4期
P. 44

翟浩杰 等: 基于自适应策略优化的鲁棒泛化权衡学习                                                       1485


                            表 5 CIFAR-100  数据集上各种策略调整方法鲁棒模型            (adv) 的测试准确率对比     (%)

                       方法          lr    Clean    FGSM     PGD-10    PGD-20    PGD-50     AA      C&W
                                   lr1   57.04    29.63     26.32     25.75     25.52     22.84   10.24
                      PGD-AT
                                   lr2   56.70    27.74     24.08     23.57     23.38     21.19    6.91
                   PGD-AT-linear   lr1   64.63    22.39     15.31     14.05     13.78     12.76    0.55
                      (ε max  = 8/255)  lr2  63.07  24.60   18.12     17.02     16.63     15.65    1.17
                   PGD-AT-linear   lr1   61.37    25.12     19.21     18.24     17.80     16.96    1.30
                     (ε max  = 12/255)  lr2  59.74  25.80   21.01     19.96     19.71     18.93    2.24
                   PGD-AT-linear   lr1   58.94    25.25     20.16     19.40     19.15     18.02    1.97
                     (ε max  = 16/255)  lr2  61.71  27.52   22.68     21.51     21.11     19.48    4.58
                     TRG-ASO       lr1   53.78    30.36     28.19     28.02     27.92     24.37   14.38


                            表 6 CIFAR-100  数据集上各种策略调整方法综合模型            (sum) 的测试准确率对比      (%)

                       方法          lr    Clean    FGSM     PGD-10    PGD-20    PGD-50     AA      C&W
                                   lr1   57.04    29.63     26.44     25.78     25.61     22.83   10.23
                      PGD-AT
                                   lr2   56.87    27.89     24.17     23.49     23.33     21.45    6.61
                   PGD-AT-linear   lr1   64.69    22.42     15.14     13.86     13.63     12.59    0.58
                      (ε max  = 8/255)  lr2  66.24  23.78   16.06     14.69     14.42     13.33    1.67
                   PGD-AT-linear   lr1   63.30    24.36     17.96     16.64     16.38     15.66    1.17
                     (ε max  = 12/255)  lr2  63.82  26.21   20.39     19.33     18.88     17.42    3.15
                   PGD-AT-linear   lr1   67.41    21.83     14.31     12.88     12.31     11.04    1.34
                     (ε max  = 16/255)  lr2  61.71  27.52   22.63     21.58     21.15     19.46    4.58
                     TRG-ASO       lr1   54.50    30.42     28.07     27.50     27.51     24.10   12.96

                  4.2.2    模型收敛趋势分析
                    为了深入分析模型的收敛趋势并监测过拟合现象, 我们记录了以上方法在                         CIFAR-10  测试集上的两项关键指
                 标, 即干净准确率和鲁棒准确率的变化趋势. 其中, 干净准确率反映了模型在未受干扰的原始数据上的性能表现,
                 而鲁棒准确率则通过生成对抗样本来评估模型在对抗环境下的稳定性. 此部分实验中, 鲁棒准确率的评估采用
                 PGD-10  攻击生成对抗样本. 图     2  和图  3  展示了各种训练方式下鲁棒准确率和干净准确率随训练周期的变化趋势.
                 图  4  展示了  TRG-ASO  针对攻击策略的阶段性自适应优化结果.


                                             早停                   90
                     50                                           80
                    鲁棒准确率 (%)  30          PGD-AT (lr1, 8/255)   干净准确率 (%)  70          PGD-AT (lr1, 8/255)
                     40
                                                                                          早停
                                                                                        PGD-AT (lr2, 8/255)
                                                                  60
                                           PGD-AT (lr2, 8/255)
                                                                                        PGD-AT-linear (lr1, 8/255)
                                           PGD-AT-linear (lr1, 8/255)
                     20
                                                                                        PGD-AT-linear (lr2, 8/255)
                                                                  50
                                           PGD-AT-linear (lr2, 8/255)
                                           PGD-AT-linear (lr1, 12/255)
                                                                                        PGD-AT-linear (lr2, 12/255)
                                           PGD-AT-linear (lr2, 12/255)
                     10
                                                                                        PGD-AT-linear (lr1, 16/255)
                                           PGD-AT-linear (lr1, 16/255)  40              PGD-AT-linear (lr1, 12/255)
                                                                                        PGD-AT-linear (lr2, 16/255)
                                           PGD-AT-linear (lr2, 16/255)  30
                      0                    TRG-ASO                                      TRG-ASO
                        0   25  50  75  100  125  150  175  200      0   25  50  75  100  125  150  175  200
                                      周期                                            周期
                     图 2    各策略在  CIFAR-10  上的鲁棒准确率               图 3    各策略在  CIFAR-10  上的干净准确率
                    从图  2  和图  3  中可以看出, 在标准对抗训练       PGD-AT  下, 不论使用哪一种学习率调整方式, 模型在训练后期
                 均会陷入鲁棒过拟合, 并且只有在学习率调整后, 对抗准确率有短暂的上升, 之后仍然出现了过拟合现象. 相比之
                 下, TRG-ASO  可以使模型更快、更早地获得更高的鲁棒性, 同时可以在相邻两次攻击策略调整时, 依据适应度函
                 数值的变化来判断是否实施早停, 从而避免严重的过拟合现象发生. 由于                       TRG-ASO  在训练过程中会阶段性地调
                 整策略, 这使得模型即使陷入过拟合, 依然可以借助策略调整从过拟合中解脱出来. 综上所述, TRG-ASO                           可以在训
                 练初期有效实现鲁棒准确率和干净准确率的同步提升, 且当二者在某阶段呈现出相反的趋势时, 依然对鲁棒性提
   39   40   41   42   43   44   45   46   47   48   49