Page 406 - 《软件学报》2026年第3期
P. 406

刘建春 等: 基于块级多输出和知识自蒸馏的高效联邦学习框架                                                   1369


                 测试精度为    52.63%, 而  FedAvg、FedProx、MOON  和  BOSE  训练出的全局模型的最高测试精度分别为             50.96%、
                 48.94%、48.18%  和  51.42%. 因此, 我们提出的  FedAlt 相比于其他  4  种基线方法, 由于块级多输出正则化和知识自
                 蒸馏技术的引入加速了全局模型的收敛速度.

                         80
                                                                50

                        测试精度 (%)  75                           测试精度 (%)  45

                         70
                                                                40
                                                     FedAvg
                                                     FedProx                                 FedAvg
                                                                                             FedProx
                         65                          MOON       35                           MOON
                                                     FedAlt                                  FedAlt
                                                     BOSE                                    BOSE
                         60                                     30
                               40     80    120    160    200        40     80     120    160    200
                                          轮数                                     轮数
                            (a) 不同方法在 CIFAR-10 数据集上的测试精度           (b) 不同方法在 CIFAR-100 数据集上的测试精度
                               图 3 在  ε = 7 下, 不同方法在  CIFAR-10  和  CIFAR-100  数据集上的测试精度

                                                      FedAvg    2.4                          FedAvg
                        1.50
                                                      FedProx                                FedProx
                                                      MOON      2.3                          FedMLB
                        1.25                          FedAlt                                 FedAlt
                                                      BOSE      2.2                          BOSE
                       训练损失  1.00                              训练损失  2.1


                                                                2.0
                        0.75
                                                                1.9
                        0.50
                                                                1.8
                                40     80    120    160   200         40     80    120    160    200
                                          轮数                                     轮数
                              (a) 不同方法在 CIFAR-10 数据集上的损失             (b) 不同方法在 CIFAR-100 数据集上的损失
                                      ε = 7 下, 不同方法在  CIFAR-10  和  CIFAR-100  数据集上的训练损失
                               图 4 在

                         80
                                                                50
                        测试精度 (%)  75                          测试精度 (%)  45


                         70
                                                                40
                                                     FedAvg
                                                     FedProx                                FedAvg
                                                                                            FedProx
                         65                          MOON       35                          MOON
                                                     FedAlt                                 FedAlt
                                                     BOSE                                   BOSE
                         60                                     30
                            3  6  9  12  15  18  21  24  27  30  33  3  6  9  12  15  18  21  24  27  30  33
                                       时间 (×100 s)                            时间 (×100 s)
                           (a) 在 CIFAR-10 数据集上具有时间约束的测试精度        (b) 在 CIFAR-100 数据集上具有时间约束的测试精度
                              图 5 不同方法在      CIFAR-10  和  CIFAR-100  上随完成时间约束变化的测试精度
   401   402   403   404   405   406   407   408   409   410   411