Page 406 - 《软件学报》2026年第3期
P. 406
刘建春 等: 基于块级多输出和知识自蒸馏的高效联邦学习框架 1369
测试精度为 52.63%, 而 FedAvg、FedProx、MOON 和 BOSE 训练出的全局模型的最高测试精度分别为 50.96%、
48.94%、48.18% 和 51.42%. 因此, 我们提出的 FedAlt 相比于其他 4 种基线方法, 由于块级多输出正则化和知识自
蒸馏技术的引入加速了全局模型的收敛速度.
80
50
测试精度 (%) 75 测试精度 (%) 45
70
40
FedAvg
FedProx FedAvg
FedProx
65 MOON 35 MOON
FedAlt FedAlt
BOSE BOSE
60 30
40 80 120 160 200 40 80 120 160 200
轮数 轮数
(a) 不同方法在 CIFAR-10 数据集上的测试精度 (b) 不同方法在 CIFAR-100 数据集上的测试精度
图 3 在 ε = 7 下, 不同方法在 CIFAR-10 和 CIFAR-100 数据集上的测试精度
FedAvg 2.4 FedAvg
1.50
FedProx FedProx
MOON 2.3 FedMLB
1.25 FedAlt FedAlt
BOSE 2.2 BOSE
训练损失 1.00 训练损失 2.1
2.0
0.75
1.9
0.50
1.8
40 80 120 160 200 40 80 120 160 200
轮数 轮数
(a) 不同方法在 CIFAR-10 数据集上的损失 (b) 不同方法在 CIFAR-100 数据集上的损失
ε = 7 下, 不同方法在 CIFAR-10 和 CIFAR-100 数据集上的训练损失
图 4 在
80
50
测试精度 (%) 75 测试精度 (%) 45
70
40
FedAvg
FedProx FedAvg
FedProx
65 MOON 35 MOON
FedAlt FedAlt
BOSE BOSE
60 30
3 6 9 12 15 18 21 24 27 30 33 3 6 9 12 15 18 21 24 27 30 33
时间 (×100 s) 时间 (×100 s)
(a) 在 CIFAR-10 数据集上具有时间约束的测试精度 (b) 在 CIFAR-100 数据集上具有时间约束的测试精度
图 5 不同方法在 CIFAR-10 和 CIFAR-100 上随完成时间约束变化的测试精度

