Page 291 - 《软件学报》2026年第2期

770 软件学报 2026 年第 37 卷第 2 期

表 2 不同模型在 WMT 任务上的结果展示 (续)

WMT14 WMT16
模型 I dec Speedup
EN→DE DE→EN EN→RO RO→EN
NAT-FT+NPD (m=100) 1 19.17 23.20 29.79 31.44 2.4×
imit-NAT+NPD (m=7) 1 24.15 27.28 31.45 31.81 9.7×
NAT-HINT+NPD (m=9) 1 25.20 29.52 － － －
w/NPD
Flowseq+NPD (m=30) 1 25.31 30.68 32.20 32.84 －
NAT-DCRF+NPD (m=9) 1 26.07 29.68 － － 6.1×
RenewNAT+NPD (m=5) 1 26.54 30.55 32.86 33.35 10.7×
[29]
GLAT 1 25.21 29.84 31.19 32.04 15.3×
SynNAT 1 25.96 29.97 33.10 33.84 13.27×
GLAT+CTC 1 26.39 29.54 32.79 33.84 14.6×
Ours
SynNAT+CTC 1 26.85 30.36 33.62 34.47 12.37×
GLAT+NPD (m=7) 1 26.55 31.02 32.87 33.51 7.9×
SynNAT+NPD (m=5) 1 27.06 31.13 34.34 34.67 9.84×

3.6 实验结果
表 2 所示使用不同的基础模型在 WMT 的 4 个数据集上评估了我们的方法, I de 表示解码器迭代生成的次数.
c
实验结果表明, 我们的方法在所有数据集上显著提升了强大的 Fully NAT 模型 GLAT 和 GLAT+CTC 的
BLEU 分数. 尤其是在 WMT16 EN→RO 数据集上, GLAT+NPD (m=7) 的 BLEU 分数提升了 1.47. 不同基础模型上
的一致性改进进一步验证了方法的广泛适用性和有效性. 此外, 与其他方法相比, 我们的模型不仅提升了翻译质
量, 同时解码速度的损失有限, 这表明我们提出的方法能够有效提升 NAT 模型的整体性能. 这些结果不仅凸显了
方法在多种翻译任务中的优势, 也为非自回归模型的进一步改进提供了重要参考. 此外, 在比较先进的模型中,
PCFG-NAT [73] 采用了基于概率上下文无关文法的目标端建模方式来增强 NAT 模型捕捉输出端复杂依赖关系的能
力, 而我们的方法则通过句法树显式建模源端信息来优化解码过程. DA-Transformer [74] 提出了一种新的方法有向
无环 Transformer, 该方法在有向无环图 (DAG) 中表示隐藏状态, 其中 DAG 的每条路径对应于一种特定的翻译.
整个 DAG 结构同时捕捉多种翻译, 并在非自回归方式下实现快速预测. 与我们的方法相比, DA-Transformer 在
En↔De 数据集上取得了更高的 BLEU 分数. 然而, 由于其基于 DAG 结构的表示方式引入了较高的计算复杂度,
导致其解码速度明显较慢. 相比之下, 我们的方法在翻译质量与推理效率之间保持了更好的平衡, 使其在实时翻译
场景中更具优势.
4 消融实验

本节主要探讨不同因素对模型的影响, 包括原始数据集、邻接矩阵与邻接标签嵌入的效果、源句长度、
GCN 子层数量、两种编码器获得的隐藏状态的融合顺序、融合因子 β 的影响、与自回归模型结合的可行性分析、
不同距离度量方式的影响以及对源语言的句法建模深入探讨等消融实验.
4.1 原始数据的影响
除在蒸馏数据上进行了相关实验外, 我们希望了解原始数据对模型的影响. 在未经蒸馏的 IWSLT14 DE→EN
数据集和蒸馏后的 IWSLT14 DE→EN 数据集上进行了实验, 结果如图 3 所示. 可以看出, 我们的模型在 IWSLT14
DE→EN 测试集上的 BLEU 分数优于相应的基线模型, 表明了框架的稳健性. 我们还展示了蒸馏后 IWSLT
DE→EN 测试集的案例研究. 如表 3 中从 GLAT 和 SynNAT 模型在 IWSLT DE→EN 测试集上蒸馏的两个翻译示
例. 从示例 1 中可以看出, GLAT 使用了 she 这一词, 暗示主语是女性, 而原文中的 sie 并不一定指代某个特定的人
或性别 (尤其是在没有明确上下文的情况下). 而 SynNAT 则使用了 it, 这一表达更加中性, 且与 sie 可能指代非人
类的含义更为契合. 在 SynNAT 生成的句子, and to images in my imagination 更符合原文 zu bildern in meiner vors-
tellung 的意思. 相比之下, GLAT 生成的句子 and images to pictures in my mind 显得有些重复, 并且缺乏逻辑性, 特