Page 298 - 《软件学报》2026年第2期
P. 298
张建新 等: 依存句法信息增强的完全非自回归翻译 777
1.0 1.0
und 1.0 0.1 0.1 0.1 0 0.3 und 0.8 0.1 0.3 0.1 0 0.1
0.8 0.8
dann 0.1 1.0 0.1 0 0.1 0.1 dann 0.1 0.8 0.2 0.1 0.1 0
passierte 0.1 0.1 0.9 0.1 0.1 0.2 0.6 passierte 0.3 0.2 0.7 0.2 0.2 0 0.6
es 0.1 0 0.1 0.9 0.1 0.2 0.4 es 0.1 0.1 0.2 0.6 0 0.1 0.4
wieder 0 0.1 0.1 0.1 0.9 0.2 wieder 0 0.1 0.2 0 1.0 0.1
0.2 0.2
· 0.3 0.1 0.2 0.2 0.2 1.0 · 0.1 0 0 0.1 0.1 0.5
0 0
und dann passierte es wieder · und dann passierte es wieder ·
(a) GLAT encoder 对表10中的 (b) SynNAT encoder 对表10中的
ൕ২ 1 编码后的词元之间的内积 ൕ২ 1 编码后的词元之间的内积
1.0 1.0
ich 1.0 0.2 0.4 0.1 0.2 0.5 ich 0.8 0.1 0.1 0 0.3 0.2
0.8 0.8
wollte 0.2 0.9 0.1 0 0.1 0.1 wollte 0.1 1.0 0.1 0 0.2 0.1
0.6 0.6
uns 0.4 0.1 0.9 0.2 0.2 0.5 uns 0.1 0.1 1.0 0.1 0.2 0.1
gesund 0.1 0 0.2 0.9 0.1 0.2 0.4 gesund 0 0 0.1 1.0 0.2 0 0.4
halten 0.2 0.1 0.2 0.1 0.9 0.1 halten 0.3 0.2 0.2 0.2 0.9 0.1
0.2 0.2
· 0.5 0.1 0.5 0.2 0.1 1.0 · 0.2 0.1 0.1 0 0.1 0.5
0 0
ich wollte uns gesund halten · ich wollte uns gesund halten ·
(c) GLAT encoder 对表10中的 (d) SynNAT encoder 对表10中的
ൕ২ 2 编码后的词元之间的内积 ൕ২ 2 编码后的词元之间的内积
图 12 译文相同情况下不同编码器输出的词元之间的内积案例分析
GALT 1.04 1.15 1.93 0.96 1.23 1.07 1.5 GLAT 1.02 2.59 1.25 1.73 0.47 1.23 1.05 2
1.0 1
SynNAT 0.89 0.51 1.29 0.63 0.30 0.62 SynNAT 0.83 0.93 0.74 0.42 0.21 0.19 0.66
0.5
and then it happened again · i wanted to keep us healthy ·
(a) ؓႋ12 a a b ֥ၲ໓Ս߸ყҩྐ༏᧦ (b) ؓႋ12 c a d ֥ၲ໓Ս߸ყҩྐ༏᧦
图 13 译文相同情况下词汇预测熵值对比案例分析
此外, 我们还测量了表 9 中 4 个翻译结果与整个 IWSLT14 DE→EN 蒸馏数据集中所有翻译句子的平均句法
质量, 使用如下 3 个层面的指标进行评估.
Parse Validity: 该指标衡量生成句子的依存句法树结构是否合法, 具体包括是否存在唯一的根节点, 以及是否
出现非法的依存关系标签 (如 dep、orphan 等). 该指标为二值型 (0 或 1), 表示依存结构是否符合基本句法规则. 该
评价方式参考了 SpaCy 标注标准及常用依存分析评估规则. 1 表示合法, 0 表示不合法.
Acceptability Score: 该指标通过在 CoLA 数据集 [82] 上训练的 BERT 分类模型进行判别, 输出句子在语法上被
人类接受的概率. 该得分反映了句子的“自然性”或“句法流畅度”, 其值域为 [0, 1], 越高表示句子越符合语法规范
和语言习惯 [83] .

