Page 148 - 《软件学报》2026年第4期
P. 148
陇盛 等: 基于动量加速和任务均衡的目标检测对抗训练方法 1589
{ }
1
′
x k = argmin F (x k )+⟨F (x k ),z− x k ⟩+ ∥z− x k ∥ 2 ⇔ x k = x k −η k F (x k ).
′
2η k
z∈S x
因此 NAG ad 迭代公式可表示为:
v
( √ )
a k+1 = 1+ 4a +1 /2
2
k
( ) , ∀k ⩾ 0 (A1)
x k+1 = x k +(a k −1) x k − x k−1 /a k+1
x k+1 = x k+1 −η k+1 F (x k+1 )
′
(
)
2
2
−1
,
,
因为 σ k+1 ≡ 1/a k+1 , 则 σ k ≡ 1/a k σ ≡ 1/a σ k+1 σ −1 ≡ (a k −1)/a k+1 . 代入公式 (A1) 第 2 行得:
k k k
( )
( )
−1
x k+1 =x k + x k − x k−1 σ k+1 σ −1
k
( )
=x k −σ k+1 x k − x k σ − x k−1 + x k−1 σ −1
−1
k k
( ( ) )
=x k −σ k+1 x k −σ −1 x k − x k−1 (1−σ k ) (A2)
k
)
令 z k ≡ σ −1 ( x k − x k−1 (1−σ k ) 有:
k
(A3)
x k = (1−σ k ) x k−1 +σ k z k , x k+1 = (1−σ k+1 ) x k +σ k+1 z k+1
)
将 z k ≡ σ −1 ( x k − x k−1 (1−σ k ) 代入公式 (A2) 得:
k
(A4)
x k+1 = (1−σ k+1 ) x k +σ k+1 z k
联立公式 (A3) 和 (A4) 可得:
x k+1 = x k+1 −σ k+1 z k+1 +σ k+1 z k = x k+1 −σ k+1 (z k+1 −z k ) (A5)
上式移项, 方程两边同时除以 σ k+1 得:
z k+1 −z k = σ −1 x k+1 −σ −1 x k+1 (A6)
k+1 k+1
将公式 (A1) 第 3 行代入公式 (A6) 得:
z k+1 = z k −σ −1 η ′ (A7)
k+1 k+1 F (x k+1 )
结合公式 (A3)、(A4)、(A7) 可得:
x k+1 = (1−σ k+1 ) x k +σ k+1 z k
z k+1 = z k −σ −1 η ′ (A8)
k+1 k+1 F (x k+1 ) , ∀k ⩾ 0
x k+1 = (1−σ k+1 ) x k +σ k+1 z k+1
定理 1 得证.
附录 B. 定理 2 证明
同定理 1 证明, NAG ad 迭代公式等价于:
v
( √ )
2
a k+1 = 1+ 4a +1 /2
k
( ) , ∀k ⩾ 0 (B1)
x k+1 = x k +(a k −1) x k − x k−1 /a k+1
′
x k+1 = x k+1 −η k+1 F (x k+1 )
,
令 v k ≡ x k − x k−1 λ k ≡ (a k −1)/a k+1 . 公式 (B1) 第 2 行变为:
(B2)
x k+1 = x k +λ k v k
将公式 (B2) 代入公式 (B1) 第 3 行移项得:
( )
′
x k+1 − x k = λ k v k −η k+1 F x k +λ k v k (B3)
将 v k+1 ≡ x k+1 − x k 与公式 (B3) 联立得:
( )
′
v k+1 = λ k v k −η k+1 F x k +λ k v k
(B4)
x k+1 = x k +v k+1
−1
令 g k ≡ η v k , 公式 (B4) 可改写为:
k

