Page 148 - 《软件学报》2026年第4期
P. 148

陇盛 等: 基于动量加速和任务均衡的目标检测对抗训练方法                                                    1589


                                          {                           }
                                                              1
                                                                                   ′
                                 x k = argmin F (x k )+⟨F (x k ),z− x k ⟩+  ∥z− x k ∥ 2  ⇔ x k = x k −η k F (x k ).
                                                   ′
                                                              2η k
                                      z∈S x
                    因此  NAG ad 迭代公式可表示为:
                             v

                                                  (  √     )
                                             a k+1 = 1+  4a +1 /2
                                                        2
                                             
                                                        k
                                             
                                             
                                             
                                                           (      )   , ∀k ⩾ 0                       (A1)
                                             
                                              x k+1 = x k +(a k −1) x k − x k−1 /a k+1
                                             
                                             
                                             
                                             
                                              x k+1 = x k+1 −η k+1 F (x k+1 )
                                                          ′
                                                        (
                                                              )
                                                   2
                                              2
                                                          −1
                                            ,
                                                    ,
                    因为  σ k+1 ≡ 1/a k+1 , 则  σ k ≡ 1/a k σ ≡ 1/a σ k+1 σ −1 ≡ (a k −1)/a k+1 . 代入公式  (A1) 第  2  行得:

                                              k    k      k
                                                               (     )
                                                     (     )
                                                                 −1
                                             x k+1 =x k + x k − x k−1 σ k+1 σ −1
                                                                 k
                                                        (                  )
                                                =x k −σ k+1 x k − x k σ − x k−1 + x k−1 σ −1
                                                              −1
                                                              k           k
                                                        (     (            ) )
                                                =x k −σ k+1 x k −σ −1  x k − x k−1 (1−σ k )          (A2)
                                                             k
                                         )
                    令  z k ≡ σ −1  ( x k − x k−1 (1−σ k )  有:
                           k

                                                                                                     (A3)
                                         x k = (1−σ k ) x k−1 +σ k z k , x k+1 = (1−σ k+1 ) x k +σ k+1 z k+1
                                         )
                    将  z k ≡ σ −1  ( x k − x k−1 (1−σ k )  代入公式  (A2) 得:
                           k

                                                                                                     (A4)
                                                   x k+1 = (1−σ k+1 ) x k +σ k+1 z k
                    联立公式    (A3) 和  (A4) 可得:

                                          x k+1 = x k+1 −σ k+1 z k+1 +σ k+1 z k = x k+1 −σ k+1 (z k+1 −z k )  (A5)
                    上式移项, 方程两边同时除以         σ k+1  得:

                                                  z k+1 −z k = σ −1  x k+1 −σ −1  x k+1              (A6)
                                                           k+1    k+1
                    将公式   (A1) 第  3  行代入公式  (A6) 得:

                                                   z k+1 = z k −σ −1  η  ′                           (A7)
                                                            k+1 k+1 F (x k+1 )
                    结合公式    (A3)、(A4)、(A7) 可得:

                                              
                                               x k+1 = (1−σ k+1 ) x k +σ k+1 z k
                                              
                                              
                                              
                                              
                                               z k+1 = z k −σ −1  η  ′                              (A8)
                                                         k+1 k+1 F (x k+1 ) , ∀k ⩾ 0
                                              
                                              
                                              
                                              
                                                x k+1 = (1−σ k+1 ) x k +σ k+1 z k+1
                    定理  1  得证.
                  附录  B. 定理  2  证明
                    同定理   1  证明, NAG ad 迭代公式等价于:
                                     v

                                                  (  √     )
                                                         2
                                             
                                             a k+1 = 1+  4a +1 /2
                                             
                                                        k
                                             
                                             
                                             
                                                           (      )   , ∀k ⩾ 0                       (B1)
                                             
                                              x k+1 = x k +(a k −1) x k − x k−1 /a k+1
                                             
                                             
                                             
                                             
                                                          ′
                                              x k+1 = x k+1 −η k+1 F (x k+1 )
                                ,
                    令  v k ≡ x k − x k−1 λ k ≡ (a k −1)/a k+1 . 公式  (B1) 第  2  行变为:

                                                                                                     (B2)
                                                       x k+1 = x k +λ k v k
                    将公式   (B2) 代入公式   (B1) 第  3  行移项得:

                                                                 (      )
                                                                 ′
                                                x k+1 − x k = λ k v k −η k+1 F x k +λ k v k          (B3)
                    将  v k+1 ≡ x k+1 − x k  与公式  (B3) 联立得:

                                                               (      )
                                                               ′
                                                 v k+1 = λ k v k −η k+1 F x k +λ k v k
                                                                                                    (B4)
                                                 
                                                 
                                                  x k+1 = x k +v k+1
                           −1
                    令  g k ≡ η v k , 公式  (B4) 可改写为:

                           k
   143   144   145   146   147   148   149   150   151   152   153