Page 341 - 《软件学报》2024年第6期
P. 341

龙茂森 等: 特征扩展的随机向量函数链神经网络                                                         2917


                    下面讨论各实验模型的网络规模            (注: 在本文中, 与模型输出层相连的神经元            (或特征) 的数量, 即特征扩展节
                 点数, 被称为网络规模). 由公式       (1)–公式  (3) 可知, 在  RVFLNN  中, 输入层与增强层之间的连接权值和偏置被随机
                                                     W ∈ R a 1 ×c                         W ∈ R a 1 ×c  的计算量
                 生成后固定, 模型需要学习的参数是输出权值                       , a 1 是特征扩展层的节点数. 网络参数
                 跟  a 1 相关, RVFLNN  的训练速度也主要受      a 1 影响. 由于  BL-DFIS  和  FA-RVFLNN  也看成  RVFLNN, 分别用  a 0 ,
                 a 2 , a 3 表示  RVFLNN(C)、BL-DFIS、FA-RVFLNN  的特征扩展节点数. 则  a 0 , a 1,  a 2 , a 3 的计算式为:
                                                  
                                                  a 0 = m+S 0
                                                  
                                                  
                                                  
                                                  
                                                  
                                                  a 1 = m+S 1
                                                  
                                                                                                     (35)
                                                  
                                                   a 2 = M + L 2 (1+ M)
                                                  
                                                  
                                                  
                                                  
                                                  
                                                   a 3 = m+S 3 + M + L 3 (1+ M)
                                                  
                 其中, m, S, M, L  分别为相应模型的属性数、增强节点数、特征节点数、模糊规则数.
                    表  3  列出了实验模型在各分类数据集上使用的特征扩展节点数                   (注: 实验中  BL-DFIS  与  FA-RVFLNN  的特征
                 节点数   M  相等). 相比于  RVFLNN(C) 与  BL-DFIS, 虽然  FA-RVFLNN  特征的种类更多, 但   FA-RVFLNN  使用的模
                 糊规则数和增强节点数都降低了, FA-RVFLNN           在  17 个数据集上的网络规模都要低于          RVFLNN(C). 而与  BL-DFIS
                 相比却各有优劣: 对于小型数据集, 由于           BL-DFIS  本身使用的模糊规则数接近于         1, 直接链接和增强节点的加入不
                 可避免地造成了      FA-RVFLNN  的网络规模的增大, 但仍然在可接受的范围内. 对于大型复杂的数据集, 例如                     Musk、
                 penbased  等, FA-RVFLNN  的网络规模小于   BL-DFIS. 此外, FA-RVFLNN  的特征扩展节点的平均数和方差小于其
                 他模型. 虽然   RVFLNN  的网络规模也不大, 但由表        2  可知, 它的泛化性能低于其他模型.

                                       表 3    实验模型在分类数据集上使用的特征扩展节点数

                                         RVFLNN(C)     RVFLNN      BL-DFIS       FA-RVFLNN
                             Datasets
                                             a 0         a 1         a 2        a 3       M
                              Adult         164          614        241        128        17
                             Australian      94          39          56         75        17
                              Balance        49          44         106         67        11
                                                                                          13
                                                                                47
                                                                     60
                              Breast         14          469
                                                         39
                             Cleveland       23          23          7          25        3
                            Contraceptive   179          64          93         65        11
                             Diabetes        63          18          18         28        8
                             Haberman        78          18          11         15        3
                               Iris          49          24          17         17        5
                              Liver         556          46          15         22        7
                              Magic         140          280        206        162        12
                              Musk          1 216        736        1 516      948        83
                            Newthyroid      255          35          85         92        13
                             Pageblocks     310          60         145        117        10
                             Penbased       366          376        526        334        20
                             Satimage       476          506        278        305        21
                             Segment        419                     240        282        14
                              Seismic        23          43          7          28        3
                              Sonar         330          100         51        110        15
                             Spectfheart     54          54          28         70        11
                              Texture       510          230        310        286        30
                              Vehicle       148          238        144        148        22
                               Vote          36          51          33         50        16
                              Wine          113          23          47         59        22
                              WPBC          233          48          67        107        33
                             Average        236          167        172        144        -
                               Std.         258          206        300        189        -
   336   337   338   339   340   341   342   343   344   345   346