Page 341 - 《软件学报》2024年第6期
P. 341
龙茂森 等: 特征扩展的随机向量函数链神经网络 2917
下面讨论各实验模型的网络规模 (注: 在本文中, 与模型输出层相连的神经元 (或特征) 的数量, 即特征扩展节
点数, 被称为网络规模). 由公式 (1)–公式 (3) 可知, 在 RVFLNN 中, 输入层与增强层之间的连接权值和偏置被随机
W ∈ R a 1 ×c W ∈ R a 1 ×c 的计算量
生成后固定, 模型需要学习的参数是输出权值 , a 1 是特征扩展层的节点数. 网络参数
跟 a 1 相关, RVFLNN 的训练速度也主要受 a 1 影响. 由于 BL-DFIS 和 FA-RVFLNN 也看成 RVFLNN, 分别用 a 0 ,
a 2 , a 3 表示 RVFLNN(C)、BL-DFIS、FA-RVFLNN 的特征扩展节点数. 则 a 0 , a 1, a 2 , a 3 的计算式为:
a 0 = m+S 0
a 1 = m+S 1
(35)
a 2 = M + L 2 (1+ M)
a 3 = m+S 3 + M + L 3 (1+ M)
其中, m, S, M, L 分别为相应模型的属性数、增强节点数、特征节点数、模糊规则数.
表 3 列出了实验模型在各分类数据集上使用的特征扩展节点数 (注: 实验中 BL-DFIS 与 FA-RVFLNN 的特征
节点数 M 相等). 相比于 RVFLNN(C) 与 BL-DFIS, 虽然 FA-RVFLNN 特征的种类更多, 但 FA-RVFLNN 使用的模
糊规则数和增强节点数都降低了, FA-RVFLNN 在 17 个数据集上的网络规模都要低于 RVFLNN(C). 而与 BL-DFIS
相比却各有优劣: 对于小型数据集, 由于 BL-DFIS 本身使用的模糊规则数接近于 1, 直接链接和增强节点的加入不
可避免地造成了 FA-RVFLNN 的网络规模的增大, 但仍然在可接受的范围内. 对于大型复杂的数据集, 例如 Musk、
penbased 等, FA-RVFLNN 的网络规模小于 BL-DFIS. 此外, FA-RVFLNN 的特征扩展节点的平均数和方差小于其
他模型. 虽然 RVFLNN 的网络规模也不大, 但由表 2 可知, 它的泛化性能低于其他模型.
表 3 实验模型在分类数据集上使用的特征扩展节点数
RVFLNN(C) RVFLNN BL-DFIS FA-RVFLNN
Datasets
a 0 a 1 a 2 a 3 M
Adult 164 614 241 128 17
Australian 94 39 56 75 17
Balance 49 44 106 67 11
13
47
60
Breast 14 469
39
Cleveland 23 23 7 25 3
Contraceptive 179 64 93 65 11
Diabetes 63 18 18 28 8
Haberman 78 18 11 15 3
Iris 49 24 17 17 5
Liver 556 46 15 22 7
Magic 140 280 206 162 12
Musk 1 216 736 1 516 948 83
Newthyroid 255 35 85 92 13
Pageblocks 310 60 145 117 10
Penbased 366 376 526 334 20
Satimage 476 506 278 305 21
Segment 419 240 282 14
Seismic 23 43 7 28 3
Sonar 330 100 51 110 15
Spectfheart 54 54 28 70 11
Texture 510 230 310 286 30
Vehicle 148 238 144 148 22
Vote 36 51 33 50 16
Wine 113 23 47 59 22
WPBC 233 48 67 107 33
Average 236 167 172 144 -
Std. 258 206 300 189 -