Page 191 - 《软件学报》2020年第11期
P. 191
周塔 等:基于训练空间重构的多模块 TSK 模糊系统 3507
manifold structure of the original input space and ensure better or equivalent classification performance. In addition, this study focuses on
data sets with a small number of sample points and a small number of training features. In the design of each training unit, extreme
learning machine is used to obtain the Then-part parameters of fuzzy rules. For each intermediate training layer, short rules are used to
express knowledge. Each fuzzy rule determines the variable input features and Gaussian membership function by means of constraints, in
order to ensure that the selected input features are highly interpretable. Experimental results of real datasets and application cases show
that H-TSK-FS enhances classification performance and high interpretability.
Key words: TSK fuzzy system; multi-module training; interpret ability; extreme learning machine
由于 Takagi-Sugeno-Kang(TSK)模糊分类器 [1,2] 具有较高的分类性能和高可解释性,已经引起了很多研究者
的兴趣,因而在日常生活中也取得了广泛的应用,包括财务预测中的数据驱动预测技术、RTP 系统多变量控制、
图像处理和 EEG 脑电信号分类 [3−5] .目前,典型的工作包括很多的进化算法用来构造 TSK 模糊分类器,比如,基于
[6]
梯度下降优化技术的神经模糊方法 、深度模糊神经网络 [7,8] .在日常生活中,较高的分类精度和强的可解释性
往往是人们首要关注的.
为此,在本研究中,我们试图解决以下问题:(1) 不恰当的模糊划分导致模糊系统可解释性问题;(2) 模糊分
类器如何选择训练样本点和训练特征;(3) IF-THEN 模糊规则的复杂性;(4) 简化模糊推理过程和反模糊过程.
[9]
在大多数 TSK 模糊分类器中,人们通过使用各种聚类方法来确定模糊划分,典型的工作如 k-means 、FCM
及其改进算法 [10] 等.然而,模糊规则的设定也成为人们急需解决的问题之一.虽然,有专家认为模糊规则的长度
与分类任务中的特征数相同.也有专家提出可随机确定高斯隶属函数的中心、模糊规则数.当然,通过类似基于
聚类的方法生成的模糊规则通常不具有可解释性.
此外,人们通常采用模糊网格的方法来划分输入空间并生成模糊规则.显然,这种划分输入空间的方法快
捷、易操作.但是,当面临高维训练样本时,该方法自然会需要生成更多的模糊规则.这在一定程度上会削弱模糊
系统的可解释性,自然会引起规则爆炸问题 [11] .鉴于此,有学者 [12,13] 提出了通过特征降维的手段处理特征过多而
削弱模糊系统性能的技术.常见的分成模糊系统大致上可以分为增量式、聚集式和级联式,如图 1 所示.
1 x 2 x 3 x 4 x k x − 3 k x − 2 k x − 1 k x
FS 1 FS 2 FS 3 FS 4 FS k− 3 FS k− 2 FS k− 1 FS k
1 x 2 x k x 1 y 2 y 3 y 4 y k y − 3 k y − 2 k y − 1 k y
FS 1 FS 2 FS k
FS k + 1 FS k+ 2 FS k 2 − 1 FS k 2
1 x 2 x k x
1 y 2 y k y k y k y k y
FS 1 1 y FS 2 2 y FS k k y + 1 k y + 2 2 1 − 2
FS k+ 1 FS k 2 1 + FS S− 1
k y S y
k y + 1 + 1 1 −
2
FS S
S y
(a) 增量 (b) 聚合 (c) 级联
Fig.1 Structure of hierarchical TSK fuzzy classifier
图 1 层次 TSK 模糊分类器的结构
然而对于现有的分层 TSK 模糊分类器,主要面临这样的难题:(1) 增加训练层数的同时,无形当中会增加更
多的模糊规则,那么如何提高模糊系统的可解释性;(2) 对于构造一个深度学习模型而言,必然会生成很多中间
变量,那么如何生成短模糊规则保证系统的可解释性;(3) 已有的决策信息如何对后续训练起到约束作用;层与
层之间的样本信息如何传递;如何训练部分样本点和部分特征保证较好的或相当的分类性能.
为了解决上述提出的困难,本研究考虑设计一个分层的 TSK 模糊分类器,既可以提高分类精度,也可对中间
层输出和模糊规则进行合理的解释.这里,我们命名的分层模糊 TSK 分类器中,每个 TSK 模糊分类器所有中间
输出和模糊规则具有可解释性.这样的模糊结构主要借助于以下几点思考.