Page 144 - 《软件学报》2021年第12期

3808 Journal of Software 软件学报 Vol.32, No.12, December 2021

实值深度置信网(real-valued deep belief net with auxiliary units,简称 ADBN),该 ADBN 的网络结构如图 5 所示.

Hidden layer 2
h1 h2 ... h Nh2

Hidden layer 1
h1 h2 ... h Nh1

Auxiliary units
z1 z2 ... z Nh

v1 v2 ... v2 vNv
Visible layer
Fig.5 Structure of an ADBN
图 5 ADBN 模型的结构图

ARBM 和 ADBN 可以直接用于图像生成和图像分类任务,但由于 RBM 训练过程中的标准卷积运算和最大
池化运算是不可逆的,因此 ARBM 很难与卷积神经网络相结合构建深度神经网络结构.为了建立更强大的深度
神经网络,我们利用 ADBN 提取的深层特征作为条件 GAN(CGAN)的条件输入数据,建立深层生成神经网络.
GAN 被训练以最小化数据分布与模型分布之间的距离,而不是最大化似然函数.然而 GAN 训练是不稳定的,通
常观察到具有相似结构和超参数的生成器在不同的训练批次中表现出显著不同的行为.虽然 RBM 训练需要使
用基于采样的算法,但 RBM 的优势在于不存在模式丢失问题且 RBM 训练是稳定的.为了充分利用 ARBM 的优
势,并结合卷积操作生成清晰锐利的图像,本文利用 ADBN 提取的深度特征作为 CGAN 的条件输入 y,建立卷积
深度生成神经网络,与传统的随机噪声相比,这些深层特征能为 GAN 提供更稳定的初始状态.我们称这种深度
生成神经网络为基于辅助深度特征的条件生成对抗网络(conditional GAN with auxiliary deep features,简称
ACGAN),其模型结构如图 6 所示.
可见层 高斯噪声
附加 隐藏层 隐藏层
单元 n1 多个
x1
卷积
z1 h1 h1 n2 层构 生成样本
x2 *
成的 x 1
z2 h2 h2 生成
...
*
nN x 2
神经
...
网络 判
...
...
x3 ...
...
用作生成器 别
的附加输入y * 信
z Nh h Nh1 h Nh2
图 xNv x N 号
像 多个
输 作为条件GAN中判 卷积
x1
入 别器的附加输入y 层构
x2 成的
条件GAN中判别器
的输入x 判别
...
xN 神经
网络
输入层
Fig.6 Structure of an ACGAN
图 6 ACGAN 模型的结构图