主要介绍了激活函数的定义、作用和发展现状,并对常见激活函数的特点及其对深度神经网络性能的影响进行了简单分析,对基于TensorFlow框架使用Kaggle比赛数据集(cat vs dog)分别使用ReLu和ELU激活函数进行图像分类识别的对比实验,为目前...主要介绍了激活函数的定义、作用和发展现状,并对常见激活函数的特点及其对深度神经网络性能的影响进行了简单分析,对基于TensorFlow框架使用Kaggle比赛数据集(cat vs dog)分别使用ReLu和ELU激活函数进行图像分类识别的对比实验,为目前激活函数的研究提供相关参考.展开更多
为实现锅炉过热汽温的预测优化控制,基于某600 MW超临界机组的运行数据,采用堆栈自编码器(stacked autoencoder,SAE)建立其过热汽温特性预测模型。为加快模型训练误差梯度的下降速度,引入自适应矩估计(adaptive moment estimation,Adam...为实现锅炉过热汽温的预测优化控制,基于某600 MW超临界机组的运行数据,采用堆栈自编码器(stacked autoencoder,SAE)建立其过热汽温特性预测模型。为加快模型训练误差梯度的下降速度,引入自适应矩估计(adaptive moment estimation,Adam)算法对SAE模型进行优化;对使用不同隐含层激活函数时预测模型精度的变化情况进行比较后,选择效果更好的elu激活函数。将基于以上策略建立的Adam-SAE过热汽温预测模型与采用随机搜索优化的极端梯度提升模型的预测效果进行对比,结果表明,Adam-SAE模型的预测误差更小、精度更高。展开更多
文摘为实现锅炉过热汽温的预测优化控制,基于某600 MW超临界机组的运行数据,采用堆栈自编码器(stacked autoencoder,SAE)建立其过热汽温特性预测模型。为加快模型训练误差梯度的下降速度,引入自适应矩估计(adaptive moment estimation,Adam)算法对SAE模型进行优化;对使用不同隐含层激活函数时预测模型精度的变化情况进行比较后,选择效果更好的elu激活函数。将基于以上策略建立的Adam-SAE过热汽温预测模型与采用随机搜索优化的极端梯度提升模型的预测效果进行对比,结果表明,Adam-SAE模型的预测误差更小、精度更高。
