期刊文献+
共找到1篇文章
< 1 >
每页显示 20 50 100
基于误差函数的自然梯度法及其在MLP学习中的应用 被引量:2
1
作者 李伟令 魏海坤 张侃健 《东南大学学报(自然科学版)》 EI CAS CSCD 北大核心 2011年第B09期152-155,共4页
在激活函数选为误差函数的条件下,给出了求Fisher信息矩阵逆的算法,并进行仿真验证.首先将自然梯度法应用于多层感知器学习中,并与BP(back-propagation)算法进行了比较,说明了自然梯度法能够加快学习速度,并且可能避免学习中出现平坦区... 在激活函数选为误差函数的条件下,给出了求Fisher信息矩阵逆的算法,并进行仿真验证.首先将自然梯度法应用于多层感知器学习中,并与BP(back-propagation)算法进行了比较,说明了自然梯度法能够加快学习速度,并且可能避免学习中出现平坦区现象,即使出现平坦区,也不会很严重.仿真验证了自然梯度法上述良好的学习性能,并且它渐近的逼近Cramer-Rao下界,从而验证了自然梯度学习是Fisher优效的,而通常的梯度法则不是Fisher优效的.另外,仿真也证实了自然梯度对训练样本中存在的噪声具有很好的鲁棒性. 展开更多
关键词 自然梯度法 多层感知器 Fisher信息矩阵 Fisher优效 Cramer.Rao不等式
下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部