一个新的无约束优化超记忆梯度算法(英文) 被引量：24

1

作者 时贞军 《数学进展》 CSCD 北大核心 2006年第3期265-274,共10页

本文提出一种新的无约束优化超记忆梯度算法,算法利用当前点的负梯度和前一点的负梯度的线性组合为搜索方向,以精确线性搜索和Armijo搜索确定步长．在很弱的条件下证明了算法具有全局收敛性和线性收敛速度．因算法中避免了存贮和计算与... 本文提出一种新的无约束优化超记忆梯度算法,算法利用当前点的负梯度和前一点的负梯度的线性组合为搜索方向,以精确线性搜索和Armijo搜索确定步长．在很弱的条件下证明了算法具有全局收敛性和线性收敛速度．因算法中避免了存贮和计算与目标函数相关的矩阵,故适于求解大型无约束优化问题．数值实验表明算法比一般的共轭梯度算法有效． 展开更多

关键词 无约束优化 超记忆梯度算法 全局收敛性 数值实验

下载PDF 职称材料

初始点任意的解非线性不等式约束优化问题的结合共轭梯度参数的超记忆梯度广义投影算法 被引量：2

2

作者 孙清滢 《计算数学》 CSCD 北大核心 2004年第4期401-412,共12页

本文利用广义投影矩阵,对求解无约束规划的超记忆梯度算法中的参数给出一种新的取值范围以保证得到目标函数的超记忆梯度广义投影下降方向,并与处理任意初始点的方法技巧结合建立求解非线性不等式约束优化问题的一个初始点任意的超记忆... 本文利用广义投影矩阵,对求解无约束规划的超记忆梯度算法中的参数给出一种新的取值范围以保证得到目标函数的超记忆梯度广义投影下降方向,并与处理任意初始点的方法技巧结合建立求解非线性不等式约束优化问题的一个初始点任意的超记忆梯度广义投影算法,在较弱条件下证明了算法的收敛性,同时给出结合FR,PR,HS共轭梯度参数的超记忆梯度广义投影算法,从而将经典的共轭梯度法推广用于求解约束规划问题,数值例子表明算法是有效的。 展开更多

关键词 广义投影 不等式约束 共轭梯度 求解 优化问题 弱条件 超记忆梯度算法 初始点 参数 非线性

原文传递

LMBP神经网络改进算法的研究 被引量：4

3

作者 张妮 田学民 《计算机与应用化学》 CAS CSCD 北大核心 2010年第8期1111-1114,共4页

在LMBP算法训练过程中,大型矩阵的求逆运算限制算法的收敛速度,本文针对这一特点,在训练网络的权值和偏移值时采用求解大规模线性方程组的超记忆梯度算法,避免矩阵求逆耗时的缺点,同时对原有的步长因子进行自适应改变,并通过网络修剪对... 在LMBP算法训练过程中,大型矩阵的求逆运算限制算法的收敛速度,本文针对这一特点,在训练网络的权值和偏移值时采用求解大规模线性方程组的超记忆梯度算法,避免矩阵求逆耗时的缺点,同时对原有的步长因子进行自适应改变,并通过网络修剪对隐层神经元结构进行优化。最后以某型号设备齿轮箱为例进行仿真。结果表明,本文的改进算法能够明显缩短训练时间,并且经过此算法训练的网络有较高的故障诊断性能。 展开更多

关键词 LMBP算法 超记忆梯度算法 网络修剪

原文传递

超记忆梯度算法的线性收敛速度 被引量：3

4

作者 时贞军 明清河 《工程数学学报》 CSCD 北大核心 2003年第1期107-110,共4页

证明了时贞军提出的超记忆梯度算法在一定条件下具有线性收敛速度。

关键词 无约束优化 超记忆梯度算法 线性收敛速度

下载PDF 职称材料

关于超记忆梯度算法的收敛性 被引量：4

5

作者 明清河 《曲阜师范大学学报（自然科学版）》 CAS 2004年第1期40-42,共3页

超记忆梯度算法是无约束优化的有效算法之一 .它的特点是在每步迭代时充分利用前面迭代点的信息 ,增加了参数选择的自由度 ,有利于构造稳定的快速收敛的算法 ,适于求解大规模无约束优化问题 .该文研究一种超记忆梯度算法 ,在较弱的条件... 超记忆梯度算法是无约束优化的有效算法之一 .它的特点是在每步迭代时充分利用前面迭代点的信息 ,增加了参数选择的自由度 ,有利于构造稳定的快速收敛的算法 ,适于求解大规模无约束优化问题 .该文研究一种超记忆梯度算法 ,在较弱的条件下证明了算法的全局收敛性 . 展开更多

关键词 超记忆梯度算法 收敛性 无约束优化 Wolfe线件搜索 全局收敛性

下载PDF 职称材料

基于稀疏对角拟牛顿方向的非单调超记忆梯度算法 被引量：3

6

作者 孙清滢 徐琳琳 +3 位作者 刘丽敏 王宣战 宫恩龙 徐胜来 《工程数学学报》 CSCD 北大核心 2012年第3期375-385,共11页

超记忆梯度算法由于其迭代简单和较小的存储需求,在求解大规模无约束优化问题中起着特殊的作用.本文基于稀疏对角拟牛顿技术,结合修正Gu和Mo非单调线搜索步长规则,建立了求解大规模无约束最优化问题的非单调超记忆梯度新算法,给出了算... 超记忆梯度算法由于其迭代简单和较小的存储需求,在求解大规模无约束优化问题中起着特殊的作用.本文基于稀疏对角拟牛顿技术,结合修正Gu和Mo非单调线搜索步长规则,建立了求解大规模无约束最优化问题的非单调超记忆梯度新算法,给出了算法的全局收敛性分析.新算法具有算法稳定、计算简单的特点可用于求解病态和大规模问题.数值例子表明算法有效稳定. 展开更多

关键词 非线性规划 稀疏对角拟牛顿算法 非单调线搜索 超记忆梯度算法 收敛性

下载PDF 职称材料

基于信赖域技术的非单调超记忆梯度算法 被引量：1

7

作者 孙清滢 付小燕 +3 位作者 高宝 王宣战 徐敏才 刘丽敏 《数学进展》 CSCD 北大核心 2012年第4期487-500,共14页

基于信赖域技术和修正拟牛顿方程,结合Zhang H.C.非单调策略,设计了新的求解无约束最优化问题的非单调超记忆梯度算法,分析了算法的收敛性和收敛速度.数值实验表明算法是有效的,适于求解大规模问题.

关键词 超记忆梯度算法 非单调规则 收敛性 收敛速度 数值实验

原文传递

基于稀疏对角拟牛顿技术的ZhangH.C非单调F-规则的超记忆梯度算法

8

作者 韩志龙 郑尧 孙清滢 《数学的实践与认识》 2021年第15期312-320,共9页

将稀疏对角拟牛顿技术和超记忆梯度算法结合用来寻找迭代方向,利用修正的Zhang H.C.非单调线搜索规则寻找步长,建立了一种新的求解无约束优化问题的超记忆梯度算法.并且对算法的全局收敛性进行证明,数值实验表明算法对求解大规模无约束... 将稀疏对角拟牛顿技术和超记忆梯度算法结合用来寻找迭代方向,利用修正的Zhang H.C.非单调线搜索规则寻找步长,建立了一种新的求解无约束优化问题的超记忆梯度算法.并且对算法的全局收敛性进行证明,数值实验表明算法对求解大规模无约束优化问题是有效的. 展开更多

关键词 稀疏对角拟牛顿技术 超记忆梯度算法 非单调线搜索规则 收敛性 数值实验

原文传递

结合广义Armijo步长搜索的超记忆梯度算法及其收敛特征

9

作者 孙清滢 《数学的实践与认识》 CSCD 北大核心 2002年第4期621-628,共8页

对无约束规划 ( P) :minx∈ Rnf ( x) ,其中 f ( x)是 Rn→ R1上的一阶连续可微函数 ,设计了一个超记忆梯度求解算法 ,并在去掉迭代点列 { xk}有界和广义 Armijo步长搜索下 ,讨论了算法的全局的收敛性 。

关键词 广义ARMIJO步长搜索 超记忆梯度算法 收敛特征 非线性规划

原文传递

基于信赖域技术和修正拟牛顿方程的非单调超记忆梯度算法

10

作者 宫恩龙 陈双双 +1 位作者 孙清滢 陈颖梅 《中国石油大学学报（自然科学版）》 EI CAS CSCD 北大核心 2013年第2期191-196,共6页

基于信赖域技术和修正拟牛顿方程,结合Neng-Zhu Gu非单调策略,设计新的求解无约束最优化问题的非单调超记忆梯度算法,分析算法的收敛性和收敛速度。新算法每次迭代节约了矩阵的存储量和计算量,算法稳定,适于求解大规模问题。数值试验结... 基于信赖域技术和修正拟牛顿方程,结合Neng-Zhu Gu非单调策略,设计新的求解无约束最优化问题的非单调超记忆梯度算法,分析算法的收敛性和收敛速度。新算法每次迭代节约了矩阵的存储量和计算量,算法稳定,适于求解大规模问题。数值试验结果表明新算法是有效的。 展开更多

关键词 超记忆梯度算法 非单调规则 收敛性 收敛速度 数值试验

下载PDF 职称材料

无约束优化的超记忆梯度算法及其全局收敛性

11

作者 张远福 谭毓澄 傅香英 《九江学院学报（自然科学版）》 CAS 2010年第3期37-39,共3页

关键词 无约束优化 超记忆梯度算法 收敛性

下载PDF 职称材料