一个三项LS共轭梯度方法 被引量：2

1

作者 李向荣 《广西科学》 CAS 2013年第4期348-351,共4页

给出一个三项LS共轭梯度方法,并在适当条件下获得此方法对一般函数的全局收敛性.该方法能保证搜索方向在不需要任何线搜索下具有充分下降性,而且比通常的LS方法更具竞争性.

关键词 三项共轭梯度 充分下降 全局收敛性

下载PDF 职称材料

一类新的随机三项共轭梯度算法

2

作者 杨晗 《哈尔滨商业大学学报（自然科学版）》 CAS 2021年第5期613-619,共7页

针对经验风险最小化(ERM)这一无约束优化问题,使用随机优化算法.为了提高损失函数值的下降速度,考虑三项共轭梯度法的优点,提出一类新的随机三项共轭梯度算法.并将新算法与经典的随机梯度下降(SGD)类算法和已有的随机共轭梯度算法CGVR... 针对经验风险最小化(ERM)这一无约束优化问题,使用随机优化算法.为了提高损失函数值的下降速度,考虑三项共轭梯度法的优点,提出一类新的随机三项共轭梯度算法.并将新算法与经典的随机梯度下降(SGD)类算法和已有的随机共轭梯度算法CGVR进行比较,数值结果表明新算法比SGD类算法在求解ERM问题上更有优势. 展开更多

关键词 深度学习 经验风险最小化 共轭梯度法 三项共轭梯度算法 随机优化算法 损失函数

下载PDF 职称材料

一个充分下降的谱三项共轭梯度法 被引量：8

3

作者 简金宝 刘鹏杰 江羡珍 《应用数学学报》 CSCD 北大核心 2020年第6期1000-1012,共13页

谱三项共轭梯度法作为共轭梯度法的一种重要推广,在求解大规模无约束优化问题方面具有较好的理论特征与数值效果.本文运用强Wolfe非精确线搜索条件设计产生一个新的谱参数,结合修正Polak-Ribieere-Polyak共轭参数计算公式建立了一个Pola... 谱三项共轭梯度法作为共轭梯度法的一种重要推广,在求解大规模无约束优化问题方面具有较好的理论特征与数值效果.本文运用强Wolfe非精确线搜索条件设计产生一个新的谱参数,结合修正Polak-Ribieere-Polyak共轭参数计算公式建立了一个Polak-Ribieere-Polyak型谱三项共轭梯度算法.新算法无论采用何种线搜索条件求步长,每步迭代均满足充分下降条件.在常规假设条件下,采用强Wolfe非精确线搜索条件产生步长,证明了算法的强收敛性.最后,对新算法与现有数值效果较好的共轭梯度法进行比对试验,并采用性能图对数值结果进行直观展示,结果表明新算法是有效的. 展开更多

关键词 无约束优化 谱三项共轭梯度法 强Wolfe线搜索 强收敛性

原文传递

Armijo型线搜索下的三项共轭梯度法 被引量：2

4

作者 黄海 潘义前 罗雁 《西北师范大学学报（自然科学版）》 CAS 北大核心 2011年第5期17-21,共5页

基于无记忆BFGS拟牛顿法结构,给出一个LS型的三项共轭梯度法,证明了该方法在Armijo型线搜索下对非凸函数具有全局收敛性,对二阶连续一致凸函数具有至少R-线性收敛速率.初步的数值实验表明该方法是有效的.

关键词 无约束优化 三项共轭梯度法 ARMIJO型线搜索 全局收敛性 线性收敛速率

下载PDF 职称材料

结合Armijo步长搜索的新三项共轭梯度算法及其收敛特征

5

作者 孙清滢 钱伟懿 《大连理工大学学报》 EI CAS CSCD 北大核心 2004年第2期166-169,共4页

对求解无约束优化问题提出了一类新的三项共轭梯度求解算法,在去掉迭代点列{xk}有界和Armijo步长搜索下,讨论了算法的全局收敛性.同时给出结合FR、PR、HS共轭梯度参数的三项共轭梯度算法.数值算例表明新算法比Armijo步长搜索下的FR、PR... 对求解无约束优化问题提出了一类新的三项共轭梯度求解算法,在去掉迭代点列{xk}有界和Armijo步长搜索下,讨论了算法的全局收敛性.同时给出结合FR、PR、HS共轭梯度参数的三项共轭梯度算法.数值算例表明新算法比Armijo步长搜索下的FR、PR、HS共轭梯度算法有效. 展开更多

关键词 Armijo步长搜索 三项共轭梯度算法 无约束优化 全局收敛性 非线性规划

下载PDF 职称材料

一种线搜索下三项共轭梯度法的全局收敛性

6

作者 王艳 田志远 +1 位作者 陈元媛 郑希锋 《青岛大学学报（自然科学版）》 CAS 2006年第2期20-23,38,共5页

文章《Hestenes Stiefel共轭梯度法的全局收敛性》中提出一新型线搜索条件,根据这一新型的线搜索条件以及一般三项共轭梯度法的方向计算公式,证明了一般三项共轭梯度法在这一线搜索下的全局收敛性。

关键词 全局收敛 三项共轭梯度法 线搜索

下载PDF 职称材料

一种具有充分下降性的LS型三项共轭梯度法 被引量：1

7

作者 宋丹 江羡珍 刘鹏杰 《数学的实践与认识》 2021年第16期207-215,共9页

三项共轭梯度法作为二项共轭梯度法的一种拓展形式,亦是求解大规模无约束问题的有效方法之一.通过构造一个新的共轭参数与三项参数,并在某一限制条件下选择最速下降方向作为重启方向,进而建立了一种新的修正LS型三项共轭梯度算法.使用强... 三项共轭梯度法作为二项共轭梯度法的一种拓展形式,亦是求解大规模无约束问题的有效方法之一.通过构造一个新的共轭参数与三项参数,并在某一限制条件下选择最速下降方向作为重启方向,进而建立了一种新的修正LS型三项共轭梯度算法.使用强Wolfe非精确线搜索产生步长时,证明了新算法具有充分下降性与全局收敛性.最后,对算法进行数值试验并与当前数值效果较好的同类方法进行比较,结果表明新算法是有效的. 展开更多

关键词 无约束优化 三项共轭梯度法 强Wolfe线搜索 全局收敛性

原文传递

无约束优化一个修正的HS三项共轭梯度法

8

作者 靳文慧 吴庆军 《玉林师范学院学报》 2020年第3期48-53,共6页

针对无约束优化问题,本文提出了一个修正的HS三项共轭梯度法。基于拟牛顿方程新型割线条件,提出了具有充分下降性质的改进HS三项共轭梯度参数公式。在弱Wolfe-Powell线搜索技术下,获得了算法的全局收敛性。数值实验结果表明该算法是有... 针对无约束优化问题,本文提出了一个修正的HS三项共轭梯度法。基于拟牛顿方程新型割线条件,提出了具有充分下降性质的改进HS三项共轭梯度参数公式。在弱Wolfe-Powell线搜索技术下,获得了算法的全局收敛性。数值实验结果表明该算法是有效的。 展开更多

关键词 无约束最优化 三项共轭梯度法 割线条件 充分下降搜索方向 全局收敛性

下载PDF 职称材料

一个修正的三项LS共轭梯度法

9

作者 焦佳佳 《重庆工商大学学报（自然科学版）》 2015年第5期13-16,共4页

基于已有的共轭梯度法的思想,提出了一个三项LS共轭梯度方法,该方法能保证搜索方向在不需要任何线搜索下具有充分下降性,并在适当条件下获得此方法对一般函数的全局收敛性.

关键词 共轭梯度法 充分下降性 全局收敛性

下载PDF 职称材料

一个新的PRP三项共轭梯度法及其收敛性

10

作者 杨迪 《广西师范学院学报（自然科学版）》 2016年第4期42-45,共4页

针对无约束优化问题,提出了一个新的线搜索条件.根据这个新的线搜索条件和三项共轭梯度法的计算公式,证明了一个修正的PRP三项共轭梯度法的收敛性.数值结果表明了算法的有效性.

关键词 线搜索 三项共轭梯度法 全局收敛性

下载PDF 职称材料

一类求解无约束优化问题的三项共轭梯度法

11

作者 王安平 马烁 《长江大学学报（自科版）（上旬）》 2014年第8期1-3,131,共4页

基于PRP方法和HS方法在算法参数结构,算法性质和数值表现方面的共性、构造了一种求解无约束优化问题的三项共轭梯度法。该算法所确定的搜索方向不依赖于线搜索条件,恒为充分下降方向,并在Wolfe线搜索的条件下证明了该算法全局收敛性。... 基于PRP方法和HS方法在算法参数结构,算法性质和数值表现方面的共性、构造了一种求解无约束优化问题的三项共轭梯度法。该算法所确定的搜索方向不依赖于线搜索条件,恒为充分下降方向,并在Wolfe线搜索的条件下证明了该算法全局收敛性。最后选用部分测试函数进行了数值试验,试验结果表明,该算法不仅能保证全局收敛性,而且还具有较快的收敛速度。 展开更多

关键词 无约束优化 三项共轭梯度法 WOLFE线搜索 全局收敛性

下载PDF 职称材料

强迫下降的三项共轭梯度法

12

作者 陈龙卫 倪勤 张欣 《数值计算与计算机应用》 CSCD 2012年第3期181-188,共8页

基于共轭和下降性质,提出了一种强迫下降的三项共轭梯度法,证明了算法在Wolfe线搜索下的全局收敛性,并进行了数值比较实验.理论与数值试验结果表明这个算法是一个值得研究的方法.

关键词 无约束优化 三项共轭梯度法 充分下降条件 共轭条件 全局收敛

原文传递

三项预处理共轭梯度法与信赖域子问题 被引量：5

13

作者 后六生 孙文瑜 《南京师大学报（自然科学版）》 CAS CSCD 2001年第3期1-6,共6页

信赖域方法是解无约束优化问题的有效的和可靠的方法 .共轭梯度法由于不需要矩阵计算和存贮 ,成了解大型问题的首选方法 .在本文中 ,我们提出了解信赖域子问题的三项预处理共轭梯度法 ,并将这个方法嵌入解大型最优化问题的信赖域算法中 ... 信赖域方法是解无约束优化问题的有效的和可靠的方法 .共轭梯度法由于不需要矩阵计算和存贮 ,成了解大型问题的首选方法 .在本文中 ,我们提出了解信赖域子问题的三项预处理共轭梯度法 ,并将这个方法嵌入解大型最优化问题的信赖域算法中 .文章讨论了方法的特性 ,证明了方法的总体收敛性质 。 展开更多

关键词 三项预处理共轭梯度法 信赖域方法 无约束优化问题 信赖域子问题 收敛速度

下载PDF 职称材料

基于信赖域子问题的共轭梯度法 被引量：3

14

作者 杨郁 王希云 《太原科技大学学报》 2010年第6期481-484,共4页

对于求解无约束优化问题,利用重新开始的三项共轭梯度法与信赖域方法结合,并引入非单调技术,当迭代不成功时,改进后的算法保留一些有用信息,提高了算法的有效性。在适当的条件下,给出了新算法的全局收敛性,数值试验结果表明新算法是有... 对于求解无约束优化问题,利用重新开始的三项共轭梯度法与信赖域方法结合,并引入非单调技术,当迭代不成功时,改进后的算法保留一些有用信息,提高了算法的有效性。在适当的条件下,给出了新算法的全局收敛性,数值试验结果表明新算法是有效的。 展开更多

关键词 信赖域方法 三项共轭梯度法 非单调 自适应

下载PDF 职称材料

一种三项CD共轭梯度法及其全局收敛性 被引量：1

15

作者 李灿 汤玲霞 《长沙大学学报》 2015年第2期1-3,共3页

在前人提出的三项PRP共轭梯度法的基础上,提出了一种三项CD共轭梯度法.与以往求解无约束优化问题的经典二项共轭梯度法不同,该算法的搜索方向是三项的,且在任何线性搜索下都具有充分下降性.在适当的条件下,证明了三项CD共轭梯度法在强Wo... 在前人提出的三项PRP共轭梯度法的基础上,提出了一种三项CD共轭梯度法.与以往求解无约束优化问题的经典二项共轭梯度法不同,该算法的搜索方向是三项的,且在任何线性搜索下都具有充分下降性.在适当的条件下,证明了三项CD共轭梯度法在强Wolfe线性搜索下具有全局收敛性. 展开更多

关键词 无约束优化问题 三项CD共轭梯度法 强Wolfe型线性搜索 全局收敛性

下载PDF 职称材料