期刊文献+
共找到3篇文章
< 1 >
每页显示 20 50 100
基于Zhang-Hager线搜索的改进近似最优梯度法
1
作者 李瑶 刘红卫 +1 位作者 吕佳敏 游海龙 《吉林大学学报(理学版)》 CAS 北大核心 2024年第2期263-272,共10页
提出一种改进的近似最优梯度法,求解图划分问题中的无约束目标函数.先用修正的BFGS更新公式及选取BB类步长的线性组合作为标量矩阵得到近似最优步长,再引入参数对经典的Zhang-Hager线搜索形式进行改进,构建算法框架并给出R线性收敛性证... 提出一种改进的近似最优梯度法,求解图划分问题中的无约束目标函数.先用修正的BFGS更新公式及选取BB类步长的线性组合作为标量矩阵得到近似最优步长,再引入参数对经典的Zhang-Hager线搜索形式进行改进,构建算法框架并给出R线性收敛性证明.实验结果表明,改进算法提高了原算法的性能. 展开更多
关键词 修正的BFGS更新公式 近似最优步长 Zhang-Hager线搜索 R线性收敛性 图划分问题
下载PDF
一种基于修正二次模型的近似最优梯度法
2
作者 王钰 《数学的实践与认识》 2023年第2期207-215,共9页
梯度法因为其迭代形式简单、所需存储量小,在大规模无约束优化问题中得到了广泛的应用.基于修正的二次近似模型,利用修正的BFGS公式,提出了一个新的近似最优步长.用两个著名的BB步长对此步长进行截断,让其保持在两个BB步长之间。在适当... 梯度法因为其迭代形式简单、所需存储量小,在大规模无约束优化问题中得到了广泛的应用.基于修正的二次近似模型,利用修正的BFGS公式,提出了一个新的近似最优步长.用两个著名的BB步长对此步长进行截断,让其保持在两个BB步长之间。在适当的假设条件下,证明了该方法的全局收敛性。数值实验表明,方法优于一些现有的梯度法. 展开更多
关键词 梯度法 二次近似模型 BB步长 近似最优步长 全局收敛性
原文传递
带有近似最优步长的随机递归梯度算法
3
作者 陈炫睿 《运筹与模糊学》 2023年第5期4318-4326,共9页
在机器学习中,我们经常考虑一个目标函数是凸函数和的最小化问题。随机递归梯度算法(SARAH)是求解上面问题的一个常用方法。它允许一个简单的递归框架来更新随机梯度估计。基于SARAH方法,本文提出利用近似最优步长(AOS)去自适应地计算SA... 在机器学习中,我们经常考虑一个目标函数是凸函数和的最小化问题。随机递归梯度算法(SARAH)是求解上面问题的一个常用方法。它允许一个简单的递归框架来更新随机梯度估计。基于SARAH方法,本文提出利用近似最优步长(AOS)去自适应地计算SARAH的步长,并将其命名为SARAH-AOS算法。针对提出的算法,我们进行了数值试验,结果表明SARAH-AOS算法对初始步长的选择并不像SARAH那样敏感。我们的算法对SARAH算法有着显著性能的改进。 展开更多
关键词 机器学习 随机递归梯度算法 近似最优步长 自适应计算
下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部