期刊文献+
共找到17篇文章
< 1 >
每页显示 20 50 100
基于Adam局部优化的分布式近似牛顿深度学习模型训练 被引量:15
1
作者 毕常遥 袁晓彤 《计算机应用与软件》 北大核心 2021年第10期278-283,共6页
分布式学习是减轻现代机器学习系统中不断增加的数据和模型规模压力的有效工具之一。DANE算法是一种近似牛顿方法,已被广泛应用于通信高效的分布式机器学习。其具有收敛速度快且无须计算Hessian矩阵逆的优点,从而可以在高维情况下显著... 分布式学习是减轻现代机器学习系统中不断增加的数据和模型规模压力的有效工具之一。DANE算法是一种近似牛顿方法,已被广泛应用于通信高效的分布式机器学习。其具有收敛速度快且无须计算Hessian矩阵逆的优点,从而可以在高维情况下显著减少通信和计算开销。为了进一步提高计算效率,就需要研究如何加快DANE的局部优化。选择使用最流行的自适应梯度优化算法Adam取代常用的随机梯度下降法来求解DANE的局部单机子优化问题是一种可行的方法。实验表明,基于Adam的优化在收敛速度上可以明显快于原始的基于SGD的实现,且几乎不会牺牲模型泛化性能。 展开更多
关键词 深度学习 近似牛顿法 分布式优化 Adam算法 随机抽样
下载PDF
一种空时信号的分布式在线重构算法
2
作者 池源 蒋俊正 《桂林电子科技大学学报》 2023年第2期128-134,共7页
空时信号的在线重构问题可归结为对差分平滑的时变图信号的恢复问题。对于该凸优化问题,现有的基于梯度下降法的分布式重构算法在优化问题的海森矩阵条件数较大时收敛速度极慢,在单个观测区间内算法最大迭代次数受限时重构误差较大。针... 空时信号的在线重构问题可归结为对差分平滑的时变图信号的恢复问题。对于该凸优化问题,现有的基于梯度下降法的分布式重构算法在优化问题的海森矩阵条件数较大时收敛速度极慢,在单个观测区间内算法最大迭代次数受限时重构误差较大。针对该问题,提出了一种基于近似牛顿法的分布式在线重构算法。首先通过子图划分将原优化问题分解为一系列子图上的局部优化问题,并求出该局部问题的解,然后对子图间的局部解作融合平均计算,得到近似的全局最优解,再依据近似解与实际最优解之间的差距,证明以此方式求得的子图划分与融合矩阵具有稀疏性,且可作为原优化问题的海森逆近似矩阵,最后将该近似矩阵替换至经典的牛顿法迭代公式,并利用该近似矩阵的结构化稀疏性实现分布式运算。仿真结果表明,与现有算法相比,该算法收敛速度更快,重构误差更小,所需通信量更少。 展开更多
关键词 空时信号 在线重构 分布式算法 近似牛顿法 子图划分
下载PDF
求解半光滑方程组的近似Newton法 被引量:2
3
作者 赵曰堂 《应用数学与计算数学学报》 2002年第2期15-22,共8页
本文提出了求解半光滑方程组的近似Newton法,并证明了该算法的局部超线性收敛性。数值结果表明该算法是有效的。
关键词 半光滑方程组 近似newton 非光滑映射 收敛性 李普希兹映射
下载PDF
求解大规模水火最优潮流问题的近似牛顿方向解耦算法 被引量:3
4
作者 汪超群 韦化 吴思缘 《电力系统自动化》 EI CSCD 北大核心 2018年第5期48-55,共8页
分解后计算效率低和解的最优性差一直是困扰大规模水火最优潮流(HTOPF)研究与应用的两个关键问题。针对这些问题,提出了一种求解HTOPF的精确高效的解耦算法。基于近似牛顿方向直接对原问题KKT(Karush-Kuhn-Tucker)条件解耦的思想,将含... 分解后计算效率低和解的最优性差一直是困扰大规模水火最优潮流(HTOPF)研究与应用的两个关键问题。针对这些问题,提出了一种求解HTOPF的精确高效的解耦算法。基于近似牛顿方向直接对原问题KKT(Karush-Kuhn-Tucker)条件解耦的思想,将含梯级电厂的HTOPF问题分解为火电问题和水电问题。火电问题分解为单时段最优潮流问题,并进一步划分为多区域子问题;根据水电厂类型的不同将水电问题分解为单个固定水头、单个变化水头水电厂子问题以及梯级水电厂群优化子问题。求解过程中,每个子问题只迭代一次而不用求其最优解,极大地提高了计算效率。仿真计算结果表明:所提算法具有良好的适应性和稳定性,不仅显著减少了内存占用,而且在串行求解时CPU计算时间缩短了3~4倍,在并行计算条件下可获得10~20倍甚至1 000倍以上的加速比,并保证所得最优目标值与准确值之间的误差在10-8以下,确保了分解协调结果的最优性。 展开更多
关键词 水火电力系统 最优潮流 分解—协调 近似牛顿方向 精确解耦法 最优性
下载PDF
基于近似牛顿方向的综合能源系统最优能流解耦算法 被引量:2
5
作者 张抒凌 温步瀛 江岳文 《广东电力》 2021年第10期23-33,共11页
为实现综合能源系统中能源的高效利用,同时考虑到不同能源系统属于不同能源供应商,通常只进行部分信息交互,提出一种基于近似牛顿方向(approximate Newton directions,AND)的电热气综合能源系统最优能流解耦算法。将整体的优化问题根据... 为实现综合能源系统中能源的高效利用,同时考虑到不同能源系统属于不同能源供应商,通常只进行部分信息交互,提出一种基于近似牛顿方向(approximate Newton directions,AND)的电热气综合能源系统最优能流解耦算法。将整体的优化问题根据能源主体解耦,分解为电力系统、热力系统、天然气系统优化子问题,通过部分信息的传递,对子问题交替迭代,进行分布式求解,最终达到整体优化的效果。该算法信息传输量少,结构简单,计算速度快,求解过程中,子问题不需要求最优解,只需要迭代1次,提高了求解效率。针对具体算例,将AND算法与集中式内点法(centralized interior point method,CIPM)的计算结果进行对比分析,验证了所提算法的可行性和有效性。 展开更多
关键词 综合能源系统 最优能流 近似牛顿方向 内点法 分布式优化
下载PDF
关于Brown方法的半局部收敛性
6
作者 黄志坚 《应用数学与计算数学学报》 1994年第1期1-18,共18页
在本文中,我们讨论解非线性方程组的Brown方法的半局部收敛性。通过对Brown方法的算法结构作深入的分析,我们将Brown方法变换成带有特殊误差项的近似Newton法,基于这种等价变形,我们建立了Brown方法的半局部收敛定理,从而完善了Brown方... 在本文中,我们讨论解非线性方程组的Brown方法的半局部收敛性。通过对Brown方法的算法结构作深入的分析,我们将Brown方法变换成带有特殊误差项的近似Newton法,基于这种等价变形,我们建立了Brown方法的半局部收敛定理,从而完善了Brown方法的收敛理论。 展开更多
关键词 非线性方程组 Brown方法 半局部收敛性
下载PDF
用于压缩感知信号重建的SL_0改进算法 被引量:8
7
作者 齐焕芳 徐源浩 《电子科技》 2015年第4期27-30,共4页
SL0算法是一种基于近似l0范数的压缩感知信号重建算法,其思想是用一个光滑函数来近似l0范数,然后求解一个优化问题。目前采用的光滑函数都是高斯函数族,文中突破了以往采用高斯函数族近似l0范数,提出了采用复合三角函数作为近似估计l0... SL0算法是一种基于近似l0范数的压缩感知信号重建算法,其思想是用一个光滑函数来近似l0范数,然后求解一个优化问题。目前采用的光滑函数都是高斯函数族,文中突破了以往采用高斯函数族近似l0范数,提出了采用复合三角函数作为近似估计l0范数的函数,然后结合修正牛顿法和阻尼牛顿法提出一种更精确的重建算法DNSL0。实验结果表明,在相同测试环境下,DNSL0算法在峰值信噪比和匹配度方面比SL0算法和NSL0算法都有了大幅提高。 展开更多
关键词 压缩感知 重建算法 复合三角函数 近似l0范数 牛顿法
下载PDF
基于修正近似双曲正切函数的平滑l_0范数算法 被引量:6
8
作者 陈金立 李伟 +2 位作者 朱筱嵘 陈宣 李家强 《计算机工程与设计》 北大核心 2018年第12期3717-3721,3754,共6页
针对SL0算法中高斯函数对l_0范数的逼近程度较差以及在算法迭代过程中存在"锯齿效应"的问题,提出一种基于修正近似双曲正切函数的平滑l_0范数算法。采用逼近性能更优的修正近似双曲正切函数近似l_0范数,建立基于此函数的稀疏... 针对SL0算法中高斯函数对l_0范数的逼近程度较差以及在算法迭代过程中存在"锯齿效应"的问题,提出一种基于修正近似双曲正切函数的平滑l_0范数算法。采用逼近性能更优的修正近似双曲正切函数近似l_0范数,建立基于此函数的稀疏问题模型,利用牛顿法对其进行求解,能够以较高的精度重构出稀疏信号。仿真结果表明,相比于SL0算法、NSL0(newton smoothed l_0norm,NSL0)算法以及ASL0(approximate smoothed l_0norm,ASL0)算法,所提算法能获得更优的重构性能。 展开更多
关键词 压缩感知 稀疏信号重构 平滑l0范数算法 修正近似双曲正切函数 牛顿法
下载PDF
非线性互补问题的一个数值解法 被引量:2
9
作者 于一超 田志远 +1 位作者 刘相静 王宁 《青岛大学学报(自然科学版)》 CAS 2014年第3期14-18,共5页
提出了一个新的NCP光滑逼近函数,利用此光滑逼近函数把非线性互补问题转化为一个等价的方程组,在此基础上提出一个求解方程组的非单调光滑牛顿法,在适当的条件下证明了其全局和局部收敛性。数值试验说明了算法的有效性。
关键词 非线性互补问题 光滑逼近函数 非单调光滑牛顿法
下载PDF
基于近似牛顿方向的多区域互联系统的解耦潮流算法
10
作者 周义博 白易杰 陈鹏良 《科学技术与工程》 2008年第19期5385-5388,5433,共5页
针对大规模电网潮流计算提出了一种基于近似牛顿方向的解耦算法。在收敛判据保证前提下,对弱耦合系统能够实现完全解耦;对强耦合系统,不能实现解耦,但可以以子区域雅克比矩阵为预处理器,以近似牛顿方向为初值,采用GMRES算法,能很快得到... 针对大规模电网潮流计算提出了一种基于近似牛顿方向的解耦算法。在收敛判据保证前提下,对弱耦合系统能够实现完全解耦;对强耦合系统,不能实现解耦,但可以以子区域雅克比矩阵为预处理器,以近似牛顿方向为初值,采用GMRES算法,能很快得到方程组解。避免了较为复杂的谱半径求解,对解耦判据进行实用化处理。采用IEEE354节点系统,验证了算法的可行性和有效性,表明该算法非常适合大电网潮流计算。 展开更多
关键词 牛顿拉夫逊法 近似牛顿方向 GMRES算法 预处理矩阵
下载PDF
一阶Rytov近似有限频走时层析 被引量:4
11
作者 冯波 罗飞 王华忠 《地球物理学报》 SCIE EI CAS CSCD 北大核心 2019年第6期2217-2226,共10页
传统的波动方程走时核函数(或走时Fréchet导数)多基于互相关时差测量方式及地震波场的一阶Born近似导出,其成立条件非常苛刻.然而,地震波走时与大尺度的速度结构具有良好的线性关系,对于小角度的前向散射波场,Rytov近似优于Born近... 传统的波动方程走时核函数(或走时Fréchet导数)多基于互相关时差测量方式及地震波场的一阶Born近似导出,其成立条件非常苛刻.然而,地震波走时与大尺度的速度结构具有良好的线性关系,对于小角度的前向散射波场,Rytov近似优于Born近似.因此,本文基于Rytov近似和互相关时差测量方式,导出了基于Rytov近似的有限频走时敏感度核函数的两种等价形式:频率积分和时间积分表达式.在此基础之上,本文提出了一种隐式矩阵向量乘方法,可以直接计算Hessian矩阵或者核函数与向量的乘积,而无需显式计算和存储核函数及Hessian矩阵.基于隐式矩阵向量乘方法,本文利用共轭梯度法求解法方程实现了一种高效的Gauss-Newton反演算法求解走时层析反问题.与传统的敏感度核函数反演方法相比,本文方法在每次迭代过程中,无需显式计算和存储核函数,极大降低了存储需求.与基于Born近似的伴随状态方法走时层析相比,本文方法具有准二阶的收敛速度,且适用范围更广.数值试验证明了本文方法的有效性. 展开更多
关键词 Rytov近似 有限频走时敏感度核函数 波动方程走时层析 初至波 隐式矩阵向量乘 Gauss-newton方法
下载PDF
求解非线性互补问题的逐次逼近拟牛顿法的收敛性分析
12
作者 马昌凤 《Journal of Mathematical Research and Exposition》 CSCD 北大核心 2006年第1期179-188,共10页
提出了求解非线性互补问题的一个逐次逼近拟牛顿算法。在适当的假设下,证明了该算法的全局收敛性和局部超线性收敛性。
关键词 非线性互补问题 逐次逼近 拟牛顿法 收敛性分析.
下载PDF
土中爆炸成腔问题中确定炸点状态的一种计算反求方法 被引量:1
13
作者 张伟 刘杰 +1 位作者 韩旭 谭柱华 《爆炸与冲击》 EI CAS CSCD 北大核心 2013年第3期231-237,共7页
提出了一种通过给定的土中爆炸成腔毁伤效应确定炸点状态的计算反求方法。该方法将确定炸点状态的反问题转化为求解爆炸毁伤效应的计算值与给定值误差函数最小的优化问题。在反求过程中,采用基于误差减小比率技术的多项式近似模型代替... 提出了一种通过给定的土中爆炸成腔毁伤效应确定炸点状态的计算反求方法。该方法将确定炸点状态的反问题转化为求解爆炸毁伤效应的计算值与给定值误差函数最小的优化问题。在反求过程中,采用基于误差减小比率技术的多项式近似模型代替土中爆炸数值分析模型,以便提高反求效率。采用Tikhonov正则化方法克服反求过程中出现的病态问题。在此基础上,引入信赖域管理策略判断当前近似模型与实际模型的逼近程度,以确定最优的反求向量。炸点状态反求结果与实验结果的对比分析表明,该方法能够有效且稳定地通过给定的毁伤效应实现炸点状态的反求,这可为炸点状态的设计提供参考。 展开更多
关键词 爆炸力学 反问题 近似模型管理 土中爆炸 正则化方法 牛顿法
下载PDF
一种求解非线性互补问题的光滑牛顿方法 被引量:1
14
作者 陈争 马昌凤 《广西科学院学报》 2011年第1期1-5,共5页
针对非线性互补问题,构造一个新的光滑逼近函数,分析该函数的一些基本性质,再利用该函数建立求解非线性互补问题的光滑牛顿算法,证明在适当的条件下这一算法是全局及局部超线性收敛的,最后用数值算例验证该算法是有效的.
关键词 非线性互补 光滑逼近函数 光滑牛顿法 收敛性 数值实验
下载PDF
一个新的NCP函数的构造及其应用 被引量:1
15
作者 程翠梨 王希云 《太原科技大学学报》 2012年第6期470-474,共5页
将非线性互补问题转化为光滑方程组是求解非线性互补问题的一个重要途径,而其转化的桥梁是NCP函数。针对非线性互补问题,构造了一个新的NCP函数,根据光滑逼近原理构造了其光滑逼近函数,并将其应用于求解非线性互补问题。数值算例表明,... 将非线性互补问题转化为光滑方程组是求解非线性互补问题的一个重要途径,而其转化的桥梁是NCP函数。针对非线性互补问题,构造了一个新的NCP函数,根据光滑逼近原理构造了其光滑逼近函数,并将其应用于求解非线性互补问题。数值算例表明,构造的NCP函数是有效的。 展开更多
关键词 新的NCP函数 光滑逼近函数 光滑牛顿算法
下载PDF
Bayesian Estimations with Fuzzy Data to Estimation Inverse Rayleigh Scale Parameter
16
作者 Shurooq Ahmed Kareem AL-Sultany 《Open Journal of Applied Sciences》 2019年第8期673-681,共9页
In this paper, Bayesian computational method is used to estimate inverse Rayleigh Scale parameter with fuzzy data. Based on imprecision data, the Bayes estimates cannot be obtained in explicit form. Therefore, we prov... In this paper, Bayesian computational method is used to estimate inverse Rayleigh Scale parameter with fuzzy data. Based on imprecision data, the Bayes estimates cannot be obtained in explicit form. Therefore, we provide Tierney and Kadane’s approximation to compute the Bayes estimates of the scale parameter under Square error and Precautionary loss function using Non-informative Jefferys Prior. Also, we provide compared numerically through Monte-Carlo simulation study to obtained estimates of the scale parameter in terms of mean squared error values. 展开更多
关键词 INVERSE RAYLEIGH DISTRIBUTION IMPRECISION Data Modified newton method Tierney and Kadane’s approximATION
下载PDF
基于调节熵函数的光滑牛顿法求解绝对值方程 被引量:6
17
作者 雍龙泉 《兰州大学学报(自然科学版)》 CAS CSCD 北大核心 2016年第4期540-544,551,共6页
绝对值方程Ax-|x|=b等价于一个不可微的NP-hard优化问题.构造了绝对值函数的一致光滑逼近函数,采用一致光滑逼近函数对绝对值方程光滑化处理,引入适当的目标函数,给出了求解绝对值方程的光滑牛顿法.数值实验结果证明了该方法的有效性.
关键词 绝对值方程 绝对值函数 一致光滑逼近函数 调节熵函数 光滑牛顿法
下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部