-
题名分布式在线共轭对偶梯度算法
- 1
-
-
作者
吕净阁
-
机构
安徽理工大学数学与大数据学院
-
出处
《阜阳师范学院学报(自然科学版)》
2018年第4期63-68,共6页
-
基金
安徽省高校学科(专业)拔尖人才学术资助重点项目(gxbjZD2016049)资助
-
文摘
针对如何对动态环境下的流数据进行实时处理的问题,研究了一种基于权重平衡和共轭对偶梯度算法(CDG)的分布式在线学习优化算法—分布式在线共轭对偶梯度算法(DO-CDG)。首先,针对分布式在线优化问题,在CDG算法的基础上建立了数学模型并设计了DO-CDG算法,并进行求解;其次,给出算法的Regret界用于表征在线算法的优劣性,证明了当本地损失函数是强凸函数时,DO-CDG算法的收敛性以及本地估计的Regret界关于时间的次线性;最后,经过数据仿真实验,证明了算法的收敛性。
-
关键词
在线学习
Regret界
分布式优化
权重平衡
-
Keywords
online learning
Regret bound
distributed optimization
weight balance
-
分类号
TP306.1
[自动化与计算机技术—计算机系统结构]
-
-
题名具有隐私保护的分布式共轭对偶梯度算法
- 2
-
-
作者
吕净阁
李德权
-
机构
安徽理工大学数学与大数据学院
-
出处
《长春理工大学学报(自然科学版)》
2018年第3期120-125,134,共7页
-
基金
安徽省高校学科(专业)拔尖人才学术资助重点项目(gxbj ZD2016049)
-
文摘
针对多个体系统中个体(节点)间信息交流易导致隐私泄露的问题,提出了一种基于共轭对偶梯度(CDG)的隐私保护算法—隐私保护分布式共轭对偶梯度算法(PP-CDG)。首先,针对优化问题研究了共轭对偶梯度算法,通过添加正则项来防止共轭函数震荡、保证界更小、便于有效地进行对偶转换;其次,将同态加密机制(Paillier Cryptosystem)与共轭对偶梯度算法相结合提出PP-CDG算法,并证明当网络无向时变且本地损失函数是强凸时所提算法的收敛性;最后,进一步的理论分析表明敌对个体在收集多步中间信息时无法窃取邻居个体的敏感信息,因此算法能够有效保护个体的隐私。
-
关键词
分布式优化
对偶梯度
同态加密技术
隐私保护
-
Keywords
distributed optimization;dual gradient;homomorphic encryption;privacy-preserving
-
分类号
TP301.6
[自动化与计算机技术—计算机系统结构]
-
-
题名分布式随机加权梯度下降
被引量:1
- 3
-
-
作者
吕净阁
-
机构
安徽理工大学数学与大数据学院
-
出处
《电子技术与软件工程》
2018年第14期193-193,共1页
-
基金
安徽省高校学科(专业)拔尖人才学术资助重点项目(gxbj ZD2016049)
-
文摘
针对如何进行分布式计算法,研究了一种基于梯度下降以及权重平衡的分布式随机加权次梯度下降算法。证明了在局部凸目标函数可微且利普希茨连续下,算法的收敛性。
-
关键词
分布式优化
利普希茨连续
权重平衡
-
分类号
TP301.6
[自动化与计算机技术—计算机系统结构]
-