针对传统支持向量数据描述(support vector data description,SVDD)训练中存在的训练速度慢、存储核矩阵需要的空间开销大、计算量大、算法效率低等问题,提出一种基于改进序贯最小优化(SMO)算法的SVDD快速训练方法。该算法针对原有SMO...针对传统支持向量数据描述(support vector data description,SVDD)训练中存在的训练速度慢、存储核矩阵需要的空间开销大、计算量大、算法效率低等问题,提出一种基于改进序贯最小优化(SMO)算法的SVDD快速训练方法。该算法针对原有SMO算法仅能处理单类样本的缺陷,提出一种可以处理负样本的改进方法,给出详细的计算推导过程,并针对KKT判定条件、工作集选择等关键问题进行改进。试验证明:与传统的SVDD训练算法相比,基于改进SMO算法的SVDD快速训练方法训练时间短,计算量小,分类准确度高,空间开销小,更适合于大规模数据的快速训练,具有较高的工程应用价值。展开更多
针对语音识别中DBN-DNN训练时间过长的问题,提出了一种DBN-DNN网络的快速训练方法。该方法从减少误差反向传播计算量的角度出发,在更新网络参数时,通过交替变换网络更新层数来实现加速;同时,也设计了逐渐减少网络全局更新频率和逐渐减...针对语音识别中DBN-DNN训练时间过长的问题,提出了一种DBN-DNN网络的快速训练方法。该方法从减少误差反向传播计算量的角度出发,在更新网络参数时,通过交替变换网络更新层数来实现加速;同时,也设计了逐渐减少网络全局更新频率和逐渐减少网络更新层数两种实施策略。这种训练方法可以与多种DNN加速训练算法相结合。实验结果表明,在不影响识别率的前提下,该方法独立使用或与随机数据筛选(stochastic data sweeping,SDS)算法、ASGD算法等DNN加速训练算法相结合,都可以取得较为理想的加速结果。展开更多
文摘针对传统支持向量数据描述(support vector data description,SVDD)训练中存在的训练速度慢、存储核矩阵需要的空间开销大、计算量大、算法效率低等问题,提出一种基于改进序贯最小优化(SMO)算法的SVDD快速训练方法。该算法针对原有SMO算法仅能处理单类样本的缺陷,提出一种可以处理负样本的改进方法,给出详细的计算推导过程,并针对KKT判定条件、工作集选择等关键问题进行改进。试验证明:与传统的SVDD训练算法相比,基于改进SMO算法的SVDD快速训练方法训练时间短,计算量小,分类准确度高,空间开销小,更适合于大规模数据的快速训练,具有较高的工程应用价值。
文摘针对语音识别中DBN-DNN训练时间过长的问题,提出了一种DBN-DNN网络的快速训练方法。该方法从减少误差反向传播计算量的角度出发,在更新网络参数时,通过交替变换网络更新层数来实现加速;同时,也设计了逐渐减少网络全局更新频率和逐渐减少网络更新层数两种实施策略。这种训练方法可以与多种DNN加速训练算法相结合。实验结果表明,在不影响识别率的前提下,该方法独立使用或与随机数据筛选(stochastic data sweeping,SDS)算法、ASGD算法等DNN加速训练算法相结合,都可以取得较为理想的加速结果。
