半监督降维方法的实验比较 被引量：23

1

作者 陈诗国 张道强 《软件学报》 EI CSCD 北大核心 2011年第1期28-43,共16页

半监督学习是近年来机器学习领域中的研究热点之一,已从最初的半监督分类和半监督聚类拓展到半监督回归和半监督降维等领域.目前,有关半监督分类、聚类和回归等方面的工作已经有了很好的综述,如Zhu的半监督学习文献综述.降维一直是机器... 半监督学习是近年来机器学习领域中的研究热点之一,已从最初的半监督分类和半监督聚类拓展到半监督回归和半监督降维等领域.目前,有关半监督分类、聚类和回归等方面的工作已经有了很好的综述,如Zhu的半监督学习文献综述.降维一直是机器学习和模式识别等相关领域的重要研究课题,近年来出现了很多将半监督思想用于降维,即半监督降维方面的工作.有鉴于此,试图对目前已有的一些半监督降维方法进行综述,然后在大量的标准数据集上对这些方法的性能进行实验比较,并据此得出了一些经验性的启示. 展开更多

关键词 半监督降维 降维 半监督学习 类别标号 成对约束

下载PDF 职称材料

半监督学习方法研究综述 被引量：9

2

作者 李永国 徐彩银 +1 位作者 汤璇 李祥燕 《世界科技研究与发展》 CSCD 2023年第1期26-40,共15页

半监督学习存在于现实世界的各个场景中,可在生物化学领域对科学研究产生巨大的作用。在各领域也都有相关具体应用,如病毒毒性预测、网络安全检测、软传感器的应用等。随着机器学习领域的不断突破,目前尚缺乏关于半监督学习方法研究的... 半监督学习存在于现实世界的各个场景中,可在生物化学领域对科学研究产生巨大的作用。在各领域也都有相关具体应用,如病毒毒性预测、网络安全检测、软传感器的应用等。随着机器学习领域的不断突破,目前尚缺乏关于半监督学习方法研究的完整综述。本文首先给出半监督学习的定义并分析了该领域应用过程中存在的挑战;然后梳理分析了半监督学习的四种方法,包括:半监督聚类、降维、回归、分类,并列出了这四种不同方法中比较先进的算法。随后介绍了各算法常见的评价指标(如精确率、召回率和ROC曲线等),对比了各类半监督学习算法效果,研究发现半监督学习方法都存在高于完全监督学习支持向量机的准确率,其中SSC-EKE算法以绝对优势领先传统的支持向量机经典监督学习算法。最后介绍了半监督学习的实际应用场景,展望了半监督学习的未来研究方向,并对全文进行总结。 展开更多

关键词 半监督学习 半监督聚类 半监督降维 半监督回归 半监督分类 评价指标

下载PDF 职称材料

张量图像上的半监督降维算法 被引量：5

3

作者 朱凤梅 张道强 《模式识别与人工智能》 EI CSCD 北大核心 2009年第4期574-580,共7页

传统的图像数据(n1×n2)一般表示为欧式空间R(n1×n2)上的一个向量,这样像素之间的空间关系将会丢失.因此,文中提出一种张量型的半监督降维算法.首先把图像看成张量空间Rn1Rn2中的一个点.再利用图像之间的成对约束——正约束和... 传统的图像数据(n1×n2)一般表示为欧式空间R(n1×n2)上的一个向量,这样像素之间的空间关系将会丢失.因此,文中提出一种张量型的半监督降维算法.首先把图像看成张量空间Rn1Rn2中的一个点.再利用图像之间的成对约束——正约束和负约束,对图像进行半监督降维.降维后的数据较好地保留图像的局部结构.在大量人脸数据集上的实验验证该算法的有效性. 展开更多

关键词 图像表示 特征提取 半监督降维 张量分析

原文传递

半监督图核降维方法 被引量：6

4

作者 吴遐 张道强 《计算机科学与探索》 CSCD 2010年第7期629-636,共8页

基于图结构的数据表示和分析,在机器学习领域正得到越来越广泛的关注。以往研究主要集中在为图数据定义一个度量其相似性关系的核函数即图核,一旦定义出图核,就可以用标准的支持向量机(SVM)来对图数据进行分类。将图核方法进行扩充,先... 基于图结构的数据表示和分析,在机器学习领域正得到越来越广泛的关注。以往研究主要集中在为图数据定义一个度量其相似性关系的核函数即图核,一旦定义出图核,就可以用标准的支持向量机(SVM)来对图数据进行分类。将图核方法进行扩充,先利用核主成分分析(kPCA)对图核诱导的高维特征空间中的数据进行降维,得到与原始图数据相对应的低维向量表示的数据,然后对这些新得到的数据用传统机器学习方法进行分析;通过在kPCA中利用图数据中的成对约束形式的监督信息,得到基于图核的半监督降维方法。在MUTAG和PTC等标准图数据集上的实验结果验证了所提方法的有效性。 展开更多

关键词 图分类 图核 成对约束 半监督降维

下载PDF 职称材料

基于子空间类标传播和正则判别分析的单标记图像人脸识别 被引量：6

5

作者 殷飞 焦李成 杨淑媛 《电子与信息学报》 EI CSCD 北大核心 2014年第3期610-616,共7页

针对单标记图像人脸识别问题,该文提出一种基于子空间类标传播和正则判别分析的半监督维数约简方法。首先,基于子空间假设设计了一种类标传播方法,将类标信息传播到无类标样本上。然后,在传播得到的带类标数据集上使用正则判别分析对数... 针对单标记图像人脸识别问题,该文提出一种基于子空间类标传播和正则判别分析的半监督维数约简方法。首先,基于子空间假设设计了一种类标传播方法,将类标信息传播到无类标样本上。然后,在传播得到的带类标数据集上使用正则判别分析对数据进行维数约简。最后,在低维空间使用最近邻方法对测试人脸完成识别。在3个公共人脸数据库CMU PIE,Extended Yale B和AR上的实验,验证了该方法的可行性和有效性。 展开更多

关键词 人脸识别 子空间假设 类标传播 正则判别分析 半监督维数约简

下载PDF 职称材料

融合半监督降维与稀疏表示的人脸识别方法 被引量：4

6

作者 陈丽霞 范士勇 +2 位作者 刘鑫 王虹 李昆仑 《激光技术》 CAS CSCD 北大核心 2015年第1期82-84,共3页

由于人脸图像数据的维数都较高,将稀疏表示分类用于人脸识别时计算量很大,为了提高人脸识别系统的效率,提出了一种融合半监督降维和稀疏表示的人脸识别方法。首先利用半监督降维算法对图像进行降维处理,在较低的维数空间快速取得较高的... 由于人脸图像数据的维数都较高,将稀疏表示分类用于人脸识别时计算量很大,为了提高人脸识别系统的效率,提出了一种融合半监督降维和稀疏表示的人脸识别方法。首先利用半监督降维算法对图像进行降维处理,在较低的维数空间快速取得较高的识别率,然后利用稀疏表示分类进行人脸识别,取得比传统的最近邻分类器更高的识别率,最后在ORL人脸库上进行实验验证。结果表明,利用该融合算法可快速有效地提高人脸图像的识别效果。 展开更多

关键词 图像处理 人脸识别 半监督降维 稀疏表示

下载PDF 职称材料

一种基于半监督降维的聚类算法 被引量：3

7

作者 朱凤梅 张道强 《广西师范大学学报（自然科学版）》 CAS 北大核心 2008年第3期185-188,共4页

半监督聚类通过利用少量有标号样本或成对约束等监督信息来提高聚类性能。在此提出一种新颖的基于半监督降维的聚类算法,首先用半监督降维方法对原始数据进行降维,然后在降维后的空间中进行半监督聚类。由于在降维和聚类两个阶段中都利... 半监督聚类通过利用少量有标号样本或成对约束等监督信息来提高聚类性能。在此提出一种新颖的基于半监督降维的聚类算法,首先用半监督降维方法对原始数据进行降维,然后在降维后的空间中进行半监督聚类。由于在降维和聚类两个阶段中都利用了监督信息,从而使得算法的聚类性能得到进一步提升。在UCI标准数据集、yale人脸库以及文本数据集上的实验结果验证了该算法的有效性。 展开更多

关键词 半监督降维 成对约束 半监督聚类 机器学习

下载PDF 职称材料

基于成对约束半监督降维的高光谱遥感影像特征提取 被引量：2

8

作者 钱进 罗鼎 《遥感技术与应用》 CSCD 北大核心 2014年第4期681-688,共8页

半监督降维(Semi-Supervised Dimensionality Reduction,SSDR)框架下,基于成对约束提出一种半监督降维算法SCSSDR。利用成对样本进行构图,在保持局部结构的同时顾及数据的全局结构。通过最优化目标函数,使得同类样本更加紧凑、异类样本... 半监督降维(Semi-Supervised Dimensionality Reduction,SSDR)框架下,基于成对约束提出一种半监督降维算法SCSSDR。利用成对样本进行构图,在保持局部结构的同时顾及数据的全局结构。通过最优化目标函数,使得同类样本更加紧凑、异类样本更加离散。采用UCI数据集对算法进行定量分析,发现该方法优于PCA及传统流形学习算法,进一步的UCI数据集和高光谱数据集分类实验表明:该方法适合于进行分类目的特征提取。 展开更多

关键词 高光谱遥感 特征提取 半监督降维 分类

原文传递

针对标签噪声数据的自步半监督降维 被引量：1

9

作者 古楠楠 《计算机工程》 CAS CSCD 北大核心 2023年第11期131-142,共12页

数据类别标记是一项费时费力的工作,且标记质量会直接影响模型预测性能。基于自步学习机制构建自步半监督降维框架,将由简单到复杂的样本逐步纳入模型训练过程。在此框架下,设计自步半监督降维算法,依据交替优化策略,在更新降维映射函... 数据类别标记是一项费时费力的工作,且标记质量会直接影响模型预测性能。基于自步学习机制构建自步半监督降维框架,将由简单到复杂的样本逐步纳入模型训练过程。在此框架下,设计自步半监督降维算法,依据交替优化策略,在更新降维映射函数与计算样本重要度之间交替迭代。一方面,最小化低维标签数据的加权类内分散程度,且考虑再生核希尔伯特空间中的函数复杂度正则化项与数据稀疏结构图上的光滑度正则化项,得到降维映射。另一方面,依据自步学习机制,计算标签数据的低维表示与其所在类的锚点之间的距离,给定下次迭代时样本的重要度。所提框架及算法对标签噪声具有较好的鲁棒性,能自适应给出标签样本的重要度及显性非线性的降维映射,所得的低维表示具有较强的可分性与判别性。在5个实验数据集上,对于标签具有噪声的数据,所提算法获得的低维表示的最近邻分类准确率分别比次优算法最多提高了2.2、5.6、5.0、11.3、2.7个百分点,验证了所提算法的有效性和鲁棒性。 展开更多

关键词 半监督降维 自步学习 映射 稀疏表示 特征提取

下载PDF 职称材料

用于带边信息人脸数据的半监督维数约减算法 被引量：1

10

作者 刘利 刘萍萍 韦佳 《吉林大学学报（工学版）》 EI CAS CSCD 北大核心 2011年第S1期189-193,共5页

提出了一种基于测地线距离的半监督维数约减算法,并将其用于带边信息的人脸数据的维数约减,此算法可以充分利用边信息和数据点之间的测地线距离,从而在保留边信息的同时保留更为真实的数据拓扑结构信息。在人脸数据库上的实验结果表明,... 提出了一种基于测地线距离的半监督维数约减算法,并将其用于带边信息的人脸数据的维数约减,此算法可以充分利用边信息和数据点之间的测地线距离,从而在保留边信息的同时保留更为真实的数据拓扑结构信息。在人脸数据库上的实验结果表明,本文所提出的算法对数据降维后用于分类时可取得比其他算法更高的准确率,且对创建的KNN图中的参数K最具鲁棒性。 展开更多

关键词 人脸数据集 半监督维数约减 测地线距离 边信息修正

下载PDF 职称材料

知识保持的嵌入方法(英文)

11

作者 张道强 《山东大学学报（工学版）》 CAS 北大核心 2010年第2期1-10,18,共11页

考虑了一种带有数据领域知识的降维问题。这里领域知识是指关于数据的一些额外监督信息,如类别标号以及比标号弱的样本间相似性和不相似性约束等。其中,约束可以从标号中产生,但反过来从约束中却得不到标号信息,因而约束比标号更一般。... 考虑了一种带有数据领域知识的降维问题。这里领域知识是指关于数据的一些额外监督信息,如类别标号以及比标号弱的样本间相似性和不相似性约束等。其中,约束可以从标号中产生,但反过来从约束中却得不到标号信息,因而约束比标号更一般。另外,在图像检索等实际应用中,约束比标号更容易获取。鉴于此,本文主要研究基于约束的降维问题。提出了一种有效利用约束进行降维的约束保持嵌入算法(constraint preserving embed-ding,COPE),将其纳入到图嵌入统一框架之中并指出与同类方法的关系。进一步,通过引入无标记样本提出了半监督COPE算法;提出核COPE以揭示数据中的非线性结构。最后,在人脸识别、图像检索及半监督聚类等一系列实验中的结果验证了算法的有效性。 展开更多

关键词 半监督降维 成对约束 领域知识

原文传递

基于半监督降维技术的网络入侵检测方法 被引量：4

12

作者 贾伟峰 李杰 童彬 《计算机应用与软件》 CSCD 北大核心 2013年第10期133-135,共3页

针对网络入侵检测中的高维数据处理问题,提出基于半监督降维技术和BP神经网络的入侵检测方法,该方法主要有两个优点:实时性更高;训练样本标记工作量更小。对半监督降维技术背后的数学原理进行解释,并论述其在网络入侵检测中应用的适用... 针对网络入侵检测中的高维数据处理问题,提出基于半监督降维技术和BP神经网络的入侵检测方法,该方法主要有两个优点:实时性更高;训练样本标记工作量更小。对半监督降维技术背后的数学原理进行解释,并论述其在网络入侵检测中应用的适用性。对比实验表明:在少量标记样本和大量未标记样本的支持下,半监督降维技术能够在降低维数的同时保持入侵检测性能,从而大幅降低入侵检测的训练和检测时间。 展开更多

关键词 半监督 降维 网络入侵检测 BP神经网络 机器学习

下载PDF 职称材料

半监督复杂结构数据降维方法 被引量：1

13

作者 陈斌辉 白清源 《计算机工程与应用》 CSCD 北大核心 2011年第35期135-138,241,共5页

现有的一些典型半监督降维算法,往往在利用标记信息的同时却忽略了样本数据本身的流形特征,或者是对流形特征使用不当,导致算法性能表现不佳并且应用领域狭窄。针对上述问题提出了半监督复杂结构数据降维方法,同时保持样本数据的全局与... 现有的一些典型半监督降维算法,往往在利用标记信息的同时却忽略了样本数据本身的流形特征,或者是对流形特征使用不当,导致算法性能表现不佳并且应用领域狭窄。针对上述问题提出了半监督复杂结构数据降维方法,同时保持样本数据的全局与局部的流形特征。通过设置适当的目标函数,使算法结果能有更广泛的应用场合,实验证明了算法的有效性。 展开更多

关键词 半监督降维 流形假设 约束对 目标函数 聚类分析

下载PDF 职称材料

用于人脸识别的半监督优化局部保持投影 被引量：1

14

作者 杨晓梅 《科学技术与工程》 北大核心 2013年第9期2398-2402,共5页

未充分利用大量未标注样本的非监督信息是监督的、优化的局部保持投影(简称SOLPP)在人脸识别应用中的主要问题。为此提出一种用于人脸识别的半监督的优化的局部保持投影(SSOLPP)。该算法在SOLPP的基础上,通过加权平衡参数融合了未监督... 未充分利用大量未标注样本的非监督信息是监督的、优化的局部保持投影(简称SOLPP)在人脸识别应用中的主要问题。为此提出一种用于人脸识别的半监督的优化的局部保持投影(SSOLPP)。该算法在SOLPP的基础上,通过加权平衡参数融合了未监督的主成分析(PCA)降维算法,使得投影后的数据保持了高维数据中的未标注样本的、全局的散布结构信息和监督的优化局部结构信息。在YaleB和AR人脸数据集上的实验验证了所提算法的有效性。 展开更多

关键词 人脸识别 半监督降维 局部保持 主要成分分析 信息融合

下载PDF 职称材料

半监督学习研究的述评 被引量：21

15

作者 韩嵩 韩秋弘 《计算机工程与应用》 CSCD 北大核心 2020年第6期19-27,共9页

监督学习需要利用大量的标记样本训练模型,但实际应用中,标记样本的采集费时费力。无监督学习不使用先验信息,但模型准确性难以保证。半监督学习突破了传统方法只考虑一种样本类型的局限,能够挖掘大量无标签数据隐藏的信息,辅助少量的... 监督学习需要利用大量的标记样本训练模型,但实际应用中,标记样本的采集费时费力。无监督学习不使用先验信息,但模型准确性难以保证。半监督学习突破了传统方法只考虑一种样本类型的局限,能够挖掘大量无标签数据隐藏的信息,辅助少量的标记样本进行训练,成为机器学习的研究热点。通过对半监督学习研究的总趋势以及具体研究内容进行详细的梳理与总结,分别从半监督聚类、分类、回归与降维以及非平衡数据分类和减少噪声数据共六个方面进行综述,发现半监督方法众多,但存在以下不足:(1)部分新提出的方法虽然有效,但仅通过特定数据集进行了实证,缺少一定的理论证明;(2)复杂数据下构建的半监督模型参数较多,结果不稳定且缺乏参数选取的指导经验;(3)监督信息多采用样本标签或成对约束形式,对混合约束的半监督学习需要进一步研究;(4)对半监督回归的研究匮乏,对如何利用连续变量的监督信息研究甚少。 展开更多

关键词 半监督学习 半监督聚类 半监督分类 半监督降维 半监督回归

下载PDF 职称材料

融合稀疏保持的成对约束投影 被引量：1

16

作者 齐鸣鸣 向阳 《计算机科学》 CSCD 北大核心 2012年第11期212-215,242,共5页

提出一种融合稀疏保持的成对约束投影(Pairwise Constraint Projections inosculating Sparsity Preserving,SPPCP)。该算法在成对约束指导的降维过程中,通过平衡参数引入稀疏保持投影(Sparsity Preserving Projections,SPP),在保持成... 提出一种融合稀疏保持的成对约束投影(Pairwise Constraint Projections inosculating Sparsity Preserving,SPPCP)。该算法在成对约束指导的降维过程中,通过平衡参数引入稀疏保持投影(Sparsity Preserving Projections,SPP),在保持成对约束特征的同时,也继承了稀疏保持所蕴含的几何结构保持和近邻保持特性。在UCI数据集和AR人脸库上的实验表明,该算法有效地融合了稀疏保持投影的优点,与典型的成对约束的半监督降维算法相比,提高了基于最短欧氏距离的分类算法的精度和稳定性。 展开更多

关键词 成对约束 稀疏保持 半监督降维

下载PDF 职称材料