基于子空间分解和核空间映射的特征提取方法的研究

基于子空间分解和核空间映射的特征提取方法的研究

刘伟[1]2004年在《基于子空间分解和核空间映射的特征提取方法的研究》文中进行了进一步梳理现实世界的复杂性使人们需要能够从表面的现象中提取出事物的本来特征,从大量冗余的信息中提取真正有用的信息,从不同种类的对象中提取最能够体现不同类事物之间区别的特征,这就是特征提取在模式识别、机器学习和数据挖掘等学科中所扮演的角色。传统意义上的特征提取的方法主要集中在降低特征的维数,即舍弃不能够体现样本之间区别的成分。 本文讨论的子空间分解方法在其基础之上用两个子空间的和来代替原有的高维空间,一方面保留了最能够体现样本差别的成分,另一方面对噪声空间进行合理的估计,使噪声对分类的影响降至最小。主分量分析可以说与 K-L 变换有着相同的本质,都是源于解特征值方程Λ = ΦTΣΦ。其中Σ是全部数据的协方差矩阵,Λ为此矩阵的本征值对角阵,即Λ的主对角元素恰好为矩阵Σ的全部本征值。这是矩阵Φ相当于一个坐标变换矩阵,其作用在于去除了原特征向量的各个元素之间的相关性,从而达到去除冗余信息的目的。可以说 PCA 相当于部分的 K-L 变换,即只是保留较大的本征值所对应的本征向量,用于对原特征向量进行投影。原特征向量可以从投影后的特征向量恢复,投影向量彼此正交,而且投影之后得到的各个特征彼此无关。 通常,在得到被识别对象的某种特征之后,会定义一些基于距离的测度作为两种模式之间相似性的度量,如定义两幅图像 I1 和 I2 之间的相似度S(I1, I2) 为范数 I1 ? I2 的倒数。这种方法相当于传统的模板匹配。但是根据模式识别的维数灾难理论,当特征维数很大时,分类器的识别率将会下降。由 Pentland 和 Moghaddam 等提出的子空间分解理论认为,高维特征向量投影到低维特征空间所造成的重建误差或称特征空间外距离(DFFS),实际上可以看作类条件概率在原空间的边缘概率分布的一种估计。而要估计原空间中所有特征的联合概率密度,必须引入特征空间内距离(DIFS),即用 DFFS和 DIFS 的和来表征 p(x ω)。子空间分解利用了图像中每个象素的信息,因 I吉林大学硕士学位论文此能够捕捉二维图像模式(如人脸)的细微变化,对于目标边缘不清,目标背景不易区分的情况也有很好的分类能力。一个空间(DIFS)包括绝大部分的训练样本,另一个空间(DEFS)几乎不包含样本。这样通过计算某个特征向量在DIFS 空间的投影距离训练样本中心的距离,以及原向量到其投影的距离,用来代替原有的直线距离。前一个距离可以通过传统的子空间分解方法得到,后一个距离由于其在识别中的作用较小,可以进行合理的估计。 由于线性判别式分析核主成分分析在特征提取,降维等领域的广泛应用,许多学者对这两种方法进行了有益的扩展。本质上说,PCA 能够找到这样一个低维的子空间:在这个子空间里特征之间的方差达到最大,同时重建误差达到最小。但是由于 PCA 把所有的样本都假定为属于同一类,故没有用到样本的类别信息,由此导致的结果是一些由噪声引起的方差也被保留了下来,而这并不是我们所期望的。线性判别式则构造这样一个低维子空间:在该空间中类间距离和类内距离的比值达到最大。因此,PCA 与 LDA 的一个区别在于前者的投影矩阵是正交的而后者不是。为了得到正交的 LDA 投影向量,Guo 提出一种迭代的方法,可以逐步求解出彼此两两正交的投影基向量。尽管如此,线性判别式分析方法在非线性问题面前仍然无能为力。然而物理世界中绝大部分识别与分类问题都是非线性的。既然在支持向量机(SVM)模型中,核空间映射的方法可以成功的把非线性问题转化为线性问题,那么能否在其他算法中也同样嵌入核空间的方法呢?对此进行的一些有益的探索表明这是可行的,即如果首先把原空间中的样本通过某种定义的核映射,投影到一个高维的空间(也许是一个维数为无穷大的空间,但是这并不妨碍问题的求解),然后在这个高维的空间中进行类似于 Guo 的迭代判别式分析,这样虽然在高维特征空间中处理的是线性问题,但是相当与间接地解决了原空间中的非线性问题。 支持向量机自从九十年代中期以来在机器学习和模式识别领域获得了巨大的成功,部分的得益于其构造的核空间及其核函数。本文利用 SVM 的核空间概念,提出了迭代线性判别式分析方法在核空间上的扩展。与通常特征提取方法尽量降低特征维数的做法相反,核空间构造了一个维数远大于原空间的特征空间,在此空间里原来的非线性问题可以转化为线性问题并顺利的解决。理论上说,任何空间中的任何非线性平面都可以转换成另一个更高维空间中的线性平面。实际上,由于高维空间的维数常常超出了可以计算的范 II吉林大学硕士学位论文围,这种显式的映射并不具有多大意义。核映射的方法试图把例如 PCA 或者LDA 中所有关于样本统计量的表达式转化成只含有点积的表达形式。这样,如果要计算高维特征空间中样本的各种统计量,只要知道样本之间的点积即可。而高维空间样本之间的点积正是原空间中对样本进行核函数运算的结果。这样,任何一种特征提取算法只要能够表示成点积运?

张玲智[2]2011年在《脑机接口中基于核方法的信号特征提取研究》文中指出脑机接口是一个不依赖外围神经和肌肉,只须利用大脑意识即可向外界传输信息或控制命令的交互系统。这项技术将大大提高人们交流信息或控制外界的能力,尤其对那些患有神经肌肉损伤的病人意义重大。脑机接口中特征提取是脑电/脑磁信号分类的核心问题,也一直是研究的热点问题。为了解决信号分类中的特征提取问题,本文应用核方法基于传统共空间模式和共空域子空间分解方法推广了叁种不同的特征提取方法。首先,将应用于两类别分类的核共空间模式特征提取方法扩展到多类别分类。共空间模式方法是多通道两类别脑电信号特征提取中使用的较为成功的一种算法,是一种基于线性模式的假设关系。我们采用“一对剩余”的策略应用核方法将传统的共空间模式方法推广到了多类别分类中。文中应用多类核共空间模式方法对2005年BCI竞赛Ⅲ数据集Ⅲ_3a进行了实验仿真,将此方法与其它方法进行了对比,表明此方法能够从多类别单次试验的EEG数据中提取相应类别的特征。其次,将基于广义奇异值分解和核方法相结合的广义核共空间模式特征提取方法推广到了多类别脑磁信号的特征提取中,并应用多类广义核共空间模式方法对2008年BCI竞赛Ⅳ数据集data sets3进行了实验仿真,分类的平均正确率超过了竞赛的第二名。最后,提出了核共空域子空间分解算法,这个算法是将传统的应用于两类别分类的共空域子空间分解算法推广到了核空间。文中应用核共空域子空间分解算法对2003年BCI竞赛Ⅱ数据集Ⅳ进行了实验仿真,实验的测试集结果为84%,与竞赛第一名的结果相同。

王光[3]2016年在《基于关键性能指标的数据驱动故障检测方法研究》文中认为过程监控是保障系统安全性和可靠性的重要研究课题。在过去的几十年中,得益于控制理论体系的不断完善,基于解析模型的过程监控方法获得了长足的发展并产生出了大量的研究成果。然而,诸如化工、冶金、生物制药等工业系统,其内部组成的复杂性和底层反应机理的未知性使得建立其精准的数学模型是非常困难甚至是不可能的。因此,基于解析模型的方法难以在此类系统中有效地推广和应用。值得注意的是,这类工业系统通常能够产生出大量的离线记录数据和在线测量数据。如何利用这些丰富的数据对系统进行有效地监测和控制引起了学术界和工业界的持续关注,这也促进了数据驱动过程监控技术的快速发展。在过去的二十年中,数据驱动过程监控方法的主要任务是快速准确地检测出工业过程中发生的故障,并对故障进行辨识、隔离以及恢复来确保系统的稳定运行。然而,近年来的研究成果和工业实践的反馈信息表明并不是所有的过程故障都会影响到系统最终的产品质量,反而忽略此类故障的报警可以显着减少不必要的停产和检修时间,从而极大地提高系统的生产效率同时降低维护成本。出于这一动机,基于关键性能指标(KPI,Key Performance Indicator)的故障检测方法成为工业界的迫切需求,同时也成为近五年来学术界研究的热门课题。鉴于此,针对线性和非线性静态系统,本文将采用多元统计分析等数据驱动技术,深入开展基于KPI的故障检测方法研究。第一,总结数据驱动故障检测方法的发展历程和研究现状,给出基于KPI的故障检测问题的数学描述,并指出在基于KPI的故障检测领域已有的研究成果的不足之处:1)目前针对线性系统提出的方法大多数是在偏最小二乘(PLS,Partial Least Squares)的基础上通过后处理方式实现的,然而PLS对建模数据中的离群点和丢失点等异常数据非常敏感,导致少量异常数据即可严重影响PLS后处理方法的KPI预测性能,另外,已有的此类方法在故障判定逻辑方面依然比较复杂;2)受限于PLS的分解特性,PLS后处理方法的性能通常不稳定,当故障强度增大时这些方法的故障误报率会显着升高;3)目前针对非线性系统提出的方法在故障检测性能和故障判定逻辑等方面都存在明显缺陷;4)目前已有的线性和非线性方法在算法设计上都是独立进行的,具有一致分解结构的综合设计方法尚未引起注意,而这类方法对于简化基于KPI的故障检测系统的设计步骤是非常重要的。针对这些问题,本文将逐一提出相应的解决方案。第二,针对已有的PLS后处理方法对异常数据敏感以及故障判定逻辑复杂的问题,本文通过引入鲁棒PLS算法和期望最大化算法分别降低建模数据中的离群点和丢失点等异常数据对PLS模型的影响,然后利用奇异值分解(SVD,Singular Value Decomposition)将过程变量空间正交分解为与KPI相关的子空间和与KPI无关的子空间,进而提出一种鲁棒KPI预测和基于KPI的线性故障检测方法。仿真结果表明,所提出的方法在KPI预测方面明显优于已有的PLS后处理方法,并且在故障检测性能和故障判定逻辑等方面都有明显的提升。第叁,针对已有的PLS后处理方法当故障强度增大时故障误报率升高的问题,本文通过引入数据预处理的思想,提出一类基于数据预处理和PLS后处理相结合的增强型的基于KPI的线性故障检测方法。该类方法首先通过数据预处理去除过程变量空间中与KPI无关的成分,然后再利用PLS后处理将剩余过程变量空间正交分解为与KPI相关的子空间和与KPI无关的子空间,从而实现过程变量空间的彻底分解。仿真结果表明,所提出的方法明显改善了PLS后处理方法性能不稳定的问题,在故障强度非常大时依然可以保持极低的故障误报率。第四,针对已有的基于KPI的非线性故障检测方法在故障检测性能和故障判定逻辑等方面存在的缺陷,本文提出两种不同实现方式的新方法。首先,本文利用核偏最小二乘(KPLS,Kernel Partial Least Squares)对非线性过程建模,在此基础上构建核空间和KPI之间的线性关系,并通过SVD将核空间正交分解为与KPI相关的子空间和与KPI无关的子空间,进而提出一种基于KPI的非线性故障检测方法。另外,本文充分借鉴非线性模型逼近领域的研究成果,利用统计学习方法将非线性过程等效为若干局部线性模型,并通过在局部模型设计基于KPI的线性故障检测方法进而实现全局的基于KPI的非线性故障检测方法。仿真结果表明,所提出的两种非线性方法在故障检测性能和故障判定逻辑等方面都明显优于已有的方法。第五,针对基于KPI的线性和非线性故障检测方法的综合设计问题,本文提出一种新颖的解决方案。首先,本文在主成分分析(PCA,Principle Component Analysis)的基础上,利用主成分回归(PCR,Principle Component Regression)的建模思想提出一种能够将过程变量空间分解为与KPI相关的子空间和与KPI无关的子空间的算法,进而提出一种新的基于KPI的线性故障检测方法;依据完全相同的分解结构,本文通过建立核主成分分析(KPCA,Kernel Principle Component Analysis)模型,并利用核主成分回归(KPCR,Kernel Principle Component Regression)的建模思想提出一种能够将特征空间分解为与KPI相关的子空间和与KPI无关的子空间的算法,进而提出一种新的基于KPI的非线性故障检测方法。仿真结果表明所提出的线性方法在故障检测性能以及故障判定逻辑等方面都明显优于前面提出的线性方法和已有的PLS后处理方法;而所提出的非线性方法在故障检测性能和故障判定逻辑方面和前面提出的非线性方法基本相同,但明显优于已有的非线性方法。更重要的是,一致的分解结构极大地简化了基于KPI的故障检测系统的设计步骤,同时也便于工程应用人员对算法的理解,因此更加有利于所提出的方法在实际系统中的推广和应用。

郭志强[4]2010年在《基于子空间分析的人脸识别算法研究》文中研究指明人脸识别是当前生物特征识别中的研究热点,提取稳定可靠、区别于其它个体的特征是人脸识别的关键。其中基于子空间投影的特征提取方法,因其算法简单、识别高效而备受人们的亲睐。本文以人脸识别为目标,针对现有人脸图像特征提取存在的几个问题,以子空间分析方法为中心,多种特征提取手段相结合,采用特征提取的混合模型,得到更加可靠有效的识别特征,取得了如下成果。对奇异值分析的人脸识别方法进行了改进,给出了一种包含平均脸奇异值分解的线性鉴别人脸特征提取方法。首先选用练训样本的均值图像作为标准图像,把训练样本投影到标准图像经奇异值分解产生的基空间中,其次提取投影系数矩阵左上角信息作为初步特征,最后再采用LDA降维,提取最终的特征。该方法改善了奇异值分解用于人脸识别基空间不一致的缺陷,同时又增加了特征的类别信息,也避免了LDA的小样本问题。将该方法扩展到非线性方式,给出了包含平均脸奇异值分解的核线性鉴别分析特征提取方法,进一步提取人脸的非线性特征。实验证明,文中提出的方法在识别率上,优于现在有奇异值分解及其改进人脸识别方法。对二维特征人脸识别方法进行了研究,提出了横向2DPCA纵向2DLDA的、双向压缩投影的子空间人脸识别方法,该方法在进行一次2DPCA运算后,对特征矩阵进行转置,再进行2DLDA运算。与(2D)2PCA与(2D)2LDA相比,该方法充分利用了2DPCA和2DLDA的优点,既包含了样本的类别信息,又消除了图像矩阵行和列的相关性,有效地提取了行和列的识别信息,识别特征维数也大幅度减少,在ORL和FERET人脸库上实验表明了其有效性。文中对了分块多投影和分块双向多投影二维特征提取方法进行了研究。分块多投影特征提取方法,针对现有分块单投影特征提取方法中每一子图均采用相同投影矩阵,而对人脸局部信息不加以区别这一问题,构造了分块多投影矩阵,使不同的子图对应不同:的投影矩阵,有效地利甩了人脸局部信息,使识别率得到了提高,在ORL人脸库上实验表明;了其有效性。提出一种基于小波包和PCA变换相结合的特征级融合人脸识别方法,首先对人脸图像进行小波包分解,对分解后的低频子图进行PCA分解,得低频主分量,然后选取含有丰富人脸特征的高频子图进行加权融合,对融合后的高频子图再进行PCA分解,得高频主分量,最后对高低频主分量进行融合处理,得到最终的鉴别特征。分别在ORL和YaleA人脸库上进行试验,实验结果表明该方法提高了识别率。针对保局投影人脸识别方法进行了研究,提出了核判别保局投影算法,即KDLPP。该算法通过核技巧将人脸样本映射到高维空间,在高维空间中有效结合人脸局部的流形结构和人脸的判别信息构建了新的目标函数,其优点是在保持人脸流形结构的基础上,充分利用了样本的类别信息,并采用核方法提取了人脸的非线性特征。在ORL和UMIST人脸库上的实验表明,该方法的识别率整体优于LPP、DLPP和KLPP。针对二维保局投影只在图像的横方向进行数据压缩,提取的特征维数高的问题,首先给出了可选的二维保局投影(A2DLPP)方法,然后将二维保局投影和可选的二维保局投影结合,设计了双向压缩二维保局投影方法,即(2D)2LPP算法。该算法分别从横向和纵向两个方向施实2DLPP,使图像的横向和纵向的维数都得到有效的约简。实验结果表明,(2D)2LPP无论是从识别率还是识别时间上都优于2DLPP和A2DLPP。

杨本娟[5]2015年在《图像篡改检测中的投影核方法》文中研究说明近年来,随着数字图像处理软件的功能越来越强大,篡改者的处理技巧越来越高超,大量真假难辨的篡改图像出现在人们的生活中,由此频频引发各种争端,对社会的稳定和发展产生了严重的影响。图像篡改检测技术正是在这样的背景下迅速兴起和发展,成为目前国内外研究者关注和研究的热点。本文围绕图像篡改检测技术,针对其中存在的诸多问题,从图像噪声检测、模糊痕迹检测以及合成痕迹检测叁个方面,对现有空间投影方法和核方法进行了研究。一方面将这些方法有效地应用到图像篡改检测中,另一方面在研究图像篡改检测技术的过程中探讨了新投影方法。论文工作的主要研究内容为:在图像噪声检测方面,研究了现有基于图像噪声的篡改检测算法,对其基本模型和局限性进行了分析。针对现有算法由于需要知道参考图像数据库或原始图像先验信息因而应用局限性大的问题,研究了一种基于子空间投影的图像篡改检测框架,并在其中研究了两类算法:基于向量投影的传统算法和基于张量投影的新算法。在基于向量投影的传统算法中,以主成分分析(Principal Component Analysis,PCA)、二维主成分分析(Two-Dimensional PCA,2DPCA)和核主成分分析(Kernel PCA,KPCA)为基础,研究实现了基于PCA、2DPCA和KPCA的噪声特征提取和图像篡改检测方法,并通过实验验证了这些算法的可行性。在基于张量投影的新算法中,在深入分析张量二维主成分分析(Tensorial Two-Dimensional PCA,T2DPCA)的基础上,采用T2DPCA算法提取图像噪声特征,实现图像篡改检测,并通过实验验证了此算法的有效性。进一步,对上述T2DPCA算法进行了增量实现处理和核化处理,以解决算法的空间复杂性问题和揭示篡改操作固有的高阶非线性特性,提升其性能。首先,研究了向量空间中的自适应训练方法和稀疏表示技术,在其基础上实现了张量型Oja’s学习准则和张量距离准则,从而给出了T2DPCA算法的增量实现方式,即增量型张量二维主成分分析(Incremental T2DPCA,IT2DPCA)。其次,为了更好地挖掘隐藏在数据间的非线性结构,在研究向量空间中核方法的基础上,针对核化T2DPCA算法所必须满足的两个条件,一方面通过对原始T2DPCA算法进行改写,得到内积型T2DPCA算法,另一方面通过分析张量空间中新定义的内积运算与传统向量空间内积运算之间的关系,借助向量空间核方法思想,将T2DPCA推广到非线性映射特征空间,得到核张量二维主成分分析(Kernel T2DPCA,KT2DPCA)算法。另外,结合上述增量学习方法和核方法,分析了核化IT2DPCA所必须满足的基本条件;鉴于IT2DPCA算法的内积特性,直接借助向量空间核方法实现IT2DPCA的核化,得到增量型核张量二维主成分分析(Incremental Kernel T2DPCA,IKT2DPCA)算法。最后,将IT2DPCA、KT2DPCA和IKT2DPCA应用于图像篡改检测实验,验证了这些方法的有效性。在模糊痕迹检测方面,在分析现有模糊痕迹检测算法的基础上,一方面从传统思路的角度,通过对模糊操作的分析,定义了图像像素线性相关性概念,提出模糊操作会增强图像像素线性相关性的性质和给出两种实现图像模糊痕迹检测的算法。第一种算法采用最小二乘(Least Square,LS)提取图像像素线性相关性,应用聚类实现模糊篡改检测;第二种算法则是利用模糊操作对已模糊图像线性相关性的增强力度要小于未模糊图像的现象,采用奇异值分解(Singular Value Decomposition,SVD)提取图像像素线性相关性特征,从而实现模糊篡改检测。两种算法的实验结果均显示了图像像素线性相关性特征对模糊痕迹检测的有效性。另一方面,探讨了一个基于前景特征和背景特征的新检测框架,针对传统模糊检测方法通常仅利用模糊操作引入的某一种特性并依赖阈值的问题,提出了基于多特征融合的图像模糊检测框架,并分别采用PCA和KPCA算法,实现了基于特征融合的图像模糊篡改检测。实验结果显示了多特征融合对模糊痕迹检测的有效性。在图像合成篡改检测方面,在分析现有基于特征融合和决策融合的图像篡改检测算法所存在问题和发展方向的基础上,从综合利用多特征的角度出发,在利用篡改操作特征的同时引入自然图像统计特性,研究了一种基于核判别分析(Kernel Discriminant Analysis,KDA)和证据理论的分层融合方法,通过实验验证了基于特征融合和决策融合的分层融合方法的有效性。

辜小花[6]2011年在《保局鉴别人脸特征提取方法研究》文中进行了进一步梳理特征提取是模式识别研究中的基本问题之一。对于人脸识别而言,提取有效的人脸特征是实现人脸识别任务的一个关键环节。在众多的人脸特征提取方法中,子空间学习方法由于其计算简单、有效性高等优点受到了广泛的关注并得到了大量的研究。主成分分析(PCA)和线性鉴别分析(LDA)是两种典型的子空间分析方法,已经在人脸识别中取得了较好的效果。然而,由于PCA和LDA都是建立在样本分布于线性流形的假设之上的,因此,这就与“人脸样本很可能是分布在一个嵌入到高维空间的低维非线性子流形上”的研究结果相违背。近年提出的保局投影(LPP)是经典流形学习方法拉普拉斯特征映射(LE)的线性逼近,它通过保持样本在降维前后的局部近邻关系实现了对样本流形分布的描述,为此,该方法在很多领域得到了广泛的应用。同时,大量的理论分析和实验已经证实:在处理模式分类问题时,基于可分性准则的鉴别分析方法具有其自身的优势。因此,结合流形学习和鉴别分析进行特征提取是当前的研究热点。研究者们已经提出了一系列流形鉴别子空间分析方法,并成功应用于人脸特征提取。然而,目前大多数流形子空间分析方法仍然是线性的特征提取方法,对高度线性不可分对象(如人脸图像)的处理能力有限。另外,当输入空间样本的近邻关系描述不准确时,这些方法就不能很好的反映样本集本身的特性。为了解决上述问题,本论文以保局投影和鉴别保局投影为基础,结合核技巧、全子空间分析、特征正则化以及图优化等,对保局鉴别子空间人脸特征提取方法开展了深入的研究。论文主要在以下叁方面开展了具有特色的研究工作:①鉴别保局投影方法在一定程度上保持了样本的非线性特性,但本质上仍然是线性的特征提取方法;而人脸图像由于受光照、背景及成像条件等外部因素以及年龄、表情、姿态等内在因素的影响,具有很高的可变性,进而在图像空间呈现出高度的线性不可分性。因此,鉴别保局投影(DLPP)在用于提取人脸特征时,受限于其线性特性而表现不佳。为此,作者结合核技巧,在DLPP的基础上提出了一种非线性特征提取算法——主元空间核保局鉴别分析(PKLPDA)算法。该算法首先利用非线性映射将输入空间内线性不可分的数据投影到高维特征空间,并在高维特征空间内提取保局鉴别特征。PKLPDA算法融合了保局投影、鉴别分析和核映射的优点,提高了处理高度非线性对象的能力。②鉴别保局投影是一种鉴别分析方法,为了避免高维小样本问题,在求解过程中通常会加入PCA降维作为前处理。而PCA降维过程在降低数据维度、减少噪声和冗余的同时也伴随着鉴别信息的丢失。另一方面,有限的人脸样本还会带来保局类内散布矩阵的小特征值和零特征估计不稳定、不准确的问题。为此,作者结合特征正则化,提出了正则化保局鉴别分析(RLPDA)算法。该算法将整个保局鉴别特征空间划分为叁个子空间,并针对每个子空间不同的特性进行不同的正则化,从而实现了鉴别特征的完全、有效利用,并回避了小样本问题。③与其他的图嵌套降维方法一样,保局投影的近邻图也是预先定义的,且与降维过程相互独立。该近邻图的构造仅依赖于原图像空间内的近邻关系以及涉及到的参数。当原空间内的近邻关系对整个数据集的描述不准确或者参数选择不当时,所得到的近邻图也就不准确。在这种不准确的近邻图基础上对数据进行降维处理可能无法得到预想的结果。为此,作者结合图优化策略及有监督学习思想,提出了有监督图优化保局投影(SGoLPP)算法。该算法通过将描述近邻图的权值矩阵作为优化项引入到特征降维的目标函数中,实现了对权值矩阵和投影矩阵的同步优化,并利用类别信息确保在更新的过程中异类样本点对对应的权值为零,从而大大降低了异类样本的干扰,使得到的权值矩阵能更好的反映原始数据集的类别分布。通过在ORL、UMIST、CMU PIE、Yale和FERET等标准人脸图像库上的大量人脸识别实验证实:上述提出的几种保局鉴别子空间人脸特征提取算法的识别性能均优于LDA、LPP、DLPP、NDLPP、DLA、ERE、KFDA、GoLPP等常用的子空间分析算法,验证了上述方法的有效性。同时,上述研究工作已经在《Neucomputing》、《仪器仪表学报》、《光学精密工程》等国内外期刊以及《LNCS》、《Proceedings of SPIE》等国际会议论文集上得到发表或录用。

孙哲[7]2018年在《基于解耦空间特征学习的稀疏表示面部表情识别算法研究》文中提出随着计算机技术和人工智能技术的迅猛发展,面部表情识别技术作为智能化人机交互的重要手段具有广阔的应用前景。虽然目前众多面部表情识别算法已取得较好的识别性能,但面部表情识别系统在实际应用中仍面临很多问题。通常获得的欠完备训练数据是人脸身份和表情特征的融合图像,这两者之间互相影响。对于表情识别问题,原始的图像可理解为人脸身份和表情特征的混合空间,其中人脸身份为干扰空间,而表情特征则为有效空间。因此,如何解耦有效的表情特征同时抑制人脸身份对表情特征的影响,并设计独立于人脸身份的自动表情识别系统具有重要的理论和应用价值。本文从特征提取角度入手,针对欠完备数据融合人脸身份和表情特征的特点,构建基于解耦空间特征学习识别模型。特征提取从浅层特征和深层特征两方面入手,分别构建基于先验知识解耦空间和自学习解耦空间的表情识别算法。具体研究内容如下:(1)根据欠完备数据融合人脸身份和表情特征的问题,分别提出基于独立人脸身份的协同表示识别算法及基于字典学习特征空间的稀疏表示识别算法。基于独立人脸身份的协同表示识别算法首先将原始空间转化到表情空间并将欠完备的表情训练样本进行扩展,以弥补小样本对识别结果带来的不足,进而利用协同表示方法进行分类。基于字典学习特征空间的稀疏表示识别算法尝试将原始空间转化到表情空间,之后利用图像的对称结构对表情字典进行学习并采用主成分分析降维,最终利用稀疏表示方法对测试样本进行分类。(2)针对训练样本中缺少中性表情集导致无法借助此表情集构造表情字典的问题,将原始空间分解为低秩空间和稀疏误差空间,提出一种基于低秩稀疏误差字典的概率协同表示识别算法。该算法利用低秩子空间映射方法将原始字典分解为与人脸身份相关的低秩共同字典及与表情相关的稀疏误差字典,进而利用概率协同表示方法对测试样本进行分类。(3)从面向数据角度出发,提出一种基于像素差值表示的区分性特征学习识别算法,该算法尝试利用一种区分性的特征描述符提高表情特征的表示能力。首先,将原始字典中的训练图像进行差分编码,得到表征局部表情变化的区分性特征字典,该特征字典相比原始字典可以提供更有区分性的表情特征;其次,利用垂直二维线性判别分析模型消除区分性特征字典行之间的相关性并将其映射到低维空间,使其类间散度与类内散度比最大,致使表情类间的差异最大化;最后,利用近邻分类器进行分类,降低了时间及空间复杂度。(4)鉴于深度子空间模型优异的特征提取能力及在运行时间上的优势,分别提出基于深度子空间特征核映射的稀疏表示识别算法及基于深度子空间特征二步表示分类识别算法。基于深度子空间特征核映射的稀疏表示识别算法尝试将深层特征投影到核空间,以此捕捉特征间的非线性结构,最终利用协同表示方法进行分类。基于深度子空间特征二步表示分类识别算法从特征选择角度入手,利用欧氏距离筛选出与测试样本特征相近的训练样本特征用于表示及分类,提高识别性能。

王楠楠[8]2008年在《高光谱图像异常目标检测》文中进行了进一步梳理高光谱图像是一种具有很高光谱分辨率的新型遥感数据。在实际高光谱影像处理和分析工作中,光谱影像丰富的光谱信息为地物的边界和地物目标的检测识别提供了良好的条件。其中的异常检测算法,能在没有先验光谱信息的情况下,检测到与周围环境存在光谱差异的目标,具有较强的实用性,是目标检测领域的研究热点。本文在深入分析高光谱数据特点及异常检测算法的基础上,针对高光谱图像异常检测中存在的高数据维、非线性信息提取、背景干扰、混合像元等问题做了以下几方面的研究。1.在研究高光谱图像数据降维技术的基础上,采用了一种基于经验模态分析的高光谱数据融合方法。该方法以高光谱图像自适应子空间分解后的各子空间为处理单元,通过对子空间内各波段图像进行希尔伯特黄变换,提取代表细节的小尺度信息进行图像融合。将融合后的图像用于异常检测,不仅极大地降低了高光谱图像的数据量,而且能够有效地提取图像的细节。信息,提高检测概率。2.提出了一种基于背景抑制及顶点成分分析的高光谱异常小目标检测方法。该算法结合了异常目标的分布有较强稀疏性和奇异性的特点,在大面积背景抑制的基础上,应用顶点成分分析方法提取异常信息,并采用光谱角匹配进行异常检测。该算法去除了背景干扰,有效提取出了异常信息。3.在对核函数方法理论深入研究的基础上,采用了基于混合核函数的正交子空间投影异常检测算法。该算法在图像的高维特征空间中进行目标点的循环检测,将图像投影到目标构成的正交子空间上,来消除异常点及抑制背景。另外,在用核函数的性质进行特征空间的内积运算转化时,进一步对算法进行了改进,运用了光谱核函数和径向基核函数的线性组合,减弱了高光谱图像同物异谱现象引起的能量差异对检测精度的影响。4.在研究了基于核的特征提取算法基础上,给出了一种基于聚类与核主成份分析的高光谱图像异常检测方法。通过聚类算法提取出具有代表性的聚类中心,然后将核化的主成份分析算法作用于聚类中心,提取出特征信息,在此基础上进行目标检测。该算法用更有代表性的聚类中心作为输入,减少了样本点的数目,降低了核算法的计算量。结合核主成份分析法后有效地提取出了特征向量,进一步提高了异常检测的性能。实验证明了在提取特征及异常目标检测方面的优势。

赵丽红[9]2006年在《人脸检测和识别算法的研究与实现》文中研究说明生物特征识别是利用人类特有的生理或行为特征来识别个人身份的技术,它提供了一种高可靠性、高稳定性的身份鉴别途径。人脸检测和识别是目前生物特征识别中最受人们关注的一个分支,是当前图像处理、模式识别和计算机视觉领域内的一个热门研究课题,在公安部门罪犯搜索、安全部门动态监视识别、银行密码系统等许多领域有广泛的应用。与指纹、视网膜、虹膜、掌纹等其他人体生物特征识别方法相比,人脸识别具有直接、友好,使用者无心理障碍等特点。本文对此进行了较为深入的研究,论文的主要工作和成果有以下几个方面: (1) 全面概述了生物特征识别技术及其发展方向、应用背景和研究意义,重点描述了人脸识别技术的研究内容、方法、应用前景,介绍了人脸识别技术在国内外的研究现状,对人脸自动检测与识别技术进行了综述。 (2) 提出一种非线性变换的彩色空间来描述肤色模型,在该非线性彩色空间上进行人脸肤色的分割,采用基于区域增长算法的自适应阈值处理,实现了一个完整的皮肤分类器。通过使用自适应阈值的模糊分割技术,使皮肤区域与非皮肤区域有效地分割开,从而得到人脸候选区域。提出利用多尺度形态边缘检测算法定位眼睛和嘴的位置,根据均值和方差分割出的纹理特征和人脸几何特性来定位人脸,从而验证候选区域是否为人脸。 (3) 在标准PCA原理基础上,分别提出了对称主成分分析和核主成分分析算法进行人脸识别。通过引入镜像样本,将人脸图像进行奇偶分解,并分别对奇偶图像应用KL展开,提取奇偶对称KL特征;根据各个特征分量在人脸中所占能量比例的不同以及对视角、旋转、光照等干扰的不同敏感程度,进行特征选择,增强特征的稳定性;从理论分析入手,建立理论基础,并将该算法成功应用于人脸识别中。该算法从理论上提出奇偶正交重构,在应用上利用镜像样本扩大样本容量,提高了识别性能并增强了人脸识别算法的实用性。作为一类核方法,KPCA方法在模式识别领域中得到了较多的应用,其基础是使用KPCA进行特征抽取。在进行非线性映射之前,首先利用经典的主分量分析降维,然后再进行核主分量分析(KPCA)。在ORL标准人脸库上的实验结果验证了所提算法的有效性。 (4) 提出了基于小波变换图像相关性的人脸识别方法。用小波变换将原始图像分解提取特征,可以有效地降低特征向量的维数;将训练集中的5幅图像取平均值作为模板脸,计算测试集中的5幅小波变换图像与模板脸的相关系数,并进行比较。在ORL人脸库上的实验结果表明,提出的方法可以达到98.5%的正确识别率,计算量小,速度快,可用于各种人脸识别系统中。

杜卓[10]2016年在《基于多子空间的稀疏表示人脸识别算法》文中研究说明近来,人脸识别作为生物识别重要研究方向已成为科研工作探索热点之一。然而,实际环境采集到的人脸图像往往有非线性结构及噪声污染,影响人脸识别鲁棒性。本文在国内外研究基础上,针对这些问题围绕稀疏表示分类做了进一步的研究。首先,针对经典子模块利用一致判决模型进行分类时,同等看待各子模块而忽视其因刻画不同内容导致的数据分布差异,提出多子模块分类器优化集成的稀疏表示分类算法。首先对训练集、验证集和测试集进行分块,对验证集每个子模块利用叁种算法进行分类判别,通过比较叁种算法对各子模块的判决效果,找出识别率最高的方法作为测试集对应子模块分类方法,然后对其进行分类判决,最后统计各子模块判决结果,得到最终分类。其次,针对大多数人脸识别算法一般在低维线性子空间中进行分类判别,而低维空间往往存在非线性不可分情况,同时基于全局考虑的识别算法忽略了局部特征。从而影响人脸识别鲁棒性问题,提出基于多子空间的核稀疏表示分类算法。首先对人脸图像进行分块,然后将各子模块分别映射到核空间,并在核空间进行分类判别,最后对判别结果进行统计,得到最终类别。最后,针对实际条件下采集到的人脸图像具有光照、遮挡等噪声污染问题,提出基于低秩子空间恢复二阶稀疏表示的人脸识别分类算法。首先对人脸图像进行低秩子空间恢复,得到人脸图像低秩结构,学习一个鲁棒距离矩阵,将“干净”的测试样本及训练样本映射到该距离空间,然后利用最近邻方法选出训练字典中与测试样本最相近的前若干个样本,重构训练字典,最后利用稀疏表示算法进行分类判别。

参考文献:

[1]. 基于子空间分解和核空间映射的特征提取方法的研究[D]. 刘伟. 吉林大学. 2004

[2]. 脑机接口中基于核方法的信号特征提取研究[D]. 张玲智. 燕山大学. 2011

[3]. 基于关键性能指标的数据驱动故障检测方法研究[D]. 王光. 哈尔滨工业大学. 2016

[4]. 基于子空间分析的人脸识别算法研究[D]. 郭志强. 武汉理工大学. 2010

[5]. 图像篡改检测中的投影核方法[D]. 杨本娟. 贵州大学. 2015

[6]. 保局鉴别人脸特征提取方法研究[D]. 辜小花. 重庆大学. 2011

[7]. 基于解耦空间特征学习的稀疏表示面部表情识别算法研究[D]. 孙哲. 燕山大学. 2018

[8]. 高光谱图像异常目标检测[D]. 王楠楠. 哈尔滨工程大学. 2008

[9]. 人脸检测和识别算法的研究与实现[D]. 赵丽红. 东北大学. 2006

[10]. 基于多子空间的稀疏表示人脸识别算法[D]. 杜卓. 燕山大学. 2016

标签:;  ;  ;  ;  ;  ;  ;  ;  ;  ;  ;  ;  ;  ;  ;  ;  ;  ;  

基于子空间分解和核空间映射的特征提取方法的研究
下载Doc文档

猜你喜欢