基于分数阶正交偏最小二乘的人脸超分辨率重建识别方法与流程

专利2022-06-29  58


本发明涉及超分辨率重建和识别领域,特别涉及基于分数阶正交偏最小二乘的人脸超分辨率重建识别方法。



背景技术:

多元分析方法常被运用于超分辨率重建以进行特征提取,其中较为流行的是主成分分析(principalcomponentanalysis,pca),特征提取步骤通常用来对数据降维并减少噪声。pca通过保留合适的维度以提取人脸的有用信息并过滤噪声,wang等人提出一个通过pca得到图像线性组合系数来生成高分辨率人脸的框架。

偏最小二乘方法(pls)是一种分析两类随机变量之间关系的有效方法,其旨在寻找一对使得两类随机变量之间的协方差最大化的投影方向。hao等人提出一种基于偏最小二乘的人脸超分辨率方法,同时学习高分辨率和低分辨率人脸图像间的映射关系。zhang等人提出一种基于局部保持偏最小二乘的人脸超分辨率方法,其处理数据的局部信息并学习高分辨率和低人脸图像块的映射关系。另外,wu等人提出一种基于回归的超分辨率方法,其利用核偏最小二乘预测输入低分辨率图像的高分辨率图像,但是,上述方法使用偏最小二乘的非线性迭代算法来求解高分辨率和低分辨率图像的投影方向,这样并不能保证所有高分辨率和低分辨率图像的投影方向相互正交,并且较少的训练数据将导致方差和协方差产生偏差。因此利用分数阶正交偏最小二乘(fractionalorthonormalizedpartialleastsquares,fopls)方法,通过分数阶特征值和奇异值重新调整组内和组间协方差矩阵,再计算投影方向,重建高分辨率全局人脸,并且高分辨率全局脸特征可用于人脸识别。

在人脸识别领域,由于光照、距离、天气等因素限制,低分辨率问题存在于许多实际生活场景。低分辨率人脸图像通常丢失了以多面部细节,是的传统人脸分析方法很难取得满意的效果。因此,从输入的低分辨率人脸中恢复出高分辨率人脸图像是一项很有挑战的问题。现有的人脸图像超分辨率算法可以被粗略地分为三类:基于学习的、基于插值的和基于重建的超分辨率算法。基于学习的方法通过学习高分辨率和低分辨率训练集之间的关系来预测高分辨率图像,近期,许多研究者将深度学习与基于学习的超分辨率方法相结合,取得了巨大的成功;基于插值的方法通过预测未知像素信息来生成高分辨率图像,但因为没有带来有效的新信息,通常结果非常模糊;基于重建的方法利用先验知识和约束信息构造高分辨率图像,但在输出结果的细节方面仍然表现不佳。



技术实现要素:

本发明的目的是克服现有技术缺陷,提供基于分数阶正交偏最小二乘的人脸超分辨率重建识别方法,通过分数阶特征值和奇异值重新调整,再计算投影方向,将人脸图像特征映射到子空间中,通过邻域重建的思想重建出高分辨率全局脸特征,并通过残差补偿策略补充人脸细节,并且高分辨率全局脸特征可用于人脸识别

本发明的目的是这样实现的:基于分数阶正交偏最小二乘的人脸超分辨率重建识别方法,包括以下步骤:

步骤1对训练集中的高分辨率和低分辨率图像进行特征提取,使用pca提取人脸主成分特征,再利用fopls法对组内和组间协方差矩阵进行调整,并计算投影向量,使主成分特征投影到fopls子空间,对输入的低分辨率人脸图像提取主成分特征并投影到相同的子空间中,通过领域重建构造输入人脸对应的高分辨率全局人脸;

步骤2计算得到高分辨率和低分辨率人脸残差图像集,将残差图像分成若干边长相等、互相重叠的方块,利用fopls将其主成分特征投影到子空间,在子空间中利用邻域重建方法构造高分辨率人脸残差块,将残差块合成得到高分辨率人脸残余补偿;

步骤3最终重建完成的高分辨率人脸图像为高分辨率全局人脸加上高分辨率人脸残差补偿。

作为本发明的进一步限定,步骤1中所述高分辨率全局人脸重建包括以下步骤:

(1)给定高分辨率训练集低分辨率训练集其中s和q分别表示高分辨率人脸图像向量和低分辨率人脸图像向量的维度,m为训练图像的数量,通过对每个高分辨率人脸图像和低分辨率人脸中心化,其中μh和μl分别为高分辨率训练图像和低分辨率训练图像的均值,令利用pca提取高分辨率和低分辨率人脸图像的主成分特征:其中

(2)求解如下fopls的最优化问题,计算出高分辨率和低分辨率人脸的投影方向

其中同时分别表示组内和组间协方差矩阵,tr(·)代表矩阵的迹,i是单位矩阵,并且:

其中0≤α≤1,为shl的左奇异向量矩阵,是shl的右奇异向量矩阵,σ1≥σ2≥…≥σr≥0为r个非零奇异值,且r=rank(shl),

其中0≤β≤1,为shh的特征向量矩阵,个非零特征值,且

(3)得到投影向量wh和wl后,通过计算高分辨率和低分辨率人脸主成分特征在子空间中的低维嵌入,设输入的测试低分辨率图像为同样求得其主成分特征并计算其fopls特征:使用邻域重建方法在低分辨率子空间中寻找k1个cl的最近邻求解如下最优化问题计算权重系数

定义权重系数可以接下来使用权重值构造出高分辨率全局脸特征:

该特征可用于进行人脸识别工作,通过逆运算将ch从子空间特征转换回像素域以得到高分辨率全局脸图像hg:

其中表示摩尔-彭若斯广义逆。

作为本发明的进一步限定,步骤2中所述残差补偿包括以下步骤:

(1)对训练集中的所有低分辨率图像使用上述的步骤求其高分辨率全局脸图像得到高分辨率残差集和低分辨率残差集其中↓表示将每一张全局脸图像进行下采样处理;

(2)将所有残差图像分成若干大小为n×n且互相重叠的残差块,为了让低分辨率残差图像的块数和高分辨率残差图像块数一样,在对低分辨率残差人脸分块前,利用插值算法将其上采样到与高分辨率残差人脸相同大小,对于在j位置的高分辨率和低分辨率残差块,使用上述步骤计算其主成分特征并投影到fopls子空间,对于输入的低分辨率人脸l,通过lr=l-hg↓计算其残差脸,将lr上采样到高分辨率残差人脸图像相同大小,并进行分块处理,对于每一个残差块,使用上述步骤计算其主成分特征并投影到fopls子空间,利用邻域重建策略重建出高分辨率残差块,合并残差块得到高分辨率残差人脸hr。

作为本发明的进一步限定,步骤3中所述最终重建完成的高分辨率人脸图像为:h=hg hr。

与现有技术相比,本发明的有益效果在于:本发明通过特征值和奇异值的分数阶建模,来重新估计组内和组间协方差矩阵,以此减小实践中人脸样本协方差矩阵的偏离,在人脸超分辨率重建与识别应用中,本发明能够获得更好的人脸重建效果和更高的人脸识别准确率。

附图说明

图1是本发明的实现流程图。

图2是六种方法在cas-peal-r1数据库上的超分辨率重建结果对比图。

图3是六种方法在cmupie数据库上的人脸识别结果对比图。

图4是六种方法在at&t数据库上的人脸识别结果对比图。

具体实施方式

如图1所示的基于分数阶正交偏最小二乘的人脸超分辨率重建识别方法,包括以下步骤:

步骤1对训练集中的高分辨率和低分辨率图像进行特征提取,使用pca提取人脸主成分特征,再利用fopls法对组内和组间协方差矩阵进行调整,并计算投影向量,使主成分特征投影到fopls子空间,对输入的低分辨率人脸图像提取主成分特征并投影到相同的子空间中,通过领域重建构造输入人脸对应的高分辨率全局人脸;

步骤1中高分辨率全局人脸重建包括以下步骤:

(1)给定高分辨率训练集低分辨率训练集其中s和q分别表示高分辨率人脸图像向量和低分辨率人脸图像向量的维度,m为训练图像的数量,通过对每个高分辨率人脸图像和低分辨率人脸中心化,其中μh和μl分别为高分辨率训练图像和低分辨率训练图像的均值,令利用pca提取高分辨率和低分辨率人脸图像的主成分特征:其中

(2)求解如下fopls的最优化问题,计算出高分辨率和低分辨率人脸的投影方向

其中同时分别表示组内和组间协方差矩阵,tr(·)代表矩阵的迹,i是单位矩阵,并且:

其中0≤a≤1,为shl的左奇异向量矩阵,是shl的右奇异向量矩阵,σ1≥σ2≥…≥σr≥0为r个非零奇异值,且r=rank(shl),

其中0≤β≤1,为shh的特征向量矩阵,个非零特征值,且

(3)得到投影向量wh和wl后,通过计算高分辨率和低分辨率人脸主成分特征在子空间中的低维嵌入,设输入的测试低分辨率图像为同样求得其主成分特征并计算其fopls特征:使用邻域重建方法在低分辨率子空间中寻找k1个cl的最近邻求解如下最优化问题计算权重系数

定义权重系数可以接下来使用权重值构造出高分辨率全局脸特征:

该特征可用于进行人脸识别工作,通过逆运算将ch从子空间特征转换回像素域以得到高分辨率全局脸图像hg:

其中表示摩尔-彭若斯广义逆。

步骤2计算得到高分辨率和低分辨率人脸残差图像集,将残差图像分成若干边长相等、互相重叠的方块,利用fopls将其主成分特征投影到子空间,在子空间中利用邻域重建方法构造高分辨率人脸残差块,将残差块合成得到高分辨率人脸残余补偿;

步骤2中残差补偿包括以下步骤:

(1)对训练集中的所有低分辨率图像使用上述的步骤求其高分辨率全局脸图像得到高分辨率残差集和低分辨率残差集其中↓表示将每一张全局脸图像进行下采样处理;

(2)将所有残差图像分成若干大小为n×n且互相重叠的残差块,为了让低分辨率残差图像的块数和高分辨率残差图像块数一样,在对低分辨率残差人脸分块前,利用插值算法将其上采样到与高分辨率残差人脸相同大小,对于在j位置的高分辨率和低分辨率残差块,使用上述步骤计算其主成分特征并投影到fopls子空间,对于输入的低分辨率人脸l,通过lr=l-hg↓计算其残差脸,将lr上采样到高分辨率残差人脸图像相同大小,并进行分块处理,对于每一个残差块,使用上述步骤计算其主成分特征并投影到fopls子空间,利用邻域重建策略重建出高分辨率残差块,合并残差块得到高分辨率残差人脸hr。

步骤3最终重建完成的高分辨率人脸图像为高分辨率全局人脸加上高分辨率人脸残差补偿:h=hg hr。

本发明可通过以下实验进一步说明:

为了测试本发明的有效性,分别进行人脸超分辨率重建实验以及人脸识别实验,其中人脸超分辨率重建实验采用cas-peal-r1数据库,使用1040张人脸图像,每人一张,高分辨率图像为96×96,2倍下采样的低分辨率图像大小为48×48,4倍下采样的低分辨率图像大小为24×24。人脸识别实验采用cmupie数据库以及at&t数据库。cmupie数据库中的高分辨率人脸图像大小为64×64,2倍、4倍、8倍下采样低分辨率人脸大小分别为32×32、16×16以及8×8。选择每个人的前16张人脸图像作为训练,每人剩下的8张人脸图像作为测试。at&t数据库包含40人且每人有10张不同角度不同姿态的人脸图像。每人前6张图像作为训练,剩下的作为测试。高分辨率图像大小为112×92,2倍、4倍、8倍的低分辨率大小分别为56×46、28×23以及14×12。

实验1基于cas-peal数据库的人脸超分辨率重建实验

在本实验中,本发明全局连重建中的邻域大小k1设置为360,残差补偿中的邻域大小k2设置为400,块大小设置为16×16,重叠12像素。分数阶参数α和β分别为0.6和0.4。ne方法中的邻域大小、块边长以及重叠像素分别为10,6n×6n以及5n,其中n为缩放系数。srlsp方法中的正则化参数α=1.5且块大小为6×6,重叠4像素。另外,cllr-sr和本发明中的pca步骤均保留98%以上的光谱能量。本实验中使用峰值信噪比(psnr)和结构相似度(ssim)为指标衡量重建结果的质量。表1列出了每种方法的平均psnr、ssim结果,如图2所示每种方法重建结果的视觉对比,可以看出,无论使用哪种指标,本发明的结果都更加优秀。结果表明本发明可以获得高分辨率和低分辨率人脸图像间更强的一致性。

表1六种方法在cas-peal-r1数据库上以2倍、4倍缩放倍数的平均psnr、ssim指标得分

实验2基于cmupie数据库和at&t数据库的人脸识别实验

在本实验中,cllr-sr中的邻域大小为30,2dmcca中的邻域大小为100且迭代次数为5。srdcca中邻域大小为60。bic-pca方法首先通过bicubic插值方法获得高分辨率人脸图像,再提取10维主成分特征用于识别。在本发明以及cllr-sr、2dmcca、srdcca方法中的pca步骤中,保留99%的光谱能量。在基于cmupie数据库的实验中,本发明的分数阶参数α和β分别设置为0.6和0.4,如图3所示六种方法基于cmupie数据库在2倍、4倍以及8倍下采样倍数下的识别率结果对比,可以看出,本发明的表现都更加优秀;在基于at&t数据库的实验中,本发明的分数阶参数α和β分别设置为0.1和0.3。如图4所示六种方法基于at&t数据库在2倍、4倍以及8倍下采样倍数下的识别率对比,可以看出,本发明的表现都更加优秀。

综上所述,本发明通过特征值和奇异值的分数阶建模,来重新估计组内和组间协方差矩阵,以此减小实践中人脸样本协方差矩阵的偏离,在人脸超分辨率重建与识别应用中,本发明能够获得更好的人脸重建效果和更高的人脸识别准确率。

本发明并不局限于上述实施例,在本发明公开的技术方案的基础上,本领域的技术人员根据所公开的技术内容,不需要创造性的劳动就可以对其中的一些技术特征作出一些替换和变形,这些替换和变形均在本发明的保护范围内。


技术特征:

1.基于分数阶正交偏最小二乘的人脸超分辨率重建识别方法,其特征在于,包括以下步骤:

步骤1对训练集中的高分辨率和低分辨率图像进行特征提取,使用pca提取人脸主成分特征,再利用fopls法对组内和组间协方差矩阵进行调整,并计算投影向量,使主成分特征投影到fopls子空间,对输入的低分辨率人脸图像提取主成分特征并投影到相同的子空间中,通过领域重建构造输入人脸对应的高分辨率全局人脸;

步骤2计算得到高分辨率和低分辨率人脸残差图像集,将残差图像分成若干边长相等、互相重叠的方块,利用fopls将其主成分特征投影到子空间,在子空间中利用邻域重建方法构造高分辨率人脸残差块,将残差块合成得到高分辨率人脸残余补偿;

步骤3最终重建完成的高分辨率人脸图像为高分辨率全局人脸加上高分辨率人脸残差补偿。

2.根据权利要求1所述的基于分数阶正交偏最小二乘的人脸超分辨率重建识别方法,其特征在于,步骤1中所述高分辨率全局人脸重建包括以下步骤:

(1)给定高分辨率训练集低分辨率训练集其中s和q分别表示高分辨率人脸图像向量和低分辨率人脸图像向量的维度,m为训练图像的数量,通过对每个高分辨率人脸图像和低分辨率人脸中心化,其中μh和μl分别为高分辨率训练图像和低分辨率训练图像的均值,令利用pca提取高分辨率和低分辨率人脸图像的主成分特征:其中

(2)求解如下fopls的最优化问题,计算出高分辨率和低分辨率人脸的投影方向

其中同时分别表示组内和组间协方差矩阵,tr()代表矩阵的迹,i是单位矩阵,并且:

其中0≤α≤1,为shl的左奇异向量矩阵,是shl的右奇异向量矩阵,σ1≥σ2≥…≥σr≥0为r个非零奇异值,且r=rank(shl),

其中0≤β≤1,为shh的特征向量矩阵,个非零特征值,且

(3)得到投影向量wh和wl后,通过计算高分辨率和低分辨率人脸主成分特征在子空间中的低维嵌入,设输入的测试低分辨率图像为同样求得其主成分特征并计算其fopls特征:使用邻域重建方法在低分辨率子空间中寻找k1个cl的最近邻求解如下最优化问题计算权重系数

定义权重系数可以接下来使用权重值构造出高分辨率全局脸特征:

该特征可用于进行人脸识别工作,通过逆运算将ch从子空间特征转换回像素域以得到高分辨率全局脸图像hg:

其中表示摩尔-彭若斯广义逆。

3.根据权利要求1所述的基于分数阶正交偏最小二乘的人脸超分辨率重建识别方法,其特征在于,步骤2中所述残差补偿包括以下步骤:

(1)对训练集中的所有低分辨率图像使用上述的步骤求其高分辨率全局脸图像得到高分辨率残差集和低分辨率残差集其中↓表示将每一张全局脸图像进行下采样处理;

(2)将所有残差图像分成若干大小为n×n且互相重叠的残差块,为了让低分辨率残差图像的块数和高分辨率残差图像块数一样,在对低分辨率残差人脸分块前,利用插值算法将其上采样到与高分辨率残差人脸相同大小,对于在j位置的高分辨率和低分辨率残差块,使用上述步骤计算其主成分特征并投影到fopls子空间,对于输入的低分辨率人脸l,通过lr=l-hg↓计算其残差脸,将lr上采样到高分辨率残差人脸图像相同大小,并进行分块处理,对于每一个残差块,使用上述步骤计算其主成分特征并投影到fopls子空间,利用邻域重建策略重建出高分辨率残差块,合并残差块得到高分辨率残差人脸hr。

4.根据权利要求3所述的基于分数阶正交偏最小二乘的人脸超分辨率重建识别方法,其特征在于,步骤3中所述最终重建完成的高分辨率人脸图像为:h=hg hr。

技术总结
本发明公开了基于分数阶正交偏最小二乘的人脸超分辨率重建识别方法,包括以下步骤:1利用分数阶正交偏最小二乘,将组内和组间协方差矩阵通过分数阶特征值和奇异值重新调整,再计算投影方向,将人脸图像特征映射到子空间中,通过邻域重建的思想重建出低分辨率输入高分辨率全局脸特征;2利用邻域重建方法构造高分辨率人脸残差块,将残差块合成得到高分辨率人脸残余补偿,通过残差补偿策略补充人脸细节;3最终算法输出的高分辨率人脸图像为全局人脸加上残差补偿,其中高分辨率全局脸特征可用于人脸识别。本发明在人脸超分辨率重建与识别应用中,能够获得更好的人脸重建效果和更高的人脸识别准确率。

技术研发人员:袁运浩;李进;李云;强继朋
受保护的技术使用者:扬州大学
技术研发日:2020.01.21
技术公布日:2020.06.05

转载请注明原文地址: https://bbs.8miu.com/read-53605.html

最新回复(0)