基于粗糙集和支持向量机的人脸识别
|
摘要
人脸识别技术涉及到图像处理、模式识别和人工智能等多门学科,已成为计算机视觉和模式识别领域中一个富有挑战性的课题,在国家安全部门和银行密码系统等领域具有广泛的应用背景。
支持向量机(SVM)算法由于过学习问题而导致其泛化性能降低,结合粗集对不精确数据的处理能力,提出了一种基于粗集边界和V-支持向量机(RSM-V-SVM)混合分类算法。该算法先在训练前采用粗集理论边界区域的不确定性预选出边界集,替代原始样本作为训练集,减少训练集的数目;然后在V-SVM算法的基础上引入了粗集理论上下近似集概念改进V-SVM算法,使其训练边界集。实验结果表明,该算法在分类正确率不受影响的情况下,大大缩短样本的训练时间,从而提高了改进的V-SVM的泛化性能和分类速度。为了降低冗余和进一步简化输入空间的维数达到减少算法求解计算量及处理时间,同时引入了粗糙集的属性简约方法对数据进行约简。
在人脸识别过程中,人脸图像的特征向量采用核主元分析(KPCA)和属性约简方法联合进行提取,从而该特征向量作为RSM-V-SVM输入。用RSM-V-SVM算法对人脸图像样本进行训练,生成RSM-V-SVM分类器对人脸进行分类识别。针对ORL人脸数据库进行了实验,表明联合特征提取和RSM-V-SVM的人脸识别方法在识别率不变的情况下,具有很强的泛化性能。
Face recognition technology involves many fields, including image processing, pattern recognition ,artificial intelligence and so on., which has become challenging subjects in computer vision and pattern recognition fields. So it has wide applications prospect in many fields, such as in department of national security and bank password system.
The generalization ability of SVM algorithm is decreased due to over-learning, in the paper, a hybrid classification algorithm based on margin of rough sets and V-support vector machine(RSM-V-SVM) was proposed which combining imprecise data ability of rough set. Firstly, the algorithm get the boundary set using uncertainty properties of margin region of rough set theory before training, which substitute the original inputs as a training subset, and the size of the training set was shorten. Then, the concept of upper and lower approximation set of rough set was introduced for improving the V-SVM, which was based on the V-SVM algorithm. Experimental results show that the algorithm can’t influence recognition rate and shorten training time improved V-SVM while keeping the speed of classification and the performance of generalization. Algorithm attribute reduction (AR) of rough set theory was introduced to reduce data’s features, so the computation and the time complexity is decreased.
In face recognition process, Extract the features of face images with the kernel principal component analysis (KPCA) and AR, then get the eigenvectors of face images as the input of RSM-V-SVM algorithm, produce RSM-V-SVM classifier last. Face images can be recognized with RSM-V-SVM classifier. The experiments on ORL face database show that face recognition process of combined feature extraction and RSM-V-SVM has strong generalization performance while keeping recognition rate.
支持向量机(SVM)算法由于过学习问题而导致其泛化性能降低,结合粗集对不精确数据的处理能力,提出了一种基于粗集边界和V-支持向量机(RSM-V-SVM)混合分类算法。该算法先在训练前采用粗集理论边界区域的不确定性预选出边界集,替代原始样本作为训练集,减少训练集的数目;然后在V-SVM算法的基础上引入了粗集理论上下近似集概念改进V-SVM算法,使其训练边界集。实验结果表明,该算法在分类正确率不受影响的情况下,大大缩短样本的训练时间,从而提高了改进的V-SVM的泛化性能和分类速度。为了降低冗余和进一步简化输入空间的维数达到减少算法求解计算量及处理时间,同时引入了粗糙集的属性简约方法对数据进行约简。
在人脸识别过程中,人脸图像的特征向量采用核主元分析(KPCA)和属性约简方法联合进行提取,从而该特征向量作为RSM-V-SVM输入。用RSM-V-SVM算法对人脸图像样本进行训练,生成RSM-V-SVM分类器对人脸进行分类识别。针对ORL人脸数据库进行了实验,表明联合特征提取和RSM-V-SVM的人脸识别方法在识别率不变的情况下,具有很强的泛化性能。
Face recognition technology involves many fields, including image processing, pattern recognition ,artificial intelligence and so on., which has become challenging subjects in computer vision and pattern recognition fields. So it has wide applications prospect in many fields, such as in department of national security and bank password system.
The generalization ability of SVM algorithm is decreased due to over-learning, in the paper, a hybrid classification algorithm based on margin of rough sets and V-support vector machine(RSM-V-SVM) was proposed which combining imprecise data ability of rough set. Firstly, the algorithm get the boundary set using uncertainty properties of margin region of rough set theory before training, which substitute the original inputs as a training subset, and the size of the training set was shorten. Then, the concept of upper and lower approximation set of rough set was introduced for improving the V-SVM, which was based on the V-SVM algorithm. Experimental results show that the algorithm can’t influence recognition rate and shorten training time improved V-SVM while keeping the speed of classification and the performance of generalization. Algorithm attribute reduction (AR) of rough set theory was introduced to reduce data’s features, so the computation and the time complexity is decreased.
In face recognition process, Extract the features of face images with the kernel principal component analysis (KPCA) and AR, then get the eigenvectors of face images as the input of RSM-V-SVM algorithm, produce RSM-V-SVM classifier last. Face images can be recognized with RSM-V-SVM classifier. The experiments on ORL face database show that face recognition process of combined feature extraction and RSM-V-SVM has strong generalization performance while keeping recognition rate.
引文
[1]闫娟.人脸识别技术的分析与展望.计算机应用,2007,12(1):1-3
[2]吴巾一,周德龙.人脸识别方法综述.计算机应用研究,2009,26(9):35-39
[3] Wright J , Yang A, Ganesh A, et al.Robust face recognition via sparse representation. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2009,31(2):210–227
[4] Tistarelli M,Bicego M,grosso E.Dynanic face recognition. From human to machine vision. Imageand Vision Computing,2007,5(6):1-14
[5]杜干,朱雯君.基于局部奇异值分解和模糊决策的人脸识别方法.中国图象图形学报,2006,11(10):1456-1459
[6]李晓莉,达飞鹏.基于排除算法的快速三维人脸识别方法.自动化学报,2010,36(1):154-159
[7]严严,章毓晋.基于视频的人脸识别研究进展.计算机学报,2009,32(5):878-886
[8]宋东兴,刘永俊,陈才扣.二维典型相关分析及其在人脸识别中的应用.计算机应用,2008,28(9):2431-2433
[9]孙亚.基于粒子群BP神经网络人脸识别算法.计算机仿真,2008,25(8):201-204
[10]张熠,熊飞,张桂林.一种光照不变人脸识别的预处理算法.中国图象图形学报,2008,13(9):1707-1712
[11] Vapnik V.The Nature of Statistical Learning Theory.Springer Verlag,New York,1995:85—151
[12]张学工.统计学习理论的本质.北京:清华大学出版社,2001,32-40
[13]张学工.关于统计学习理论与支持向量机.自动化学报,2000,26(1):32-44
[14]牟少敏.核方法的研究及其应用:[北京交通大学博士学位论文].北京:北京交通大学,2008,33-38
[15]贾磊,廖士中.超核函数支持向量机.计算机科学,2008,35(12):148-150
[16]王兴玲,李占斌.基于网格搜索的支持向量机核函数参数的确定.中国海洋大学学报,2005,35(5):859-862
[17] Scholkopf B, Smola A J, Williamson R C, et al. New support vector algorithms.Neural Computation ,2000,12:07–1245
[18]杨汝月,潘星,曹飞龙.约简数据集的支持向量分类机算法.计算机应用与软件,2008,25(12):44-45
[19]张文修,吴伟志,梁吉业,等著.粗糙集理论与方法.北京:科学出版社,2001,67-70
[20] Pawlak Z, Skowron A. Rudiments of rough sets.Information Sciences,2007,177: 3-27
[21]王国胤,姚一豫,于洪.粗糙集理论与应用研究综述.计算机学报,2009,32(7):1230-1246
[22]苗夺谦,胡桂容.知识约简的一种启发式算法.计算机研究与发展,1999,36(6):681-684
[23]颜艳,杨慧中.一种基于互信息的粗糙集知识约简算法.清华大学学报(自然科学版),2007,47(S2):1903-1906
[24]亢婷,魏立力.一种基于粗糙集理论的启发式特征选择算法.计算机工程与应用,2008,44(30):77-79
[25]李波,李新军.一种基于粗糙集和支持向量机的混合分类算法.计算机应用,2004,24(3):66-70
[26]杨显飞.基于边界向量预选的支持向量机算法研究:[哈尔滨工程大学硕士学位论文].哈尔滨:哈尔滨工程大学,2008,27-34
[27]邓九英,王钦若,毛宗源,等.基于粗糙集的支持向量回归机混合算法.中国石油大学学报(自然科学版),2009,33(5):160-163
[28]邓九英,杜启亮,毛宗源,等.基于粗糙集与支持向量机的分类算法.华南理工大学学报(自然科学版),2008,36(5):125-127
[29]邹汉斌,黄少年,雷红艳.基于粗糙集边界的v ?支持向量聚类算法.无线电工程,2009,39(2):20-23
[30]罗瑜.支持向量机在机器学习中的应用研究:[西南交通大学博士学位论文].成都:西南交通大学,2007,33-56
[31]叶蔓.结合粗糙集的支持向量机研究及应用:[青岛大学硕士学位论文].青岛:青岛大学,2009,7-22
[32]向君.支持向量机分类算法研究:[华南理工大学硕士学位论文].广州:华南理工大学,2008,8-18
[33] Zhang J H ,Wang Y Y. A Rough Margin Based Support Vector Machine.Information Sciences,2008,178:2204-2214
[34] Wakaki T,Itakura H,Tamura M, et al. A Study on Rough Sets aided Feature Selection for Automatic Webpage Classification.Web Intelligence and Agent System, 2006,4:431-441
[35] Lingras P, Butz C. Rough set based 1_v_1 and 1_v_r approaches to support vector machine multi-classification.Information Sciences,2007,177:3782-3798
[36] Pawlak Z. Rough sets. International Journal of Information and Computer Science,1982,11(5):341-356
[37] Chapelle O, Choosing V. Choosing multiple paramenters for support vector machines.Machine Learming,2002,46(1):131-159
[38]张晓龙,任芳.支持向量机与AdaBoost的结合算法研究.计算机应用研究,2009,26(1):77-78
[39]范听炜.支持向量机算法的研究及其应用:[博士学位论文].浙江:浙江大学,2003,10(5):50-61
[40]张翔,周明全,耿国华.基于LSVM算法的人脸识别方法研究.计算机应用与软件,2008,25(8):30-32
[41]山艳.基于支持向量机的人脸识别:[江南大学硕士学位论文].无锡:江南大学,2007,30-43
[42]马波.支持向量机多类分类算法的分析与设计:[扬州大学硕士学位论文].无锡:扬州大学,2008,18-21
[43]姚建.人脸识别技术研究:[苏州大学硕士学位论文].苏州:苏州大学,2009,1-7
[44]马汝成.基于子空间线性投影的人脸识别方法研究:[华东交通大学硕士学位论文].南昌:华东交通大学,2009,14-29
[45]庄静芸,徐中伟,喻钢.一种粗糙集属性约简算法.计算机工程,2009,35(15):67-69
[46]郭倩,黄林.基于粗糙集和支持向量机的高速公路事件检测.计算机工程与应用,2008,44(35):203-205
[47]汪世义,陶亮,王华彬.支持向量机和遗传算法的人脸识别方法.计算机工程与应用,2008,44(12):164-166
[48] Huang C, Lee Y,Lin D.Model selection for support vector machines via uniform design.Comput Stat Data An,2007,52(1):335-346
[49] S. Asharaf, S.K. Shevade, M. Narasimha Murty. Rough support vector clustering[J]. Pattern Recognition, 2005,38:1779–1983
[50]周凯.基于局部二值模式人脸识别方法的研究:[中南大学硕士学位论文].长沙:中南大学,2009,1-18
[51]戴景文.实用人脸识别系统初探:[上海交通大学硕士学位论文].上海:上海交通大学,2009,1-9
[2]吴巾一,周德龙.人脸识别方法综述.计算机应用研究,2009,26(9):35-39
[3] Wright J , Yang A, Ganesh A, et al.Robust face recognition via sparse representation. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2009,31(2):210–227
[4] Tistarelli M,Bicego M,grosso E.Dynanic face recognition. From human to machine vision. Imageand Vision Computing,2007,5(6):1-14
[5]杜干,朱雯君.基于局部奇异值分解和模糊决策的人脸识别方法.中国图象图形学报,2006,11(10):1456-1459
[6]李晓莉,达飞鹏.基于排除算法的快速三维人脸识别方法.自动化学报,2010,36(1):154-159
[7]严严,章毓晋.基于视频的人脸识别研究进展.计算机学报,2009,32(5):878-886
[8]宋东兴,刘永俊,陈才扣.二维典型相关分析及其在人脸识别中的应用.计算机应用,2008,28(9):2431-2433
[9]孙亚.基于粒子群BP神经网络人脸识别算法.计算机仿真,2008,25(8):201-204
[10]张熠,熊飞,张桂林.一种光照不变人脸识别的预处理算法.中国图象图形学报,2008,13(9):1707-1712
[11] Vapnik V.The Nature of Statistical Learning Theory.Springer Verlag,New York,1995:85—151
[12]张学工.统计学习理论的本质.北京:清华大学出版社,2001,32-40
[13]张学工.关于统计学习理论与支持向量机.自动化学报,2000,26(1):32-44
[14]牟少敏.核方法的研究及其应用:[北京交通大学博士学位论文].北京:北京交通大学,2008,33-38
[15]贾磊,廖士中.超核函数支持向量机.计算机科学,2008,35(12):148-150
[16]王兴玲,李占斌.基于网格搜索的支持向量机核函数参数的确定.中国海洋大学学报,2005,35(5):859-862
[17] Scholkopf B, Smola A J, Williamson R C, et al. New support vector algorithms.Neural Computation ,2000,12:07–1245
[18]杨汝月,潘星,曹飞龙.约简数据集的支持向量分类机算法.计算机应用与软件,2008,25(12):44-45
[19]张文修,吴伟志,梁吉业,等著.粗糙集理论与方法.北京:科学出版社,2001,67-70
[20] Pawlak Z, Skowron A. Rudiments of rough sets.Information Sciences,2007,177: 3-27
[21]王国胤,姚一豫,于洪.粗糙集理论与应用研究综述.计算机学报,2009,32(7):1230-1246
[22]苗夺谦,胡桂容.知识约简的一种启发式算法.计算机研究与发展,1999,36(6):681-684
[23]颜艳,杨慧中.一种基于互信息的粗糙集知识约简算法.清华大学学报(自然科学版),2007,47(S2):1903-1906
[24]亢婷,魏立力.一种基于粗糙集理论的启发式特征选择算法.计算机工程与应用,2008,44(30):77-79
[25]李波,李新军.一种基于粗糙集和支持向量机的混合分类算法.计算机应用,2004,24(3):66-70
[26]杨显飞.基于边界向量预选的支持向量机算法研究:[哈尔滨工程大学硕士学位论文].哈尔滨:哈尔滨工程大学,2008,27-34
[27]邓九英,王钦若,毛宗源,等.基于粗糙集的支持向量回归机混合算法.中国石油大学学报(自然科学版),2009,33(5):160-163
[28]邓九英,杜启亮,毛宗源,等.基于粗糙集与支持向量机的分类算法.华南理工大学学报(自然科学版),2008,36(5):125-127
[29]邹汉斌,黄少年,雷红艳.基于粗糙集边界的v ?支持向量聚类算法.无线电工程,2009,39(2):20-23
[30]罗瑜.支持向量机在机器学习中的应用研究:[西南交通大学博士学位论文].成都:西南交通大学,2007,33-56
[31]叶蔓.结合粗糙集的支持向量机研究及应用:[青岛大学硕士学位论文].青岛:青岛大学,2009,7-22
[32]向君.支持向量机分类算法研究:[华南理工大学硕士学位论文].广州:华南理工大学,2008,8-18
[33] Zhang J H ,Wang Y Y. A Rough Margin Based Support Vector Machine.Information Sciences,2008,178:2204-2214
[34] Wakaki T,Itakura H,Tamura M, et al. A Study on Rough Sets aided Feature Selection for Automatic Webpage Classification.Web Intelligence and Agent System, 2006,4:431-441
[35] Lingras P, Butz C. Rough set based 1_v_1 and 1_v_r approaches to support vector machine multi-classification.Information Sciences,2007,177:3782-3798
[36] Pawlak Z. Rough sets. International Journal of Information and Computer Science,1982,11(5):341-356
[37] Chapelle O, Choosing V. Choosing multiple paramenters for support vector machines.Machine Learming,2002,46(1):131-159
[38]张晓龙,任芳.支持向量机与AdaBoost的结合算法研究.计算机应用研究,2009,26(1):77-78
[39]范听炜.支持向量机算法的研究及其应用:[博士学位论文].浙江:浙江大学,2003,10(5):50-61
[40]张翔,周明全,耿国华.基于LSVM算法的人脸识别方法研究.计算机应用与软件,2008,25(8):30-32
[41]山艳.基于支持向量机的人脸识别:[江南大学硕士学位论文].无锡:江南大学,2007,30-43
[42]马波.支持向量机多类分类算法的分析与设计:[扬州大学硕士学位论文].无锡:扬州大学,2008,18-21
[43]姚建.人脸识别技术研究:[苏州大学硕士学位论文].苏州:苏州大学,2009,1-7
[44]马汝成.基于子空间线性投影的人脸识别方法研究:[华东交通大学硕士学位论文].南昌:华东交通大学,2009,14-29
[45]庄静芸,徐中伟,喻钢.一种粗糙集属性约简算法.计算机工程,2009,35(15):67-69
[46]郭倩,黄林.基于粗糙集和支持向量机的高速公路事件检测.计算机工程与应用,2008,44(35):203-205
[47]汪世义,陶亮,王华彬.支持向量机和遗传算法的人脸识别方法.计算机工程与应用,2008,44(12):164-166
[48] Huang C, Lee Y,Lin D.Model selection for support vector machines via uniform design.Comput Stat Data An,2007,52(1):335-346
[49] S. Asharaf, S.K. Shevade, M. Narasimha Murty. Rough support vector clustering[J]. Pattern Recognition, 2005,38:1779–1983
[50]周凯.基于局部二值模式人脸识别方法的研究:[中南大学硕士学位论文].长沙:中南大学,2009,1-18
[51]戴景文.实用人脸识别系统初探:[上海交通大学硕士学位论文].上海:上海交通大学,2009,1-9
© 2004-2018 中国地质图书馆版权所有 京ICP备05064691号 京公网安备11010802017129号 地址：北京市海淀区学院路29号 邮编：100083 电话：办公室：(+86 10)66554848；文献借阅、咨询服务、科技查新：66554700 |