基于混沌序列的SVM参数选择及其在笔迹鉴别中的应用

发布时间:   来源:文档文库   
字号:
维普资讯http://www.cqvip.com
第27卷第8期 计算机应用 
V01.27 No.8 
2007年8月 
Computer Applcatons 
Aug.2007 
文章编号:1001—9081(2007)08—1961—03 
基于混沌序列的SVM参数选择及其在笔迹鉴别中的应用 
张慧档,贺昱曜 
(西北工业大学航海学院,西安710072) 
(huidang@haut.edu.CB) 
要:基于RBF核的支持向量机(SVM)模型选择取决于两个参数,即惩罚因子和核参数,为了 
寻找SVM参数的最优组合,利于笔迹鉴别图像的自动识别,提出了基于混沌序列的参数搜索算法以 
实现SVM模型参数的自动选择。从与网格法和双线性法进行的比较实验可以看出,基于混沌序列的 SVM参数选取更简单,更易于实现,并使SVM具有更好的推广能力。在10人笔迹灰度图像库上分类 识别实验结果表明,该方法不但可以提高分类识别率,而且显著减少了训练SVM的个数。 
关键词:支持向量机;混沌序列;参数选取;笔迹鉴别 中图分类号:TP18;TP391.41 文献标志码:A 
Selection of SVM parameters using chaotic series and its application in handwriting veri
cation ZHANG Hui.dang,HE Yu.yao 
(Colege fMarne,Norhwen Polytechnical Uniersiy,Xian Shaanxi 710072,China) 
Abstract:In order  fnd the optmiaton compound of Supp Vector Machne(SVM)paameters,tha i penal 
factor and nuclear factor,and help to identify the handwriting image,a paraeter searching agorhm based on chaotic sequence Wa propsed to determine the SVM paraeter automatcally.Compared with the 
d search ad two-line search, 
e proposed agorhm is much simpler ad eaer to be implemented,which makes SVM has be ̄er outreach capaci 
Classifcaton experment on 10 people hadwriting gray—scae images prve that the propsed agorihm has hgher clsificaton rate and significaly reduce the number of training SVM. 
Key words:Supp Vecor Machne(SVM);chaotc seres;pareter selecton;hadwrng vercaon 
0 引言 
提出基于混沌优化算法的模型参数选择方法。结合在银行业 
务、电子商务、案件侦破等方面有极大影响的笔迹鉴别问 
支持向量机(Supp Vector Machine,SVM)具有良好的 题 ,将交叉验证获得的平均最小错误率作为目标函数,采 
学习能力和推广能力…。SVM分类器的主要思想是通过非 用一种混沌优化算法来搜索最优的参数组合,与基于网格法 线性变换将原样本空间的非线性问题转换为另一个空间中的 和双线性法的参数选择方案进行了比较实验,验证了所提出 线性问题,而非线性变换是通过定义满足Merer条件的核函 
方法的有效性和高效性。 
数来实现的,因此核函数的参数选择直接影响到SVM分类器 
性能的优劣。同时SVM模型中的惩罚因子C在结构风险和  基于混沌优化的SVM参数选择 
样本误差之间做出折中,影响着SVM分类器的误差性能。 1.1 SVM模型 
SVM模型参数的选择实质上是一个求解组合优化问题的过 
SVM依据结构风险最小化原则,将其学习过程转化为优 程,它的优化目标是选取最优参数使得分类器的误识率最 化问题。对一组训练样本( ,Y )(i=1,2,…,Z, ∈R , 低 。文献[3]应用双线性法在参数集上遍历搜索最优参 Y ∈{1,一1} ),为获得最少错分样本和最大分类间隔,即获 
数,首先对线性SVM找到与最高推广识别率对应的参数C, 得最优分类面,SVM需解决的问题是在满足式(2)约束下最 然后固定该参数,对RBF核的SVM搜索与最高推广识别率 小化式(1)给出的目标函数 (W, )。 
对应的参数 ,得到满足一定要求的最优参数组合,虽然需 1 
 
要训练的SVM个数有所下降,但第二阶段线性搜索时严重依 
 , )=÷ I +c∑ (1) 
赖于前一阶段得到的参数。文献[4]提出基于遗传算法的支 S.t.Yf[(W ・ )+b]≥1一基;基≥0,i=1,2,…, 持向量机特征选择方法,能够得到相对较优的解,但算法易陷 
(2) 
入局部最优,且迭代次数较多,耗时较长。文献[5]提出用梯 其中训练样本 被函数 = ( )映射到高维空间中,W 度下降方法求SVM最优参数,而梯度下降法对初始状态很敏 是超平面的系数向量,b∈R为阈值,基为松弛变量,C>0 感,若初始点离最优点很远,结果很容易陷人局部最优。 是对错分样本的惩罚因子。 
由于混沌优化算法 是一种全局搜索方法,用于选取 利用Lagrange多项式把上述最优分类面问题转化为其对 SVM参数时,无需考虑SVM模型的复杂度和变量维数,本文 
偶问题,即寻找最大化目标函数: 
收稿日期:2007—03一O1:修回日期:2007—04—17。 
作者简介:张慧档(1971一),女,河南获嘉人,博士研究生,主要研究方向:进化计算、模式识别、数字图像处理;贺昱曜(1956一),男,陕西 富平人,教授,博士生导师,主要研究方向:机器学习、复杂系统建摸和优化控制。 

本文来源:https://www.2haoxitong.net/k/doc/753b1d330722192e4536f644.html

《基于混沌序列的SVM参数选择及其在笔迹鉴别中的应用.doc》
将本文的Word文档下载到电脑,方便收藏和打印
推荐度:
点击下载文档

文档为doc格式