当前位置:文档下载 > 所有分类 > IT/计算机 > 计算机软件及应用 > 基于PSO算法的SVM参数优化方法研究
侵权投诉

基于PSO算法的SVM参数优化方法研究

为了克服支持向量机中核函数参数的不确定性及解决核参数的最优选择问题,本文将起源于人工生命和演化计算理论的粒子群优化算法运用到支持向量机的参数选择中。在对基本粒子群优化算法工作原理分析的基础上,对基本算法的收敛速度进行了适度改进,使其具有自适应能力,即在初期进行快速搜索,而在末期进行精细搜索,从而扩大参数搜索的宽度和深度,满足多样化和集中化的特点。

Transactions on Computer Science and Technology

March2013, Volume 2, Issue 1, PP.9-16

Method of Parameters Optimization in SVM based on PSO

Jian Liu1, 2, Zhong Liu1, Ying Xiong2

12

Electrical Engineering College, Naval University of Engineering, Wuhan 430033 China;

Naval Architecture&Power Engineering College, Naval University of Engineering, Wuhan 430033 China

Abstract

To overcome the uncertainty and to resolve the problem of parameters optimization in kernel function of support vector machine (SVM), particle swarm optimization (PSO) method, which was originated form artificial life and evolutionary computation, is applied to SVM’s parameters selection and optimization in the paper. The improved PSO algorithm of increasing convergence rate is proposed based on the analyzingprinciple of basic PSO. Thereupon, the improved PSO algorithm has self- adaptive ability that can be faster searching in early phase and more carefully searching in latter phase rather than basic PSO, and can be meeting the requests of diversification and intensification. The simulation experiment results demonstrate that, the selected kernel parameters by the new PSO algorithm can improve the overall performance of the SVM classifier and have new application domain. Keywords: Support Vector Machines (SVM); Particle Swarm Optimization (PSO); Parameters Optimization; Self- adaptive

基于PSO算法的SVM参数优化方法研究

刘健1,2,刘忠1,熊鹰2

12

海军工程大学电子工程学院,湖北武汉,430033

海军工程大学船舶与动力学院,湖北武汉,430033

摘 要:为了克服支持向量机中核函数参数的不确定性及解决核参数的最优选择问题,本文将起源于人工生命和演化计算理论的粒子群优化算法运用到支持向量机的参数选择中。在对基本粒子群优化算法工作原理分析的基础上,对基本算法的收敛速度进行了适度改进,使其具有自适应能力,即在初期进行快速搜索,而在末期进行精细搜索,从而扩大参数搜索的宽度和深度,满足多样化和集中化的特点。仿真实验表明,通过该方法选择出来的核参数能够提高分类及预测精度,具有实用性。

关键词:支持向量机;粒子群优化;参数优化;自适应

引言

统计学习理论(Statistical Learning Theory, STL)[1]是一种专门的小样本统计理论,为研究有限样本情况下的统计模式识别和更广泛的机器学习(Machine Learning, ML)问题建立了一个较好的理论框架,同时也发展了一种模式识别方法——支持向量机(Support Vector Machine, SVM),在解决小样本、非线形及高维模式识别问题中表现出许多特有的优势,并能够推广应用到函数拟合等其它机器学习问题中。目前,STL和SVM已经成为国际上机器学习领域新的研究热点并已被应用于人脸识别、文本识别、手写体识别等领域。

SVM是Vapnik于1995年提出的一种新的机器学习方法[2],由于具有好的泛化能力,已成为当前ML领域的热点。SVM是基于核的学习,算法关键是引入了核函数,因此核函数具有重要的地位,其中核参数的选取直接影响到核函数的推广能力。常用的核函数有:线性核函数;多项式核函数;径向基核(RBF)函数

基金项目:受中国博士后科学基金(20080431383);海军工程大学自然科学基金(HGDJJ2008029);湖北省自然科学基金(2012FFC129)支持资助

第1页

免费下载Word文档免费下载:基于PSO算法的SVM参数优化方法研究

(下载1-8页,共8页)

我要评论

返回顶部