基于自适应梯度算法的SVM核极化参数选择方法

在机器学习领域,支持向量机SVM(Support Vector Machine)是一个有监督的学习模型,通常用来进行模式识别、分类以及回归分析.模型选择是影响SVM性能的主要因素,具体地讲是SVM中的核函数及其惩罚系数C的选择决定着SVM的分类能力.本文首先讨论了一种评价核函数好坏的重要标准,即核极化.在此基础上提出了基于核函数优化问题的自适应梯度算法,即用一种自适应步长去改进原来的固定步长.UCI数据集(机器学习数据库)上的实验结果验证了这种自适应梯度算法的有效性,结果表明该算法能有效减少程序运行的迭代步及SVM学习训练的时间.     

近红外光谱组合化学计量学用于香烟品牌在线识别

用组合近红外光谱和化学计量学方法——相似分类法(SIMCA)和支特向量机(SVM)——来识别不同品牌烟草产品.通过一个案例研究发现,当训练样本较少时,SVM分类器优于SIMCA分类器;而当训练样本相对充足时,两类分类器精度无显著差异;SVM分类器对训练集组成依赖较小.结果表明:支持向量机组合近红外光谱是一个烟草质量控制中有价值的工具,可改变长期以来烟草产品的质量评估依赖于专家的感官这一传统方法,为评估结果的准确性和公正性提供有力手段.     

基于粒子群优化支持向量机的矿井涌水量预测

矿井涌水量预测是一项复杂而有难度的技术,受到很多因素的影响.提出基于粒子群优化支持向量机(PSO-SVM) 的矿井涌水量预测方法,即将粒子群优化算法(PSO) 用于SVM 参数优化.它不仅具有很强的全局搜索能力,而且容易实现.经实验结果证明,PSO-SVM的预测输出与实测数据基本一致,其预测精度高于普通的SVM,所有的预测误差都远小于5% 的工程许可误差.     

变尺度混沌优化支持向量机模型选择

1 Introduction Support vector machine (SVM) is a powerful ma-chine learning tool capable of representing non-linearrelationships and producing models that generalizeswell to unseen data .SVMhave been applied widelyinmany fields[1]such as hand-written character recogni-tion ,text categorization,computer vision,speechrec-ognition and gene classification,etc. Despite this , using an SVM requires a certainamount of model selection,i.e.,selection of the ac-tual kernel and its parameters .In rec…     

Support Vector Machine for mechanical faults classification

INTRODUCTION Support Vector Machine (SVM) is a relativelynew soft computing method based on statisticallearning theory presented by Vapnik (1995). In SVM,original input space is mapped into a high dimen-sional dot product space called feature space in whichthe optimal hyperplane is determined to maximize thegeneralization ability of the classifier. The optimalhyperplane is found by exploiting a branch ofmathematics, called optimization theory, and re-specting the insights provided by …     

SVM在手写数字识别中的应用

将SVM应用于手写数字的识别,即将采集、预处理后的样本图像的各个像素点直接作为SVM的输入进行训练,通过交叉验证得到最佳参数,取得了较高的识别率.通过与BP神经网络的实验对比表明了在小样本、高维度的应用环境中,SVM具有训练简单、识别率高的特点.     

基于增量学习SVM的Android恶意应用检测方法

针对传统Android恶意应用检测方法在处理大规模样本时存在的训练时间长、存储空间消耗大的问题,提出一种基于增量学习SVM的Android恶意应用检测方法.该方法提取Android应用的权限申请和API函数调用特征,利用增量学习SVM理论将训练样本集随机划分为初始样本集和若干个增量样本集,利用循环迭代方法训练SVM分类器,每次新的训练仅保留上一轮训练得到的支持向量集并合并到新增样本集中,舍弃大量对分类结果不产生影响的样本以提高分类器学习效率,同时产生新的支持向量集,并最终得到一个高精度的SVM分类器.通过将增量学习SVM算法与基本SVM算法进行对比实验,结果表明,该算法可以有效降低分类器学习时间,减少样本存储的空间占用,同时随着样本规模的积累逐步提高分类精度.     

多类SVM分类算法的研究

支持向量机(Support Vector Machine,SVM)是上世纪九十年代提出的一种基于小样本的新的统计学习方法,较好地解决了非线性、高维数、局部极小点等实际问题.文中分析了SVM基础理论并总结了目前存在的基于支持向量机的主要分类方法,包括一对多方法、一对一方法、决策有向无环图方法、基于二叉树的多类分类方法和其它方法,并对各自的优缺点及性能做了比较.     

重症病毒性心肌炎持续病毒感染40例分析

重症病毒性心肌炎(SVM)持续病毒感染在临床上是一种危害生命的严重感染性疾病.目前对病毒性心肌炎(VM)持续病毒感染导致慢性心肌炎或扩张型心肌病(DCM)持不同看法,这涉及VM和DCM的关系,对今后的防治有重要意义.现将我院收集的资料总结报告如下.     

A novel method for detection of hard exudates from fundus images based on SVM and improved FCM

Diabetic retinopathy (DR) is one of the most important causes of visual impairment. Automatic recognition of DR lesions, like hard exudates (EXs), in retinal images can contribute to the diagnosis and screening of the disease. To achieve this goal, an automatically detecting approach based on improved FCM (IFCM) as well as support vector machines (SVM) was established and studied. Firstly, color fundus images were segmented by IFCM, and candidate regions of EXs were obtained. Then, the SVM classifier is confirmed with the optimal subset of features and judgments of these candidate regions, as a result hard exudates are detected from fundus images. Our database was composed of 126 images with variable color, brightness, and quality. 70 of them were used to train the SVM and the remaining 56 to assess the performance of the method. Using a lesion based criterion, we achieved a mean sensitivity of 94.65 and a mean positive predictive value of 97.25 . With an image-based criterion, our approach reached a 100 mean sensitivity, 96.43 mean specificity and 98.21 mean accuracy. Furthermore, the average time cost in processing an image is 4.56 s. The results suggest that the proposed method can efficiently detect EXs from color fundus images and it could be a diagnostic aid for ophthalmologists in the screening for DR.     

基于IPSO-SVM的液体管道泄漏定位研究

提出了改进粒子群算法(IPSO)和支持向量机(SVM)的管道泄漏检测与定位的方法.采用IPSO-SVM方法对管道单孔泄漏和多孔泄漏分别进行泄漏孔的定位.提取出口压力和进口流量为特征向量,采用IPSO算法优化超平面参数并采用SVM算法对泄漏孔位置进行定位.对于两孔泄漏,将单输出支持向量机算法进行改进,使其能够用于多输出回归,从而适用于定位管道的多孔泄漏情况.在此基础上,将IPSO-SVM方法与PSO-SVM方法进行比较.预测结果显示IPSO-SVM方法对泄漏有较强的识别与定位效果,并且比PSO-SVM有更快的收敛速度,更高的预测精度.     

Credit risk evaluation using adaptive Lq penalty SVM with Gauss kernel

In order to improve the performance of support vector machine (SVM) applications in the field of credit risk evaluation, an adaptive Lq SVM model with Gauss kernel (ALqG-SVM) is proposed to evaluate credit risks. The non-adaptive penalty of the object function is extended to (0, 2] to increase classification accuracy. To further improve the generalization performance of the proposed model, the Gauss kernel is introduced, thus the non-linear classification problem can be linearly separated in higher dimensional feature space. Two UCI credit datasets and a real life credit dataset from a US major commercial bank are used to check the efficiency of this model. Compared with other popular methods, satisfactory results are obtained through a novel method in the area of credit risk evaluation. So the new model is an excellent choice.     

用FSVM解决多类分类问题中不可分区域问题剖析

分析了支持向量机(SVM)的工作原理和将其推广到多类分类时会遇到的问题,对用模糊SVM(FSVM)解决此问题时的模糊策略作了详细论证,说明此模糊策略是非常完美的一个解决方案,并指出了进一步的研究方向。     

基于SVM与强化学习的启发式算法

RSS(Random Sampling Scheme)随机抽样方案,是一种简单有效、基于优先级规则来求解著名的NP难问题(NP-hard)中的 RCPSP 问题(Resource Constrained Project Scheduling Problem,资源受限项目调度问题)的方法.基于此,本文提出了一种通用的机器学习方法来改进RSS,将强化学习的ROUT算法(ROUT-algorithm)与SVM(Support Vector Machine,支持向量机)方法相结合,得到一个更理想的值函数,以此来指导RSS给出更佳的搜索策略.由RCPSP的基准实例可以看到,将SVM与强化学习结合,算法结果的好坏在减少训练集数量之后不受影响,且可以在短时间的训练之后得到较为明显的改进,证明该方法有效、实用.     

基于SVM分类的网络入侵检测研究

提出基于SVM的网络入侵检测模型,模型采用一对一的构造方法,用网络入侵数据做为模型的输入,入侵类别作为模型的输出,利用MATLAB平台进行仿真实验,并与其它方法进行比较.实验结果表明:SVM网络入侵检测模型的分类准确率高于Kohone模型,可以达到99.2%.     

蒙古文词性标注研究

笔者基于条件随机场(Conditional Random Field,CRF)和支持向量机(Support Vector Machine,SVM)模型,通过增加上下文、附加成分和蒙古文字母等特征,对蒙古文句长为8到25的将近4万个句子进行了词性标注的研究。研究表明,CRF模型和SVM模型在标注蒙古文词性方面都有比较好的结果,其中在考虑上下文和特征"连写的构形附加成分"的情况下,SVM模型标注蒙古文词性的准确率可以达到99%以上。     

SVM的发展与应用

本文主要介绍了支持向量机（SVM）的发展历程,SVM的基本思想,以及SVM在一些领域中的成功应用。     

基于二分K均值的SVM决策树的高维数据分类方法

针对数据挖掘中高维数据多分类问题,提出了一种基于二分K均值的SVM决策树的高维数据分类方法.该方法先利用二分K-均值将高维数据基本聚为k类,再构造SVM多分类模型,利用它对各类进行细分.本文给出了该模型的构造及应用方法,并在标准数据集上验证了该方法的有效性.     

基于RBF核的SVM分类应用研究

支持向量机(Support Vector Machine,SVM)在解决小样本、非线性及高维模式识别中具有优势,但核函数的选取没有定论,且其参数对SVM模型的性能起重要作用。针对这些问题,文章建立了基于SVM的分类模型,并通过UCI数据集验证了径向基核函数(Radial Basis Function,RBF)较其他核函数的有效性,其中核参数的选取采用改进的网格搜索法进行寻优。分类实验结果表明,选择RBF核函数的分类准确度较其他核函数提高了2.5%到35%。     

SVM算法在文本分类中的研究

SVM算法只使用已归类的数据训练分类器,而EM算法用少量已归类数据,结合大量的未归类数据来训练分类器,在减少已归类数据的同时保证了分类器的精度。本文基于EM算法的思想,根据SVM文本分类模型,提出一种新的迭代SVM文本分类算法。实验结果表明,迭代SVM算法分类精度高于传统的SVM文本分类算法,具有较好的性能。