好得很程序员自学网

<tfoot draggable='sEl'></tfoot>

模糊最小二乘支持向量机

引言:

将模糊隶属度概念引入最小二乘支持向量机,提出一种基于支持向量数据域描述的模糊隶属度函数模型.将输入空间中的样本映射到一个高维的特征空间,然后根据其偏离数据域的程度赋予不同的隶属度.该方法提高了最小二乘支持向量机的抗噪声能力,尤其适用于未能完全揭示输入样本特性的情况.该模糊隶属度函数模型能够提高最小二乘支持向量机.

1995年Cortes和Vapnik 提出了以有限样本统计学习理论为基础的支持向量机(SVM),通过一个二次规划求取样本的最优分类面. 由于SVM坚实的理论基础, 良好的泛化性能 ,并能有效地解决非线性, 过学习, 局部极值等一系列难题, 使其受到广泛关注. 近年来 ,Suhkens提出一种新的 方法SVM------- 最小二乘支持向量机(LS-SVM) 方法.LS-SVM 是标准SVM的一种扩展 与传统的SVM 不同,LS-SVM求解线性方程组 极大减少了SVM 中由于求解二次规划问题带来的计算复杂性, 而且LS-SVM的数值稳定性和容量控制的策略, 使得核函数矩阵在非正定的情况下也能取得良好的效果.

与SVM相比,LS-SVM虽然具有更加快速的训练速度,但不能保证解的全局最优.而且其训练精度有所下降. 现在将模糊隶属度概念引入LS-SVR中, 提出一种基于支持向量数据域描述(SVDD)的模糊隶属度函数模型. 根据样本偏离数据域的程度赋予不同的隶属度. 该方法提高了LS-SVM 的抗噪声能力, 尤其适合于未能完全揭示输入样本特性的情况.

1,模糊最小二乘支持向量机

与LS-SVM函数估计方法一样,构造Lagrange函数,最后得到矩阵方程:

求解上述矩阵方程 即可得到模糊最小二乘支持向量机的估计函数. 与标准LS-SVM的矩阵方程相比 ,FLS-SVM的矩阵方程中多了模糊隶属度, 故这一方法被称为模糊最小二乘支持向量机(FLS-SVM).

2, 模糊隶属度

在分类问题中,Lin 等提出一种根据样本采集的先后顺序确定样本隶属度的模型, 该模型认为最近得到的样本相对要比其他的样本重要, 其隶属度也大, 但该模型缺乏理论上的依据. Huang提出一种基于孤立点检测的模糊隶属度模型, 他将样本集分为两部分, 一部分为孤立点集, 另一部分为主体集 .对于主体集中的样本 根据样本到其聚类中心的距离确定模糊隶属度, 而对于孤立点集中的样本其模糊隶属度则赋予一个很小的正数. 显然, Huang并没有区分孤立点集中的样本 ,仅简单地为每个孤立点赋予相同的模糊隶属度. 为了确定模糊隶属度函数的形式, 需要衡量一个样本偏离其所在类总体的程度. 本方法采用支持向量数据域描述方法, 将数据样本映射到一个高维的空间, 然后在这个高维空间中寻找其最小包含超球, 并根据样本到超球球心的距离确定其隶属度值。

2.1,支持向量数据域描述

分别为样本到最小包含超球球心最大, 最小距离, 定义模糊隶属度函数如下:

3,总结

将模糊隶属度概念引入LS-SVM中, 提出了一种基于支持向量数据域描述的模糊隶属度函数模型. 首先得到训练集中样本的数据域描述模型; 然后根据样本偏离数据域的程度赋予不同的隶属度.该方法提高了LS-SVM的抗噪声能力, 尤其适合于未能完全揭示输入样本特性的情况.

查看更多关于模糊最小二乘支持向量机的详细内容...

  阅读:34次