文章目录
一、问题举例
在UCI数据集上的Iris和Sonar数据上验证算法的有效性： Iris数据3类，4维，150个数据；Sonar数据2类，60维，208个样本. 训练和测试样本有三种方式进行划分：（三选一） 1. 将数据随机分训练和测试，多次平均求结果 2. K折交叉验证 3. 留1法 针对不同维数，画出曲线图 二、解决方法
1、Fisher线性判别分析（LDA）
两类的线性判别问题可以看作是把所有的样本都投影到一个方向上，然后在这个然后在这个一维空间中确定一个分类的阈值。过这个阈值点且与投影方向垂直的超平面就是两类的分类面。Fisher线性判别的思想就是，选择投影方向，使投影后两类相隔尽可能远，而同时每一类内部的样本又尽可能聚集，如图1所示。
2、算法描述
1）留一法
留一法是K折法的一种极端情况。
在K折法中，将全部训练集 S分成 k个不相交的子集，假设 S中的训练样例个数为 N，那么每一个子集有 N/k 个训练样例，相应的子集称作 {s1,s2,…,sk}。每次从分好的子集中里面，拿出一个作为测试集，其它k-1个作为训练集，根据训练训练出模型或者假设函数。然后把这个模型放到测试集上，得到分类率，计算k次求得的分类率的平均值，作为该模型或者假设函数的真实分类率。
当取K的值为样本个数N时，即将每一个样本作为测试样本，其它N-1个样本作为训练样本。这样得到N个分类器，N个测试结果。用这N个结果的平均值来衡量模型的性能，这就是留一法。在UCI数据集中，由于数据个数较少，采用留一法可以使样本利用率最高。
2）Iris数据集
3）Sonar 数据集
三、仿真结果
1、Iris数据集
2、Sonar 数据集
四、代码
版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请联系我们举报，一经查实，本站将立刻删除。
发布者：全栈程序员-站长，转载请注明出处：https://javaforall.net/230425.html原文链接：https://javaforall.net
