首页 > 代码库 > 线性鉴别分析(LDA)之二分类问题
线性鉴别分析(LDA)之二分类问题
线性鉴别分析是有监督的学习方法。
已知数据集
子集和，满足，中的数据属于类，中的数据属于类。
定义两个子集的平均值：
，
已知向量，我们定义：
，，
显然存在以下关系：
，，。
我们接着定义标准差和，其中
，。
下面我们换算一下上面的两个方差公式：
，
其中：
，。
定义类内散布矩阵：
。
定义类间散布矩阵：
。
————————————————————————————————————————————————————————————————————————————
有了以上的定义准则函数：
有了以上的定义准则函数：
，
然后寻找，最大化这个准则函数。对准则函数求导，我们发现
求出后，我们对新的数据进行预测，预测公式为：
。
————————————————————————————————————————————————————————————————————————————而且和是平行的。结合这两点我们发现，只要找的，满足和平行即可。如果是非奇异的，那么我们可以取
，
即可。
求出后，我们对新的数据进行预测，预测公式为：
。
线性鉴别分析(LDA)之二分类问题
声明：以上内容来自用户投稿及互联网公开渠道收集整理发布，本网站不拥有所有权，未作人工编辑处理，也不承担相关法律责任，若内容有误或涉及侵权可进行投诉： 投诉/举报 工作人员会在5个工作日内联系你，一经查实，本站将立刻删除涉嫌侵权内容。