首页 > 代码库 > 算法理论——Linear SVM

算法理论——Linear SVM

问题引入

下面的三个超平面都起到分类的效果,哪个最好?

技术分享

答案显然是第三个。为什么?

技术分享

直觉上,如果现在我们有个测试点,非常靠近右下角的那个红叉叉,也就是说这个点的特征与那个红叉叉非常接近,这时候,我们希望我们的分类器能够将这个测试点划分为与红叉叉相同的类。

也就是说,我们希望,找到的超平面能够远离所有的点,也就是要最小化超平面到离它最近的那个点的距离。

技术分享

我们定义:对任意的W,

技术分享

要求出Wi使得f(Wi)等于

技术分享

如何求最大值

 

算法理论——Linear SVM