第2页 倒数第4行,笔误,不是0类和1类,而是-1类和+1类,这样的话仅需通过符号即可判断,而逻辑回归是映射到0和1两类。实际中只有支持向量才有用,而非支持向量所对应的拉格朗日乘子必然为0,为什么呢,因为如果不是支持向量(3)中的约束条件必然>1,对应的(4)中的约束条件必然<0,而根据KKT条件中的4、5、6三条可知,拉格朗日乘子必然为0,这在计算中节约了不少时间,也使SVM在大量的训练集面前也能很好的工作。而上文提到,SVM之所以可以解决高维数据,主要依赖于核函数,上面提到了映射关系函数以及高维空间,实际上,我们没必要去真正凑出这个映射关系或者真正意义上去高维计算,这些过程都是隐式的,只是为了方面理解而已。
原文:http://my.oschina.net/dfsj66011/blog/517766