1.在高纬度大数量的数据情况下，用线性+松弛因子做SVM效果是很不错的
2.在高纬度大数量的情况下，一般用批量梯度下降做计算效果会很好
3.在低纬度大数量的情况下，可以用牛顿法来求解，一般迭代两三次就好了
4.有个叫Le BOTTON 的人，对常用目标函数的SGD公式做了很好的推导
5.有一个响亮求导的书叫：vector cookbook，专门介绍矩阵求导～
6.其实SVM的结果不用转为概率，直接转为Rank就可以了
7.大扣扣的演算手稿在手机里面～
原文：http://www.cnblogs.com/berkeleysong/p/3763665.html