1.在高纬度大数量的数据情况下，用线性+松弛因子做SVM效果是很不错的

2.在高纬度大数量的情况下，一般用批量梯度下降做计算效果会很好

3.在低纬度大数量的情况下，可以用牛顿法来求解，一般迭代两三次就好了

4.有个叫Le BOTTON 的人，对常用目标函数的SGD公式做了很好的推导

5.有一个响亮求导的书叫：vector cookbook，专门介绍矩阵求导～

6.其实SVM的结果不用转为概率，直接转为Rank就可以了

7.大扣扣的演算手稿在手机里面～