1 为什么随机梯度下降法能work?
https://www.zhihu.com/question/27012077中回答者李文哲的解释
2 随机梯度下降法的好处?
(1)加快训练速度(2)噪音可以使得跳出局部最优
3 权衡方差和偏差:
偏差反映的是模型的准确度(对训练数据的吻合程度),方差则反映模型的稳定性(对测试数据的泛化能力)。模型越复杂,偏差越小,方差越大。
4 减少过拟合的方法:
(1)减少特征个数
(2)增大数据量
(3)引入正则项
机器学习基本概念
原文:http://www.cnblogs.com/coldyan/p/6196051.html