线性回归（Linear Regression）是一种通过属性的线性组合来进行预测的线性模型，其目的是找到一条直线或者一个平面或者更高维的超平面，使得预测值与真实值之间的误差最小化。
通俗解释：
举个例子，银行现在有很多贷款客户，这些客户在贷款的时候，银行保存了他们的年龄、工资月收入、资产信息（是否有房、有车、理财产品等），那么我们称这这些信息为特征值。假如我现在去银行贷款，那么银行就可以通过已有客户的这些特征信息建立数据模型来预测我在该银行到底能贷多少钱。这里的数据模型指的就是线性回归。
假设X1表示工资，X2表示年龄，那么Y就表示银行可以给我贷款的额度。这样我们就可以拟合出一条曲线，如下图
假设$\theta_1$是年龄，$\theta_2$是工资，那么拟合的平面为：
我们可以假定上述$\theta_0$使我们构建的虚拟特征值，其值全部为1，那么$\theta_0$与1的乘积永远是$\theta_0$，所以上述式子可以写成：
将式子简化后，得到（第二个等式是根据矩阵乘法转换后得到）
原文：https://www.cnblogs.com/OliverQin/p/12699284.html