对于线性回归，lse（最小二乘估计）和mle（最大似然估计）基于不同的假设。lse直接假设目标函数，mle假设分布。在高斯噪声下，它们的公式是一样的。
无论如何，它们不必符合基本事实。至于假设是否可靠，我们必须通过假设实验来检验。
最小二乘法是一种线性回归的方法
所谓的线性回归
实际上是在平面直角坐标系中有一系列的点
然后模拟一条直线
让直线尽可能地与这些点拟合
得到线性方程y=αxβ，即是线性回归方程
所谓的最小二乘法
是假设回归线为y=αxβ
然后对平面上的每个点，用xk代入回归方程，得到an（xk，yk）的坐标，我们可以找到一个yk“
并且δk=yk”-yk是回归线上的点和实际点之间的偏差
因此对于所有点，an都会有一个与之对应的偏差δn
我们要使回归线尽可能地与平面上的点拟合
然后我们应该使这些偏差尽可能小
但是由于有些点在直线上方，有些点在直线下方
所以我们不能直接加δ
所以我们想出了一个方法来确定δ的平方和为正，然后再加上它
这样所有δ的平方和就尽可能小了，得到的直线就是用最小二乘法得到最优回归直线
因为直线有两个未知量α和β
所以用最小值法分别得到α和β的偏导数，使两个偏导数为0
得到α和β对应的线性方程，y=αxβ是用最小二乘法得到的最优回归直线方程
一般来说，所谓最小二乘法
乘最小二乘法是一个数学公式，这叫曲线拟合。这里的最小二乘法是指线性回归方程！最小二乘公式为a=y（平均值）-b*x（平均值）。
