最小二乘法例题详解：用直线拟合数据

最小二乘法是一种常用的数据拟合方法，可以用来在一组观测数据中找到一条最佳的直线或曲线来描述这些数据的趋势。下面我们来看一个最小二乘法的例题。/n/n假设我们有一组数据，如下表所示：/n/n| x | y |/n|------|-------|/n| 1 | 0.5 |/n| 2 | 2.5 |/n| 3 | 2.0 |/n| 4 | 4.0 |/n| 5 | 3.5 |/n| 6 | 6.0 |/n/n我们希望用一条直线 y = ax + b 来拟合这些数据，其中 a 和 b 是未知参数。我们可以使用最小二乘法来求出最佳的拟合直线。/n/n首先，我们画出这些数据的散点图，如下图所示：/n/n/n/n可以看出，这些数据的趋势大致是一个斜率为正的直线。我们可以用最小二乘法来找到这条直线的斜率和截距。/n/n最小二乘法的核心思想是，找到一条直线，使得这条直线到所有数据点的距离之和最小。具体来说，我们要找到一组参数 a 和 b，使得下面的式子最小：/n/n$$/sum_{i=1}^n (y_i - ax_i - b)^2$$ /n/n其中，n 是数据点的个数，$(x_i, y_i)$ 是第 i 个数据点的坐标。/n/n我们可以对这个式子进行求导，得到下面的两个方程：/n/n$$/frac{/partial}{/partial a} /sum_{i=1}^n (y_i - ax_i - b)^2 = 0$$ /n/n$$/frac{/partial}{/partial b} /sum_{i=1}^n (y_i - ax_i - b)^2 = 0$$ /n/n将式子展开，化简后得到：/n/n$$a = /frac{n/sum_{i=1}^n x_i y_i - /sum_{i=1}^n x_i /sum_{i=1}^n y_i}{n/sum_{i=1}^n x_i^2 - (/sum_{i=1}^n x_i)^2}$$ /n/n$$b = /frac{/sum_{i=1}^n y_i - a/sum_{i=1}^n x_i}{n}$$ /n/n将这些数据代入上面的公式，我们可以得到最佳的拟合直线：/n/n$$y = 0.9286x - 0.3571$$/n/n将这条直线画在散点图上，可以看出它很好地拟合了这些数据：/n/n/n/n这就是最小二乘法的一个例题。在实际应用中，最小二乘法可以用来拟合任意形状的曲线，而不仅仅是直线。它在数据分析和机器学习中都有广泛的应用。