最小二乘法原理

最小二乘法的基本原理和多项式拟合

一最小二乘法的基本原理

从整体上考虑近似函数

…,m)误差

同所给数据点

(i=0,1,

以下三种：一是误差

值的最大值

…,m)的大小，常用的方法有

(i=0,1,…,m)绝对

，即误差向量

(i=0,1,

的∞—范数；二是误差绝对值的和

，即误差向量r的1—范数；三是误差平

方和的算术平方根，即误差向量r的2—

范数；前两种方法简单、自然，但不便于微分运算，后一种方法相当于考虑2—范数的平方，因此在曲线拟合中常采用误差平方和

来度量误差

(i=0，1，…，m)的整体大小。

数据拟合的具体作法是：对给定数据

(i=0,1,…，m)，在取定的函数类

中,求

,使误差

(i=0,1,…,m)的平方和最小，即

=

从几何意义上讲，就是寻求与给定点

(i=0,1,…,m)的距离平方和为最小的曲线

（图6-1）。函数

称

为拟合函数或最小二乘解，求拟合函数

的方法称为曲线拟合的最小二乘法。

在曲线拟合中，函数类

取方法.

二多项式拟合

假设给定数据点可有不同的选

6—1

(i=0,1,…,m)，

为所有次数不超过

的多项式构成的函数管道的清洗 类，现求一

,使得

(1)

当拟合函数为多项式时，称为多项式拟合，满足式（1）的

n=1时，称为线性拟合或直线拟合。

显然

称为最小二乘拟合多项式。特别地，当

为条件，得

即

的多元函数，因此上述问题即为求

问国庆节文案 题。由多元函数求极值的必要

(2)

的极值

（3）是关于

式（3）或式（4）称为正规方程组或法方程组。

(3)

(4)

的线性方程组，用矩阵表示为

可以证明，方程组（4）的系数矩阵是一个对称正定矩阵，故存在唯一解。从式

（4）中解出

项式

…，n)，从而可得多

(5)

(k=0,1,

可以证明，式（5）中的满足式（1），即

为所求的拟合多项式。我们把

称为最小二乘拟合多项式

的平方误差，记作

由式(2)可得

(6)

多项式拟合的一般方法可归纳为以下几步：

(1)由已知数据画出函数粗略的图形——散致词 点图，确定拟合多项式的次数n；

列表计算

(3)写出正规方程组，求出和

(2)

；

；

(4)写出拟合多项式

在实际应用中，或

。

；当

时所得的拟合多项式就是拉格朗日或牛顿

插值多项式。

例1测得铜导线在温度(℃)时的电阻

如表6-1，求电阻R与温度T的近似函数

关系。

i

0

1

2

3

4

5

6

19.125.030.136.040.045.150.0

(℃)

76.3077.879.2580.882.3583.985.1

解画出散点图（图6-2），可见测得的数据接近一条钓黄尾 直线，故取n=1，拟合函数为

列表如下

i

019.176.30364.811457.330

125.077.80625.001945.000

230.179.25906.012385.4适合女生的职业有哪些 25

336.080.801296.002908.800

440.082.351600.003294.000

545.183.902034.013783.890

650.085.102500.004255.000

245.3565.59325.8320029.445

正规方程组为

解方程组得

故得R与T的拟合直线为

利用上述关系式，可以预测不同温度时铜导线的电阻值。例如，由R=0得

T=-242.5，即预测温度T=-242.5℃时，铜导线无电阻。

6-2

例2

已知实验数据如下表

i012345678

1345678910

1054211234

试用最小二乘法求它的二次拟合多项式。

解设拟合曲线方程为

列表如下

1101

359

4416

5225

6136

7149

8264

9381

104100

5332381

得正规方程组

解得

故拟合多项式为

*三最小二乘拟合多项式的存在唯一性

I

0

1

2

3

4

5

6

78

1

27

64

125

216

343

512

729

1000

3017

1

81

256

625

1296

2401

4096

6561

10000

25317

10

15

16

10

6

7

16

27

40

147

10

45

64

50

36

49

128

243

4001025

定理1设节点互异，则法方程组（4）的

解存在唯一。

证由克莱姆法则，只需证明方程组（4）的系数矩阵非奇异即可。

用反证法，设方程组（4）的系数矩阵奇异，则其所对应的齐次方程组

有非零解。式(7)可写为

7）

（8）

（

将式（8）中第j个方程乘以(j=0,1,…，

n)，然后将新得到的n+1个方程左右两端分别相加，得

因为

其中

所以写给偶像的一封信

(i=0,1,…,m)

是次数不超过n的多项式，它有m+1＞n个

相异零点，由代数基本定理，必须有，与

齐次方程组有非零解的假设矛盾。因此正规方程组（4）必有唯一解。定理2设

是正规方程组（4）的解，则

是满足式（1）的最小二乘拟合多项式。

证只需证明，对任意一组数

多项式

即可。

因为

解，所以满足式（2），因此有组成的

，恒有

…，n)是正规方程组（4）的

(k=0,1,

故为最小二乘拟合多项式。

*四多项式拟合中克服正规方程组的病态

在多项式拟合中，当拟合多项式的次数较高时，其正规方程组往往是病态的。而且

①正规方程组系数矩阵的阶数越高，病态越严重；

②拟合节点分布的区间

态越严重；

偏离原点越远，病

③(i=0,1,…，m)的数量级相差越大，病

态越严重。

为了克服以上缺点，一般采用以下措施：

①尽量少作高次拟合多项式，而作不同的分段低次拟合；②不使用原始节点作拟合，将节点分布区间作平移，使新的节点

关于原点对称，可大大降低正规方程组

的条件数，从而减低病态程度。

平移公式为：

③对平移后的节点

缩或扩张处理：

…，m),再作压

（10）

(9)

(i=0,1,

其中,（r是拟合次数）（11）

经过这样调整可以使的数量级不太大也不

太小，特别对于等距节点，作式（10）和

式（11）两项变换后，其正规方程组的系数矩阵设为A，则对1～4次多项式拟合，

条件数都不太大，都可以得到满意的结果。

变换后的条件数上限表如下：

1234

=1<9.9<50.3<435

④在实际应用中还可以利用正交多项式求拟合多项式。一种方法是构造离散正交多

项式；另一种方法是利用切比雪夫节点求出函数值后再使用正交多项式。这两种方

法都使正规方程组的系数矩阵为对角矩阵，从而避免了正规方程组的病态。我们

拟合次数

只介绍第一种，见第三节。

例如m=19,=328,h=1,

=

［328,347］，作二次多项式拟合时

①直接用

严重病态，拟合结果完全不能用。

②作平移变换

+ih，i=0,1,…，19，即节点分布在

构造正规方程组系数矩阵

，计算可得

用比

合效果较好。

③取压缩因子构造正规方程组系数矩阵

降低了13个数量级，病态显着改善，拟

，计算可得

作压缩变换

用构造正规方程组系数矩阵

，计算可得

又比

组，拟合效果十分理想。

降低了3个数量级，是良态的方程

如有必要，在得到的拟合多项式

来节点所对应的变量x，可写为中使用原

仍为一个关于x的n次多项式，正是我们要求的拟合多项式。