回归系数

§3回归方程及回归系数的显著性检验之公保含烟创

作

１、回归方程的显著性检验

(1)回归平方和与剩余平方和

树立回归方程以后,回归效果如何呢？因变量与自变量

是否确实存在线性关系呢？这是需要停止统计检验才华

加以一定或否认,为此,我们要进一步研究因变量取值的变卦

规律.的每次取值是有坚定的,这种坚定常称为变差,

每次观测值的变差年夜小,常常使用该次观侧值与次观测

值的平均值的差(称为离差)来暗示,而全部次观测

值的总变差可由总的离差平方和

,

其中:

称为回归平方和,是回归值与均值之差的平方和,

它反映了自变量的变卦所引起的的坚定,其自由度

(为自变量的个数).

称为剩余平方和(或称残差平方和),是实测值与

回归值之差的平方和,它是由试验误差及其它因素引起的,其

自由度.总的离差平方和的自由度为.

如果观测值给定,则总的离差平方和是确定的,即是

确定的,因此年夜则小,反之,小则年夜,所以与都可

用来权衡回归效果,且回归平方和越年夜则线性回归效果越显

著,或许说剩余平方和越小回归效果越显著,如果＝0,则回

归超平面过所有观测点;如果年夜,则线性回归效果欠好.

(2)复相关系数

为检验总的回归效果,人们也常引用无量纲指标

,(3.1)

或

,(3.2)

称为复相关系数.因为回归平方和实际上是反映回归方程中全

部自变量的“方差奉献”,因此就是这种奉献在总回归平方和

中所占的比例,因此暗示全部自变量与因变量的相关水平.显

然.复相关系数越接近１,回归效果就越好,因此它可以作

为检验总的回归效果的一个指标.但应注意,与回归方程中自变

量的个数及观测组数有关,当相关于其实不很年夜时,常

有较年夜的值,因此实际计算中应注意与的适当比例,一般

认为应取至少为的５到10倍为宜.

(3)检验

要检验与是否存在线性关系,就是要检验假定

,(3.3)

当假定成立时,则与无线性关系,否则认为线性关系

显著.检验假定应用统计量

,(3.4)

这是两个方差之比,它听从自由度为及的散布,即

,(3.5)

用此统计量可检验回归的总体效果.如果假定成立,则当给

定检验水平α下,统计量应有

≤,(3.6)

关于给定的置信度α,由散布表可查得的值,如果依

据统计量算得的值为,则回绝假定,即不能认为

全部为O,即个自变量的总体回归效果是显著的,否则认为

回归效果不显著.

应用检验对回归方程停止显著性检验的办法称为方差剖

析.上面对回归效果的讨论可归结于一个方差剖析表中,如表

3.1.

表3.1方差剖析表

来

源

平方和自由度方差方差比

回

归

剩

余

总

计

依据与的定义,可以导出与的以下关系:

,

.

应用这两个关系式可以解决值多年夜时回归效果才算是显

著的问题.因为对给定的检验水平α,由散布表可查出的临界

值,然后由即可求出的临界值:

,(3.7)

事先,则认为回归效果显著.

例3.1应用方差剖析对例2.1的回归方程停止显著性检验.

方差剖析后果见表3.2.

表3.2

来源平方和自由度方差方差比

回归

剩余

总计

取检验水平α＝0.05,查散布表得,而

,所以例2.1的回归方程回归效果是显著的.

２、回归系数的显著性检验

前面讨论了回归方程中全部自变量的总体回归效果,但总

体回归效果显著其实不说明每个自变量对因变量都是

重要的,即能够有某个自变量对其实不起作用或许能被其它

的的作用所替代,因此对这种自变量我们希望从回归方程中剔

除,这样可以树立更复杂的回归方程.显然某个自变量如果对作

用不显著,则它的系数就应取值为0,因此检验每个自变量

是否显著,就要检验假定:

,,(3.8)

(1)检验:

在假定下,可应用检验:

,,(3.9)

其中为矩阵的对角线上第个元素.

对给定的检验水平α,从散布表中可查出与α对应的临界

值,如果有,则回绝假定,即认为与0有显著差异,这

说明对有重要作用不应剔除;如果有则承受假定,即

认为成立,这说明对不起作用,应予剔除.

(2)检验:

检验假定,亦可用听从自由度辨别为1与的散

布的统计量

,(3.10)

其中为矩阵的主对角线上第个元素.关于给定的

检验水平α,从散布表中可查得临界,如果有

,则回绝假定,认为对有重要作用.如果

,则承受假定,即认为自变量对不起重要作用,

可以剔除.一般一次检验只剔除一个自变量,且这个自变量是

所有不显著自变量中值最小者,然后再树立回归方程,并持续

停止检验,直到树立的回归方程及各个自变量均显著为止.

最后指出,上述对各自变量停止显著性检验采用的两种统

计量与实际上是等价的,因为由(3.9)式及(3.10)式知,有

(3.11)

例3.2对例2.1的回归方程各系数停止显著性检验.

经计算:

,

于是

,

其中＝0.002223,＝0.004577.由(3.7)式知

,

,

查散布表得,,因为,

,所以两个自变量及都是显著的.又由,

说明体长比胸围对体重的影响更年夜.

如果应用检验,查散布表有,又由

,

,

因为,,因此及都是显著

的,均为重要变量,应保管在回归方程中.

(3)偏回归平方和

检验某一自变量是否显著,还可应用偏回归平方和停止检

验.

个自变量的回归平方和为

,

如果自个自变量中去掉,则剩下的个自变量的回归平方和

设为,并设

,

则就暗示变量在回归平方和中的奉献,称为的偏回归平

方和或奉献.可以证明

,(3.12)

偏回归平方和越年夜,说明在回归方程中越重要,对的作用

和影响越年夜,或许说对回归方程的奉献越年夜.因此偏回归

平方和也是用来权衡每个自变量在回归方程中作用年夜小(奉献

年夜小)的一个指标.

例如在例2.1中,和的偏回归平方和辨别为

,

,

,说明在回归方程中的作用比年夜.

及的偏回归平方和辨别为:

,

,

,

,

的值最小,即在回归方程中所起的作用最小,最年夜,说明

在回归方程中所起的作用最年夜.