概率与数理统计

.

..

《概率论与数理统计》

第一章概率论的基本概念

§2．样本空间、随机事件

1．事件间的关系

BA

则称事件B包含事件A，指事件A发生必然导致事件B发生

B}xxx{或ABA称为事件A与事件B的和事件，指当且仅当

A，B中至少有一个发生时，事件

BA

发生

B}xxx{且ABA称为事件A与事件B的积事件，指当A，B

同时发生时，事件

BA

发生

B}xxx{且—ABA称为事件A与事件B的差事件，指当且仅当

A发生、B不发生时，事件

BA—

发生

BA，则称事件A与B是互不相容的，或互斥的，指事件A与事

件B不能同时发生，基本事件是两两互不相容的

且SBABA，则称事件A与事件B互为逆事件，又称事件

A与事件B互为对立事件

2．运算规则交换律

ABBAABBA

结合律)()()()(CBACBACBACBA

分配律)()B(CAACBA）（

))(()(CABACBA

徳摩根律BABAABAB

—

§3．频率与概率

定义在相同的条件下，进行了n次试验，在这n次试验中，事件A发生的次数

A

n称为事

件A发生的频数，比值nn

A

称为事件A发生的频率

概率：设E是随机试验，S是它的样本空间，对于E的每一事件A赋予一个实数，记为P（A），

称为事件的概率

1．概率)(AP满足下列条件：

（1）非负性：对于每一个事件A1)(0AP

（2）规范性：对于必然事件S1)S(P

.

..

（3）可列可加性：设

n

AAA,,,

21

是两两互不相容的事件，有







n

k

k

n

k

k

APAP

1

1

)()(（n可

以取）

2．概率的一些重要性质：

（i）0)(P

（ii）若

n

AAA,,,

21

是两两互不相容的事件，则有







n

k

k

n

k

k

APAP

1

1

)()(（n可以取）

（iii）设A，B是两个事件若

BA

，则)()()(APBPABP，)A()B(PP

（iv）对于任意事件A，1)(AP

（v）)(1)(APAP（逆事件的概率）

（vi）对于任意事件A，B有)()()()(ABPBPAPBAP

§4等可能概型（古典概型）

等可能概型：试验的样本空间只包含有限个元素，试验中每个事件发生的可能性相同

若事件A包含k个基本事件，即}{}{}{

2]1k

iii

eeeA，里

个不同的数，则有中某，是，，k

k

n2,1iii

,21







中基本事件的总数

包含的基本事件数

S

}{)(

1j

A

n

k

ePAP

k

j

i





§5．条件概率

（1）定义：设A,B是两个事件，且0)(AP，称

)(

)(

)|(

AP

ABP

ABP为事件A发生的条

件下事件B发生的条件概率

（2）条件概率符合概率定义中的三个条件

1。非负性：对于某一事件B，有0)|(ABP

2。规范性：对于必然事件S，1)|(ASP

3可列可加性：设,,

21

BB是两两互不相容的事件，则有











1

1

)()(

i

i

i

i

ABPABP

（3）乘法定理设0)(AP，则有)|()()(BAPBPABP称为乘法公式

.

..

（4）全概率公式：





n

i

ii

BAPBPAP

1

)|()()(

贝叶斯公式：







n

i

ii

kk

k

BAPBP

BAPBP

ABP

1

)|()(

)|()(

)|(

§6．独立性

定义设A，B是两事件，如果满足等式)()()(BPAPABP，则称事件A,B相互独立

定理一设A，B是两事件，且0)(AP，若A，B相互独立，则BPABP)|(

定理二若事件A和B相互独立，则下列各对事件也相互独立：A与

————

与，与，BABAB

第二章随机变量及其分布

§1随机变量

定义设随机试验的样本空间为X(e)X{e}.S是定义在样本空间S上的实值单值函

数，称X(e)X为随机变量

§2离散性随机变量及其分布律

1．离散随机变量：有些随机变量，它全部可能取到的值是有限个或可列无限多个，这种随

机变量称为离散型随机变量

kk

)(pxXP满足如下两个条件（1）0

k

p，（2）

1k

k

P=1

2．三种重要的离散型随机变量

（1）分布

设随机变量X只能取0与1两个值，它的分布律是

)101,0kp-1p)k(k-1kpXP（，）（，则称X服从以p为参数的分布或两

点分布。

（2）伯努利实验、二项分布

设实验E只有两个可能结果：A与

—

A

，则称E为伯努利实验.设1)p0pP(A)（，

此时p-1)AP(

—

.将E独立重复的进行n次，则称这一串重复的独立实验为n重伯努利实验。

n2,1,0kqp

k

n

)kX(k-nk，，

















P满足条件（1）0

k

p，（2）

1k

k

P=1注意

.

..

到k-nkqp

k

n

















是二项式nqp）（的展开式中出现kp的那一项，我们称随机变量X服从参数

为n，p的二项分布。

（3）泊松分布

设随机变量X所有可能取的值为0,1,2…，而取各个值的概率为

,2,1,0,

k!

e

)kX(

-k

kP



其中

0是常数，则称X服从参数为的泊松分布记为

）（~X

§3随机变量的分布函数

定义设X是一个随机变量，x是任意实数，函数x-x},P{X)x(F

称为X的分布函数

分布函数)()(xXPxF，具有以下性质(1))(xF是一个不减函数（2）

1)(,0)(1)(0FFxF，且（3）是右连续的即)(),()0(xFxFxF

§4连续性随机变量及其概率密度

连续随机变量：如果对于随机变量X的分布函数F（x），存在非负可积函数)(xf，使

对于任意函数x有,dttf)x(F

x

-

）（则称x为连续性随机变量，其中函数f(x)称为X

的概率密度函数，简称概率密度

1概率密度)(xf具有以下性质，满足（1）1)((2),0)(

-





dxxfxf；

（3）2

1

)()(

21

x

x

dxxfxXxP；（4）若)(xf在点x处连续，则有)(Fx，)(xf

2,三种重要的连续型随机变量

(1)均匀分布

若连续性随机变量X具有概率密度















，其他

，

0

a

a-b

1

)(

bx

xf，则成X在区间(a,b)上服从

均匀分布.记为

），（baU~X

(2)指数分布

若连续性随机变量X的概率密度为















，其他

，

0

0.e

1

)(

x-x

xf



其中

0为常数，则称X

服从参数为



的指数分布。

（3）正态分布

.

..

若连续型随机变量X的概率密度为，，

）







xexf

x

-

2

1

)(2

2

2

(







，服从参数为为常数，则称（，其中X)0的正态分布或高斯分布，记为

），（2N~X

特别，当10，时称随机变量X服从标准正态分布

§5随机变量的函数的分布

定理设随机变量X具有概率密度,-)(

x

xxf，又设函数)(xg处处可导且恒有

0)(,xg，则Y=)(Xg是连续型随机变量，其概率密度为













其他，0

,)()(

)(

,yyhyhf

yfX

Y

第三章多维随机变量

§1二维随机变量

定义设E是一个随机试验，它的样本空间是X(e)X{e}.S和Y(e)Y是定义在S上

的随机变量，称X(e)X为随机变量，由它们构成的一个向量（X，Y）叫做二维随机变量

设（X，Y）是二维随机变量，对于任意实数x，y，二元函数

y}YxP{Xy)}(Yx)P{(XyxF，记成），（称为二维随机变量（X，Y）的

分布函数

如果二维随机变量（X，Y）全部可能取到的值是有限对或可列无限多对，则称（X，

Y）是离散型的随机变量。

我们称，，，，2,1ji)yY(

ijji

pxXP为二维离散型随机变量（X，Y）的

分布律。

对于二维随机变量（X，Y）的分布函数），（yxF，如果存在非负可积函数f（x，y），

使对于任意x，y有，），（），（

y

-

x

-

dudvvufyxF则称（X，Y）是连续性的随机变量，

函数f（x，y）称为随机变量（X，Y）的概率密度，或称为随机变量X和Y的联合概率密

度。

§2边缘分布

二维随机变量（X，Y）作为一个整体，具有分布函数），（yxF.而X和Y都是随机

变量，各自也有分布函数，将他们分别记为）（（y),xF

XY

F，依次称为二维随机变量（X，Y）

.

..

关于X和关于Y的边缘分布函数。

，，2,1i}xP{Xp

1j

iiji







p

，，2,1j}yP{Yp

1i

iij





j

p

分别称

i

p

j

p



为（X，Y）关于X和关于Y的边缘分布律。





dyyxfxf

X

）,()(



dxyxfyf

Y

）,()(分别称)(xf

X

，

)(yf

Y

为X，Y关于X和关于Y的边缘概率密度。

§3条件分布

定义设（X，Y）是二维离散型随机变量，对于固定的j，若,0}{

j

yYP

则称,2,1,

}{

},{

}{









i

p

p

yYP

yYxXP

yYxXP

j

ij

j

ji

ji

为在

j

yY条件下

随机变量X的条件分布律，同样,2,1,

}{

},{

}{









j

p

p

xXP

yYxXP

XXyYP

i

ij

i

ji

ij

为在

i

xX条件下随机变量X的条件分布律。

设二维离散型随机变量（X，Y）的概率密度为),(yxf，（X，Y）关于Y的边缘概

率密度为)(yf

Y

，若对于固定的y，)(yf

Y

〉0，则称

)(

),(

yf

yxf

Y

为在Y=y的条件下X的条件

概率密度，记为)(yxf

YX

=

)(

),(

yf

yxf

Y

§4相互独立的随机变量

定义设），（yxF及)(Fx

X

，)(Fy

Y

分别是二维离散型随机变量（X，Y）的分布函

数及边缘分布函数.若对于所有x,y有y}}P{Y{},{xXPyYxXP，即

(y))F(F},{F

YX

xyx，则称随机变量X和Y是相互独立的。

对于二维正态随机变量（X，Y），X和Y相互独立的充要条件是参数0

§5两个随机变量的函数的分布

1，Z=X+Y的分布

设(X,Y)是二维连续型随机变量，它具有概率密度),(yxf.则Z=X+Y仍为连续性

随机变量，其概率密度为





dyyyzfzf

YX

）,()(

或





dxxzxfzf

YX

）,()(

.

..

又若X和Y相互独立，设（X，Y）关于X，Y的边缘密度分别为)(),(yfxf

YX

则







dyfyzfzf

YXYX

y)()(（）和





dxxzfxfzf

YXYX

)(()(）这两个公式称为

YX

ff,的卷积公式

有限个相互独立的正态随机变量的线性组合仍然服从正态分布

2，

的分布的分布、XYZ

X

Y

Z

设(X,Y)是二维连续型随机变量，它具有概率密度),(yxf，则

XYZ

X

Y

Z，

仍为连续性随机变量其概率密度分别为dxxzxfxzf

XY

),()(





dx

x

z

xf

x

zf

XY

),(

1

)(



又若X和Y相互独立，设（X，Y）关于X，Y的边缘密度分别

为)(),(yfxf

YX

则可化为dxxzfxfzf

YXXY



)()()(

dx

x

z

fxf

x

zf

YXY

)()(

1

)(

X





3的分布及，},min{NY}{XmaxYXM

设X，Y是两个相互独立的随机变量，它们的分布函数分别为)(),(yFxF

YX

由于

Y}{Xmax，M不大于z等价于X和Y都不大于z故有z}Yz,P{Xz}P{M又

由于X和Y相互独立，得到Y}{Xmax，M的分布函数为)()()(

max

zFzFzF

YX



},min{NYX的分布函数为)(1)(11)(

min

zFzFzF

YX



第四章随机变量的数字特征

§1．数学期望

定义设离散型随机变量X的分布律为

kk

pxXP}{，k=1,2，…若级数

1k

kk

px绝对

收敛，则称级数

1k

kk

px的和为随机变量X的数学期望，记为)(XE，即

i

kk

pxXE)(

设连续型随机变量X的概率密度为)(xf，若积分



dxxxf)(绝对收敛，则称积分

.

..





dxxxf)(的值为随机变量X的数学期望，记为)(XE，即



dxxxfXE)()(

定理设Y是随机变量X的函数Y=)(Xg(g是连续函数)

（i）如果X是离散型随机变量，它的分布律为

k

pXP}x{

k

，k=1,2，…若

k

k

k

pxg

1

(）

绝对收敛则有)Y(E))((XgE

k

k

k

pxg

1

(）

（ii）如果X是连续型随机变量，它的分概率密度为)(xf，若



dxxfxg)()(绝对收敛则

有)Y(E))((XgE



dxxfxg)()(

数学期望的几个重要性质

1设C是常数，则有CCE)(

2设X是随机变量，C是常数，则有)()(XCECXE

3设X,Y是两个随机变量，则有)()()(YEXEYXE；

4设X，Y是相互独立的随机变量，则有)()()(YEXEXYE

§2方差

定义设X是一个随机变量，若})({2XEXE存在，则称})({2XEXE为X的方

差，记为D（x）即D（x）=})({2XEXE，在应用上还引入量)(xD，记为)(x，

称为标准差或均方差。

222)()())(()(EXXEXEXEXD

方差的几个重要性质

1设C是常数，则有,0)(CD

2设X是随机变量，C是常数，则有)(C)(2XDCXD，D(X))(CXD

3设X,Y是两个随机变量，则有E(Y))}-E(X))(Y-2E{(XD(Y)D(X))(YXD特

别，若X,Y相互独立，则有)()()(YDXDYXD

40)(XD的充要条件是X以概率1取常数E(X)，即1)}({XEXP

切比雪夫不等式：设随机变量X具有数学期望2)(XE，则对于任意正数，不等式

.

..

2

2

}-XP{





成立

§3协方差及相关系数

定义量)]}()][({[YEYXEXE称为随机变量X与Y的协方差为),(YXCov，即

)()()())]())(([(),(YEXEXYEYEYXEXEYXCov

而

D(Y)D(X)

YX(

XY

），Cov

称为随机变量X和Y的相关系数

对于任意两个随机变量X和Y，),(2)()()

_

(YXCovYDXDYXD









协方差具有下述性质

1),(),(),,(),(YXabCovbYaXCovXYCovYXCov

2),(),(),(

2121

YXCovYXCovYXXCov

定理11

XY



21

XY

的充要条件是，存在常数a,b使1}{bxaYP

当

XY

0时，称X和Y不相关

附：几种常用的概率分布表

分布参数分布律或概率密度

数学

期望

方差

两点分

布

10p

1,0,)1(){1kppkXPkk，

p

)1(pp

二项式

分布

1n

10p

nkppCkXPknkk

n

,1,0,)1()(，

np

)1(pnp

泊松分

布

0

,2,1,0,

!

)(



k

k

e

kXP

k



几何分

布

10p

,2,1,)1()(1kppkXPk

p

1

2

1

p

p

均匀分

布

ba

















，其他0

,

1

)(

bxa

ab

xf，

2

ba

12

)(2ab

.

..

指数分

布

0

















其他,0

0,

1

)(

xe

xf

x



2

正态分

布



02

2

2

)(

2

1

)(











x

exf

2

第五章大数定律与中心极限定理

§1．大数定律

弱大数定理（辛欣大数定理）设X

1，X

2

…是相互独立，服从统一分布的随机变量序列，并

具有数学期望),2,1()(kXE

k

.作前n个变量的算术平均



n

k

k

X

n

1

1

，则对于任意

0，有1}

1

{lim

1









n

k

k

n

X

n

P

定义设

n

YYY,,

21

是一个随机变量序列，a是一个常数，若对于任意正数，有

1}{lim



aYP

n

n

，则称序列

n

YYY,,

21

依概率收敛于a，记为aYp

n



伯努利大数定理设

A

f是n次独立重复试验中事件A发生的次数，p是事件A在每次试

验中发生的概率，则对于任意正数〉0，有1}{lim



p

n

f

Pn

n

或

0}{lim



p

n

f

Pn

n

§2中心极限定理

定理一（独立同分布的中心极限定理）设随机变量

n

XXX,,,

21

相互独立，服从同一

分布，且具有数学期望和方差2)(,)(

ki

XDXE（k=1,2，…），则随机变量之和

标准化变量



n

i

k

X

1

，





n

nX

XD

XEX

Y

n

i

k

n

k

k

n

k

n

k

kk

n



















1

1

11

)(

)(

，

定理二（李雅普诺夫定理）设随机变量

n

XXX,,,

21

…相互独立，它们具有数学期望

和方差2,1,0)(,)(2kXDXE

kkkk

记





n

k

kn

B

1

22

.

..

定理三（棣莫弗-拉普拉斯定理）设随机变量10(,),2,1(ppnn

n

服从参数为）的

二项分布，则对任意x，有)(

2

1

}

)1(

{lim22xdtex

pnp

np

Px

t

n

n













