【概率论】4-1:随机变量的期望(TheExpectationofaRandomVaria 。。。Abstract: 本⽂主要介绍期望的基础之知识,第⼀部分介绍连续和离散随机变量的期望。
Keywords: Expectation
随机变量的期望
好像⼤家⽐较喜欢关于学习⽅⾯的废话,那么以后就不说社会现象了,哈哈哈。
期望是整个这⼀章的基础,概率论学习例⼦最重要,前⾯⼏节例⼦都写的不多,所以让⼤家多看书,博客只能算个总结性的东西,⽽期望这个概念更是需要⽤练习去理解,我做数学的⽬的是为了研究机器学习,不是为了做习题,但是做习题是最快速的学数学的⽅法。
为了使得基础扎实,所以把本来可以⼀篇完成的博客拆分成了两篇,第⼀篇写离散和连续随机变量的期望,下⼀篇写随机变量函数的期望。本章引⾔
⼀个随机变量的全部信息被保存在他的分布中,当事件到随机变量的确定后,随机变量的分布唯⼀描述这个随机变量的全部性质。但是整个分布包含太多信息了,⽐如⼀个复杂的分布,参数可能有⼏百上千个,有些性质就变得不那么明显了。
举个通俗的例⼦,我们描述⼀个⼈的⾝材(把⾝材当做随机变量),最完整的⽅法就像做CT,把整个⼈的三维模型数据采集出来,这就相当于其分布函数,但是这个数据量也好,耗时也好,都是⾮常⼤的,⽽且有些数据也没啥⼤作⽤,我们可能只关⼼这个⼈的射⾼体重,就能⼤概猜测出来这个⼈的⼤概样⼦,⽽不关⼼他的脑袋有多⼤,眼睛有多⼤。
这个例⼦是个很通俗的解释,但是类⽐的很恰当(为⾃⼰⿎掌)。
我们的⽬的就像找到⾝材中的⾝⾼和体重⼀样,找到分布中的某⼏个关键数值,这些数值可以反映出分布的某些重要性质——期望!离散分布的期望 Expectation for a Discrete Distribution
先举个不切实际的例⼦,买股票,通过某种计算,我们知道了某只股票的赚钱的分布,只有两种请款个,⼀种是赚10块钱,概率是90%,⼀种是赔100块钱,概率是10%。那么我们要不要买这只股票。
分析,⾸先事件是两个,⼀个是赚10元,⼀个是赔100,那么我们把这两个事件映射成随机变量 10,-100,那么离散分布: 我们可能赚多少钱,相当于随机变量的加权平均,也就是 我们买这只股票的赚钱期望值是-1 ,这个-1其实是没有意义的,因为我们从事件到随机变量的映射其实只做了两个事件的⼀对⼀映射,我们得到的 -1 这个随机变量根本不知道对应什么事件,但是我们可以把第⼀步的从事件到随机变量的映射改成⼀个线性的函数,也就是收益 (可正可负)对应是随机变量是 那么这样就存在逆映射,随机变量-1对应赔了⼀块钱。
Definition Mean of Bounded Discrete Random Variable. Let be a bounded discrete random variable who p.f. is .the expectation of denoted by ,is a number define as follow:
The expectation of is also referred to as the mean of or the expected value of 上⾯定义了⼀个有限的离散分布的期望,每个分布对应唯⼀的期望,有限的离散分布都有期望,但是后⾯要说的连续的分布可能没有期望。⼀个例⼦,但是很重要,重要到可以当做⼀个定理:
⼀个随机变量X有⼀个参数为p的伯努利分布,那么他的期望是什么?
简单的例⼦,但是是后⾯很多求解的基础组成,这个值得我们关注⼀下。
上⾯我们讲的都是有限个离散分布的情况,当X是⽆限的时候其实也可以求期望,也就是求所有可能的值的加权平均数
Pr (10)=0.9,Pr (−100)=0.1E =10×0.9+(−100)×0.1=−1a X =a X f X E (X )E (X )=xf (x )All x ∑
X X X
E (X )=p ×1+(1−p )×0=p
英语课开场白
Definition Mean of General Discrete Random Variable. Let X be a discrete random variable who p.f. is f.Suppo that at least one of the following sums is finite:
Then the mean,expectation,or expected value of is said to exist and is defined to be
这个定义跟我在其他书上看到的还是有点区别,⾸先是分了两类,正的随机变量求了⼀个加权和,负的随机变量也求了⼀个加权和,判断了⼀下这两个和是不是有限的,如果其中⾄少⼀个是有限的的,那么就能得出其期望是 为啥两个都是⽆限的不⾏,因为没办法确定符号,当两个和有⼀个是⽆限的,我们可以认定其符号是正还是负,其值肯定是⽆穷,所以我们能得到⼀个明确的结论,是正⽆穷还是负⽆穷。
如果两个和都是⽆穷,⼀个正⽆穷,⼀个负⽆穷,那么他们的和将会没有意义,所以,我们的期望定义就变成了上⾯这个样⼦。
那我们就来举⼀个例⼦,⽆边界离散随机变量期望不存在的例⼦:离散随机变量X有分布如下
那么他的期望是:
所以期望不存在。
期望可以是任意⼀个实数,当然也包括 前提是必须明确知道这个实数是什么。
注意:期望之和分布唯⼀相关,和其他任何东西都⽆关,如果两个随机变量有同样的分布,那么他俩就有⼀样的期望,即使他俩是风马⽜不相及的事物。
所以我们常说⼀个分布的期望是多少,甚⾄不知道这个分布的随机变量是啥都⽆所谓。
期望只和分布有关系!
连续分布的期望 Expectation for a Continuous Distribution
到了连续情况下,我们就要⽤积分取代上⾯的所有求和,还有⼀个问题就是 p.f. 过度到p.d.f 的过程,p.f. 每个点对应的值就是其概率,但是p.d.f.对应的点并不是概率,那么这个区别我们要怎么处理呢?
我妈嫌我⾸先我们应该不考虑p.f.对应的值是概率这个想法,⽽是把它仅仅当做⼀个权值,每个随机变量对应不同的权值,这些权值的特点是相加的和是1,同样,对于连续随机变量,有⽆数个随机变量,也有⽆数个权值,虽然这些权值不是其对应的概率,但是这些权值的和也就是积分结果也是1,满⾜加权平均的要求,期望的公式中, 只是⼀个权重,虽然他有时可以是随机变量对应的概率,有时也可以不是。
xf (x ),xf (x )Positive x ∑Nega tive x ∑
X E (x )=xf (x )All x ∑
E (x )=xf (x )∑All x f (x )={2∣x ∣(∣x ∣+1)10
if x =±1,±2,±3,…
otherwi x =x =−1∑−∞
2∣x ∣(∣x ∣+1)1
−∞
x =x =1∑∞2∣x ∣(∣x ∣+1)1悭吝
∞±∞f (x )
Definition Mean of Bounded Continuous Random Variable. Let X be a bounded continuous random variable who p.d.f. is f.The expectation of X ,denote E(X),is defined as follows:
从求和变成了积分,求得的结果也叫做均值或者期望值。
这是有限情况下的结果,有限的随机变量必然有期望。⽽⼀般情况下的定义如下:哥伦布新大陆
Definition Mean of General Continuous Random Variable.Let X be a continuous random variable who p.d.f. is
f.Suppo that at least one of the following integrals is finite:
Then the mean,expectation,or expected value of X is said to exist and is defined to be
和离散情况套路⼀致,如果两个积分结果都是⽆限的,那么这个分布期望不存在,如果其中⼀个有限,那么期望结果就是确定的,原因也⼀致。
下⾯这个例⼦必须给出,⼀个伟⼤的⼈给出的特例,柯西分布:
计算以下分布函数的期望:
求积分可以知道其结果是1,因为
具体求积分这段就不写了,容易证明,柯西分布是⼀个合法的分布,但是其期望:
同理
所以其期望不存在,那么是什么原因导致本来收敛的积分变得不确定了呢?原因是乘以了x,使得p.d.f.
的收敛性发⽣了极⼤的变化。
E (X )=xf (x )dx
accompany过去式∫−∞∞
xf (x )dx ,xf (x )dx
∫0∞∫−∞0
E (X )=xf (x )dx
∫−∞∞
f (x )= for −π(1+x )21
业绩英文∞<x <∞
tan (x )=dx d
fringe−11+x 2
全日制mba1dx =∫0∞
π(1+x )2x ∞osp
dx =∫−∞0
π(1+x )2x
−∞
期望的表达 Interpretation of the Expectation
其中有些关于期望的性质要说⼀下:
均值和重⼼的关系,⼀个分布的均值⼀般来说是在整个分布的重⼼。
对称分布的期望⼀般在对称轴所在的随机变量处。
当我们计算⼀个分布的期望之前要确定期望是否存在。
gloomy什么意思分布的变化对期望影响很⼤,期望⼩⼩的变化都会引起期望的剧烈变化。所以期望可以作为分布的⼀个重要特征。
总结
本⽂介绍了期望的定义和确定期望的⽅法,包含有限离散,有界连续,⽆限⽆界离散连续分布的期望求法,下⽂我们将介绍期望的性质。