首页 > 代码库 > 概率与统计 知识回顾(二) 一维随机变量及概率分布

概率与统计 知识回顾(二) 一维随机变量及概率分布

1 随机变量的概念

顾名思义,随机变量就是“其值随机会而定”的变量。随机变量的反面是“确定性变量”,即其值遵循某种严格的规律的变量,比如从北京到上海的距离。但是从绝对意义上讲,许多通常视为确定性变量的量,本质上都有随机性,只是由于随机性干扰不大,以至在所要求的精度之内,不妨把经作为确定性变量来处理。

根据随机变量其可能取的值的全体的性质,可以把随机变量分为2大类,一类是离散型随机变量;一类是连续型随机变量。但是连续型变量这个概念只是数学上的抽象,因为任何量都有单位,都只能在该单位下量到一定的精度,所以也一定是离散的。

2 离散型随机变量的分布

定义1.2.1 设$X$为离散型随机变量,其全部的可能值为$\{a_1,a_2,\dots\}$,则

$$p_i=P(X=a_i), i=1,2,\dots$$

称为$X$的概率函数。且有下面的性质:

$$p_i\geqslant 0,p_1+p_2+\dots=1$$

$X$的概率函数给出了:全部概率1是如何在其可能的值之间分配的,所以也把它称为随机变量$X$的“概率分布”。

定义1.2.2 设$X$为一随机变量,则函数

$$P(X\le x)=F(x),-\infty<x<\infty$$

称为$X$的分布函数。

对离散型随机变量而言,概率函数与分布函数在下述意义下是等价的。

$$F(x)=P(X\le x)=\sum_{\{i:a_i\le x\}}p_i$$

由$p_i$求$F(x)$是显然的,而由$F(x)$求$p_i$,只需注意:

$$F(i)=P(X\le i)=P(X\le i-1)+P(X=i)$$

对于任何随机变量$X$,其分布函数$F(x)$具有下面的一般性质:

1)$F(x)$是单降非降的:当$(x_1<x_2)$时,有$F(x_1)\le F(x_2)$;

2)当$x\to\infty$时,$F(x)\to 1$;当$x\to –\infty$时,$F(x)\to 0$;

3 几个常见的离散型分布

二项分布$X\sim B(n,p)$

$$p_i=b(i;n,p)=\dbinom{n}{i}p^i(1-p)^{n-i},i=0,1,\dots,n$$

泊松分布

$X\sim P(\lambda)$,此处$\lambda>0$是一常数

$$P(X=i)=e^{-\lambda}\lambda^i/i!$$

超几何分布

设有N个产品,其中有M个不合格品,若从中不放回地随机抽取$n$个,则其中含有的不合格品的个数$X$服从超几何分布,记为$X\sim h(n,N,M)$,超几何分布的概率分布列为:

$$P(X=k)=\frac{\dbinom{M}{k}\dbinom{N-M}{n-k}}{\dbinom{N}{n}},k=0,1,\dots,r$$

其中$r=min\{M,n\}$,且$M\le N,n\le N,n,N,M均为正整数$

当$n\gg N$时,即抽取个数$n$远小于产品总数N时,每次抽取后体中的不合格率$p=M/N$改变甚微,所以不放回抽样,可以近似地看成回抽样,这里超几何分布可以用二项分布近似。

$$\frac{\dbinom{M}{k}\dbinom{N-M}{n-k}}{\dbinom{N}{n}}\cong\dbinom{n}{k}p^k(1-p)^{n-k},其中p=\frac{M}{N}$$

几何分布$X\sim Ge(p)$

$$P(X=k)=(1-p)^{k-1}p,k=1,2,\dots$$

几何分布的无记忆性:设$X\sim Ge(p)$,则对任意正整数m与n有

$$P(X>m+n|X>m)=P(X>n)$$

上面这个公式表明在一系列的事件中,若前m次实验中事件A没有出现,则接下来的n次试验中A仍未出现的概率只与n有关,似乎忘记了前m次试验结果。

负二项分布$X\sim Nb(r,p)$,

在伯努利试验序列中,记每次试验中事件A发生的概率为$p$,如果$X$为事件$A$第r次出现时的试验次数,则$X$可能的取值为$r,r+1,\dots,r+m,\dots$

$$P(X=k)=\dbinom{k-1}{r-1}p^r(1-p)^{k-r},k=r,r+1,\dots$$

4 连续型随机变量分布

对于连续型变量的概率分布,不能用像离散型变量那种方法去描述。原因在于,这种变量的取值充满一个区间,无法一一排出。

刻画连续型随机变量的概率分布的一个方法是利用概率分布函数,但是在理论和实用上更方便因则更常用的方法,是使用所谓“概率密度函数”或简称密度函数。

定义1.4.1 设连续性随机变量X有概率分布函数$F(x)$,则$F(x)$的层数$f(x)=F’(x)$,称为X的概率密度函数。

连续型随机变量$X$的密度函数$f(x)$都具有以下三条基本性质:

1)$f(x)\ge0$

2)$\int_{-\infty}^{\infty}f(x)dx=1$

3)对任何常数$a<b$有$P(a\le X\le b)=F(b)-F(a)=\int_{a}^{b}(x)dx$

正态分布

由中心极限定理可知:

一个变量如果是由大量微小的、独立的随机因素的叠加结果,那么这个变量一定是正态变量。因此很多随机变量可以用正态分布描述或近似描述,譬如测量误差、产品重量、人的身高、年降雨量等。

若随机变量$X$的密度函数为

$p(x)=\frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^2}{2\sigma^2}},-\infty<x<+\infty$

称$X$服从正态分布或高斯分布。

均匀分布

若随机变量$X$的密度函数为

$$p(x)=\begin{cases}\frac{1}{b-a},&a<x<b; \\ 0,&其他。\end{cases}$$

则称$X$服从区间$(a,b)$上的均匀分布,记作$X\sim U(a,b)$

指数分布

若随机变量$X$的密度函数为

$$p(x)=\begin{cases}\lambda e^{-\lambda x},&x\ge0; \\ 0 , & x<0。\end{cases}$$

则称$X$服从指数分布,记作$X\sim Exp(\lambda)$

因为指数分布随机变量只可能取非负实数,所以指数分布被用作各种“寿命”分布,譬如电子元件的寿命,动物的寿命等。