1.Basic concept

随机变量的定义：随机变量是指针对实验结果的函数。

随机变量的函数可以生成另外一个随机变量

离散型随机变量的定义：

离散型随机变量是指有有限个取值的实验结果的实值函数。每个离散型随机变量有PMF给出每个随机变量取值的概率。

2.PMF（probability mass function）

如何获得PMF？

将随机变量X取值x的所有概率相加，得到Px（x）。

伯努利分布：对于一件事情发生与否的概率分布，发生的概率为P，例如掷一枚硬币，head的概率为P，那么PMF为：

二项分布：（binomial）二项分布是指一连串n次独立的事件中，发生k次的概率。

下面是示例：

几何分布：几何分布表示的是连续做一件事情，直到成功为止，每次成功的概率是P。那么其概率分布为：

泊松分布：

3.随机变量的函数

如果我们要求随机变量Y的分布，那么就是要找出使Y=y的所有的随机变量x的概率，所以有：

4.期望，方差

期望的定义：

方差定义：

标准差定义：

对于随机变量函数的期望：

随机变量函数的期望和方差：

最后是方差的另一种表示：

5.多随机变量的联合分布

联合分布的概率表示为：

边际概率是值单独计算随机变量X,Y的概率，即X=x，Y=all的概率或者X=all，Y=y的概率：

多随机变量的期望：

通过这个公式可以方便的计算二项式的期望。

6.条件概率

随机变量的条件概率和普通的条件概率类似，每次的计算都关乎新的宇集的产生。

条件概率的定义：

它有以下性质：

根据全概率公式：

条件期望：条件期望与普通期望的区别仅在于概率变了，变成了新的条件概率：

7.Independence

独立的定义：事件X独立于事件A表示：A的发生并没有传递任何关于X发生与否的信息：

即X对于A的条件概率等于X发生的概率。

推广至随机变量X,Y：

如果X,Y相互独立,那么：

推导原理主要应用了独立事件的概率相乘原则。

如果X,Y独立，那么他们的方差满足：