首页 > 代码库 > 贝叶斯公式杂记

贝叶斯公式杂记

前几天在动车上闲着无事看刘未鹏的《暗时间》,翻到了一篇经典文章《数学之美番外篇:平凡而又神奇的贝叶斯方法》(web链接),饶有兴趣地又看了一遍几乎是又复习了一遍贝叶斯公式。这个公式以前学过,在数学上还是挺有用的,不过学过之后就忘了,要是不看的话就基本都还给概率论老师了。

这个公式理解起来不是多大的问题,把上面的文章看一遍之后自然就理解得差不多了。最大的问题是如何把它记住,虽然我已经离开学校很多年,工作中也用不到它,但我还是很有兴趣研究一下如何最大可能性地记住它。就如同这篇文章,最简单最便捷的方法是我所期望的。

先看一下公式:

P(B|A) = P(AB) / P(A)

这个公式之所以很难记住,我觉得很大一部分原因是它看上去比较别扭,不够直观。其实概率论的很多东西都是这样的,毕竟是理论嘛。在这里我就不谈理解了,只谈助记。

P(B|A)是A事件的前提下发生B事件的概率,其中的|符号在学概述论之前我们几乎没有用过。但它很像另一个符号,就是除号/,而公式的右边刚好有一个除法运算。我们就把它当成除法如何?

如果我们把B|A变成B/A,而公式右边有一个AB,可以把它视为A*B的简化形式,就纯粹的四则运算而言,B/A和AB怎么关联呢?我想答案应该不是很难,B/A=AB/AA。有没有发现这个式子与上面的贝叶斯公式很像?

(1)P(B|A) = P(AB) / P(A)

 (2)  B/A  =    AB  /  AA

把B/A这个式子的分母和分子各自左结合一个A,就变成(2)式了。

有人可能想P(AA)会不会等于P(A)呢?从理论上来说答案是否,但是我们可以假装P(AA)等于P(A),或者用P‘(AA)代替P(A),这样贝叶斯公式就很像一个正常的除法式子了,加了这一层关系,你觉得这个贝叶斯公式还很别扭吗?是不是更容易记了一些?

把P(A)处理成P‘(AA),那么贝叶斯公式就变成了P(B|A) = P(AB) / P‘(AA),可以看出,每个运算对象都变成了二元了,这是一个必要条件。

变形一下,我们可以信手写出AB = B/A * AA,AA = AB / B/A ,分别对应P(AB) = P(B/A) * P(A)和P(A) = P(AB) / B/A。

但是切不可以变形出B/A = BB / AB。

视P(B|A)为内除式,P(AB) / P‘(AA)为外除式,内除式的分母和分子各自左结合一个分母,就可以分离变成外除式,这就作为第二个条件吧。


每次遇到P(B|A),在心中可以先进行左结合运算变成AB/AA,再变成AB/A,然后就可以写出P(B|A)=P(AB)/P(A)。

贝叶斯公式杂记