数学之美——全概率公式 贝叶斯公式

luyuanhong

数学之美——全概率公式 贝叶斯公式

作者：湘潭大学研究生 好玩的数学 2023-12-26 08:13 发表于江西

全概率公式和贝叶斯公式是概率论中的两个重要公式，它们可以帮助我们在不完全信息的情况下，推断出一些事件发生的概率。这些事件可能与生活、学习、工作等方面有关，因此，了解这两个公式的含义和应用场景，对我们有很大的帮助。

01  全概率公式

概念：

全概率公式是用来求一个事件发生的总概率的，它的基本思想是：将一个复杂的事件分解为若干个互不相容且完备的子事件，然后分别求出每个子事件发生的概率，再乘以该子事件下复杂事件发生的条件概率，最后将所有结果相加，就得到了复杂事件发生的总概率。全概率公式的一般形式如下：



其中，A 是要求的复杂事件，Bi 是互不相容且完备的子事件，也就是说，Bi 中任意两个不会同时发生，而且它们中至少有一个一定会发生。P(Bi) 是子事件发生的概率，P(A|Bi) 是在子事件发生的条件下，复杂事件发生的条件概率。



举个例子：

假设你要去参加一场考试，你想知道你能否及格。这就是一个复杂事件，因为你能否及格可能取决于很多因素，比如你平时学习的情况、考试难度、考试时间等等。为了简化问题，假设只有两个因素影响你能否及格：你平时学习的情况和考试难度。

把你平时学习的情况分为三种：好、中、差；把考试难度分为两种：高、低。

那么，可以把你能否及格这个复杂事件分解为六个互不相容且完备的子事件：你平时学习好且考试难度高、你平时学习好且考试难度低、你平时学习中等且考试难度高、你平时学习中等且考试难度低、你平时学习差且考试难度高、你平时学习差且考试难度低。

我们用 A 表示你能够及格这个复杂事件，用 Bi 表示第 i 个子事件（i=1,2,…,6），那么根据全概率公式，我们可以得到：



如果知道了每个子事件发生的概率和每个条件概率（比如通过调查或者统计），那么就可以计算出你能够及格这个复杂事件发生的总概率了。

综上所述，全概率公式为我们提供了一个有效的工具，用于处理复杂事件的概率计算问题。这个公式在实际问题中具有广泛的应用，可以帮助我们计算复杂事件的概率，从而做出合理的决策。它与贝叶斯公式之间又有什么样的关联与区别呢？接下来，让我们一起了解贝叶斯公式吧。

02 贝叶斯公式

概念：

贝叶斯公式是用来求一个事件的条件概率的，它的基本思想是：利用已知的结果，反推出原因的可能性。贝叶斯公式可以看作是全概率公式的逆向应用，它的一般形式如下：



其中，A 是已知的结果，Bi 是可能的原因，P(Bi) 是原因发生的概率，也叫做先验概率，P(A|Bi) 是在原因发生的条件下，结果发生的条件概率，P(A) 是结果发生的总概率，也可以用全概率公式求出，P(B|Ai) 是在结果已知的条件下，原因发生的条件概率，也叫做后验概率。



举个例子：

假设你有一个朋友小明，他有时候会迟到。你想知道他迟到的原因。你知道他迟到可能有三种原因：睡过头、堵车、赖床。

你还知道他睡过头、堵车、赖床的概率分别是 0.2、0.3、0.5（这些就是先验概率）。

你还知道他在睡过头、堵车、赖床的情况下，迟到的概率分别是 0.8、0.6、0.4（这些就是条件概率）。

那么，如果你知道他今天迟到了（这就是已知的结果），你可以用贝叶斯公式来求出他迟到的原因是睡过头、堵车、赖床的概率分别是多少（这些就是后验概率）。

我们用 A 表示他迟到这个结果，用 Bi 表示第 i 个原因（i=1,2,3），那么根据贝叶斯公式，我们可以得到：



这样，我们就可以根据后验概率来判断他迟到的最可能的原因了。从上面的计算结果可以看出，他迟到的最可能的原因是堵车（后验概率最大），其次是赖床，最后是睡过头。

通过这个例子，可以看出贝叶斯公式的作用和意义：它可以帮助我们在在不完全信息的情况下，利用已有的数据或者经验，更新对某些事件发生的概率的估计。这种方法在很多领域都有广泛的应用，比如医学诊断、机器学习、自然语言处理等等。

最后，我们来看看全概率公式和贝叶斯公式的区别。

从形式上看，全概率公式是求一个事件发生的总概率，而贝叶斯公式是求一个事件的条件概率。

从思想上看，全概率公式是将一个复杂的事件分解为若干个简单的子事件，然后利用子事件发生的概率和条件概率来求出复杂事件发生的概率。贝叶斯公式是利用已知的结果，反推出原因的可能性，然后利用原因发生的概率和条件概率来更新对原因发生的概率的估计。

从应用上看，全概率公式和贝叶斯公式可以相互配合，一般来说，全概率公式可以用来求出贝叶斯公式中的分母（结果发生的总概率），而贝叶斯公式可以用来求出全概率公式中的分子（子事件发生的条件概率）。