定理已证明

贝叶斯定理

命题陈述

设 $B_1, B_2, \ldots, B_n$ 是 $\Omega$ 的一个划分,对每个 $i$ 都有 $P(B_i) > 0$ ,又设 $A$ 是满足 $P(A) > 0$ 的事件。那么对每个 $i$ ,都有 $P(B_i \mid A) = \frac{P(B_i) \cdot P(A \mid B_i)}{\sum_{j=1}^{n} P(B_j) \cdot P(A \mid B_j)}$ 。

为什么成立?

贝叶斯定理把条件化的方向反过来:它从每个假设 $B_i$ 之下证据 $A$ 出现的可能性出发(这通常容易知道或测量),再反推出在证据 $A$ 已经被观测到之后每个假设成立的可能性(这通常才是我们真正想知道的),做法是根据每个假设对 $A$ 的解释程度,对先验概率 $P(B_i)$ 重新加权。

证明思路

第一步(用两种方式写出 $P(B_i \cap A)$ ):双向应用乘法法则,得 $P(B_i \cap A) = P(B_i) \cdot P(A \mid B_i)$ ,又因为 $P(A) > 0$ ,也有 $P(B_i \cap A) = P(A) \cdot P(B_i \mid A)$ 。

第二步(令两个表达式相等并求解):令 $P(B_i \cap A)$ 的两个表达式相等,得 $P(A) \cdot P(B_i \mid A) = P(B_i) \cdot P(A \mid B_i)$ ,两边同除以 $P(A)$ ,得 $P(B_i \mid A) = \frac{P(B_i) \cdot P(A \mid B_i)}{P(A)}$ 。

第三步(用全概率公式展开分母):由于 $B_1, \ldots, B_n$ 划分了 $\Omega$ ,由全概率公式得 $P(A) = \sum_{j=1}^{n} P(B_j) \cdot P(A \mid B_j)$ 。

第四步(代入完成证明):把第二步中的 $P(A)$ 替换为这个和式,恰好得到 $P(B_i \mid A) = \frac{P(B_i) \cdot P(A \mid B_i)}{\sum_{j=1}^{n} P(B_j) \cdot P(A \mid B_j)}$ ,这正是贝叶斯定理。

用到此定理的主题

条件概率与贝叶斯定理

分步证明

该定理暂无分步证明。