MathLabs
定理已证明

贝叶斯定理

命题陈述

对任意事件 AA 与 BB(满足 P(A)>0\mathbb{P}(A) > 0 且 P(B)>0\mathbb{P}(B) > 0),有 P(A∣B)=P(B∣A) P(A)P(B)\mathbb{P}(A \mid B) = \frac{\mathbb{P}(B \mid A)\,\mathbb{P}(A)}{\mathbb{P}(B)}。更一般地,若 A1,…,AkA_1, \dots, A_k 构成样本空间的一个划分,且 P(Ai)>0\mathbb{P}(A_i) > 0 及 P(B)>0\mathbb{P}(B) > 0,则对每个 jj,有 P(Aj∣B)=P(B∣Aj) P(Aj)∑i=1kP(B∣Ai) P(Ai)\mathbb{P}(A_j \mid B) = \frac{\mathbb{P}(B \mid A_j)\,\mathbb{P}(A_j)}{\sum_{i=1}^k \mathbb{P}(B \mid A_i)\,\mathbb{P}(A_i)}。

为什么成立?

贝叶斯定理是反转条件概率的数学法则:它给出了在观测到证据 BB 之后,如何将关于潜在原因 AA 的先验信念 P(A)\mathbb{P}(A) 更新为后验信念 P(A∣B)\mathbb{P}(A \mid B)——只需按原因 AA 产生结果 BB 的可能性大小对先验进行加权。

证明思路

由条件概率的定义,当 P(B)>0\mathbb{P}(B) > 0 时有 P(A∣B)=P(A∩B)P(B)\mathbb{P}(A \mid B) = \frac{\mathbb{P}(A \cap B)}{\mathbb{P}(B)},对称地,当 P(A)>0\mathbb{P}(A) > 0 时有 P(B∣A)=P(A∩B)P(A)\mathbb{P}(B \mid A) = \frac{\mathbb{P}(A \cap B)}{\mathbb{P}(A)}。消去 P(A∩B)\mathbb{P}(A \cap B) 可得 P(A∩B)=P(B∣A) P(A)\mathbb{P}(A \cap B) = \mathbb{P}(B \mid A)\,\mathbb{P}(A),两边同除以 P(B)\mathbb{P}(B) 即得 P(A∣B)=P(B∣A) P(A)P(B)\mathbb{P}(A \mid B) = \frac{\mathbb{P}(B \mid A)\,\mathbb{P}(A)}{\mathbb{P}(B)}。若 A1,…,AkA_1, \dots, A_k 划分样本空间,则由全概率公式可将分母展开为 P(B)=∑i=1kP(B∩Ai)=∑i=1kP(B∣Ai) P(Ai)\mathbb{P}(B) = \sum_{i=1}^k \mathbb{P}(B \cap A_i) = \sum_{i=1}^k \mathbb{P}(B \mid A_i)\,\mathbb{P}(A_i)。

证明者

用到此定理的主题

相关定理

分步证明

该定理暂无分步证明。

参考文献

  1. Thomas Bayes, Richard Price (1763). An Essay towards solving a Problem in the Doctrine of Chances · DOI:10.1098/rstl.1763.0053
  2. Pierre-Simon Laplace (1812). Théorie analytique des probabilités