MathLabs
定理已证明

Beta-二项共轭性

命题陈述

若 θ∼Beta(α,β)\theta\sim\mathrm{Beta}(\alpha,\beta) 为先验,且在给定 θ\theta 时,nn 次独立试验中观测到 kk 次成功(即 k∣θ∼Binomial(n,θ)k\mid\theta\sim\mathrm{Binomial}(n,\theta)),则后验为 θ∣k∼Beta(α+k, β+n−k)\theta\mid k\sim\mathrm{Beta}(\alpha+k,\ \beta+n-k)。

为什么成立?

二项似然贡献因子 θk(1−θ)n−k\theta^k(1-\theta)^{n-k},而 Beta 先验贡献 θα−1(1−θ)β−1\theta^{\alpha-1}(1-\theta)^{\beta-1};把它们相乘只是把指数相加,恰好落在另一个 Beta 密度的形状上。

证明思路

在给定 θ\theta 时,nn 次试验中观测到 kk 次成功的似然为 L(k∣θ)=(nk)θk(1−θ)n−kL(k\mid\theta)=\binom{n}{k}\theta^k(1-\theta)^{n-k}。由上面的后验比例定理,π(θ∣k)∝L(k∣θ)π(θ)=(nk)θk(1−θ)n−k⋅θα−1(1−θ)β−1B(α,β)\pi(\theta\mid k)\propto L(k\mid\theta)\pi(\theta)=\binom{n}{k}\theta^k(1-\theta)^{n-k}\cdot\dfrac{\theta^{\alpha-1}(1-\theta)^{\beta-1}}{B(\alpha,\beta)}。

因子 (nk)\binom{n}{k} 与 B(α,β)B(\alpha,\beta) 不依赖于 θ\theta,故可并入比例常数:π(θ∣k)∝θk(1−θ)n−k⋅θα−1(1−θ)β−1=θ(α+k)−1(1−θ)(β+n−k)−1\pi(\theta\mid k)\propto\theta^{k}(1-\theta)^{n-k}\cdot\theta^{\alpha-1}(1-\theta)^{\beta-1}=\theta^{(\alpha+k)-1}(1-\theta)^{(\beta+n-k)-1}。

这最后一个表达式恰好就是 Beta(α+k,β+n−k)\mathrm{Beta}(\alpha+k,\beta+n-k) 密度的核(θ\theta 相关的部分)。由于在 (0,1)(0,1) 上具有该核的概率密度只有唯一的归一化常数(根据 Beta 函数的定义,即 1/B(α+k,β+n−k)1/B(\alpha+k,\beta+n-k)),后验必然恰好是 π(θ∣k)=θ(α+k)−1(1−θ)(β+n−k)−1B(α+k,β+n−k)\pi(\theta\mid k)=\dfrac{\theta^{(\alpha+k)-1}(1-\theta)^{(\beta+n-k)-1}}{B(\alpha+k,\beta+n-k)},即 θ∣k∼Beta(α+k,β+n−k)\theta\mid k\sim\mathrm{Beta}(\alpha+k,\beta+n-k)。

用到此定理的主题

分步证明

该定理暂无分步证明。

参考文献

  1. Andrew Gelman, John B. Carlin, Hal S. Stern, David B. Dunson, Aki Vehtari, Donald B. Rubin (2013). Bayesian Data Analysis (3rd ed.)
  2. Matthew D. Hoffman, Andrew Gelman (2014). The No-U-Turn Sampler: Adaptively Setting Path Lengths in Hamiltonian Monte Carlo · arXiv:1111.4246