定理証明済み
ベータ・二項共役性
内容
θ∼Beta(α,β) を事前分布とし、θ を与えたとき n 回の独立試行で k 回の成功が観測される場合(すなわち k∣θ∼Binomial(n,θ))、事後分布は θ∣k∼Beta(α+k, β+n−k) である。
なぜ正しいのか?
二項尤度は因子 θk(1−θ)n−k を与え、ベータ事前分布は θα−1(1−θ)β−1 を与える。これらを掛け合わせると指数が単に足し合わされ、ちょうど別のベータ密度の形になる。
証明の概略
θ を与えたとき n 回中 k 回の成功を観測する尤度は L(k∣θ)=(kn)θk(1−θ)n−k である。上の事後分布比例定理により、π(θ∣k)∝L(k∣θ)π(θ)=(kn)θk(1−θ)n−k⋅B(α,β)θα−1(1−θ)β−1。
因子 (kn) と B(α,β) は θ に依存しないので、比例定数に吸収できる:π(θ∣k)∝θk(1−θ)n−k⋅θα−1(1−θ)β−1=θ(α+k)−1(1−θ)(β+n−k)−1。
この最後の式は、まさに Beta(α+k,β+n−k) 密度のカーネル(θ に依存する部分)である。このカーネルを持つ (0,1) 上の確率密度は一意の正規化定数(すなわちベータ関数の定義による 1/B(α+k,β+n−k))を持つので、事後分布は必ず π(θ∣k)=B(α+k,β+n−k)θ(α+k)−1(1−θ)(β+n−k)−1、すなわち θ∣k∼Beta(α+k,β+n−k) となる。
ステップごとの証明
この定理のステップごとの証明はまだありません。