【联系】—— Beta 分布与二项分布、共轭分布

时间:2021-12-11 10:54:24

1. 伯努利分布与二项分布

  • 伯努利分布:Bern(x|μ)=μx(1−μ)1−x,随机变量 x 取值为 0,1,μ 表示取值为 1 的概率;
  • 二项分布:Bin(m|N,μ)=(Nm)μm(1−μ)N−m

2. Beta 分布

Beta(μ|a,b) 是对 μ 进行建模;

Beta(μ|a,b)=Γ(a+b)Γ(a)Γ(b)μa−1(1−μ)b−1

3. 共轭分布

以 Beta(μ|a,b) 分布为参数 μ 的先验,二项分布为似然函数,则后验概率(poster):

p(μ|m,ℓ,a,b)∝μm+a−1(1−μ)ℓ+b−1

进一步,根据 Beta 分布的形式,我们可定义出符合 Beta 分布形式的后验概率形式:

p(μ|m,ℓ,a,b)=Γ(m+a+ℓ+b)Γ(m+a)Γ(ℓ+b)μm+a−1(1−μ)ℓ+b−1