机器学习中的数学——常用概率分布(十一):狄利克雷分布(Dirichlet分布)[通俗易懂]

机器学习中的数学——常用概率分布(十一):狄利克雷分布(Dirichlet分布)[通俗易懂]狄利克雷分布是关于一组ddd个连续变量xi∈[0,1]x_i\in[0,1]xi​∈[0,1]的概率分布,∑ixi=1\sum_ix_i=1∑i​xi​=1。令μ=(μ1,μ2,⋯ ,μd)\mu=(\mu_1,\mu_2,\cdots,\mu_d)μ=(μ1​,μ2​,⋯,μd​),参数α=(α1,α2,⋯ ,αd)\alpha=(\alpha_1,\alpha_2,\cdots,\alpha_d)α=(α1​,α2​,⋯,αd​),其中αi>0\alpha_i>0αi​>

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全系列IDE使用 1年只要46元 售后保障 童叟无欺

分类目录:《机器学习中的数学》总目录
相关文章:
· 常用概率分布(一):伯努利分布(Bernoulli分布)
· 常用概率分布(二):范畴分布(Multinoulli分布)
· 常用概率分布(三):二项分布(Binomial分布)
· 常用概率分布(四):均匀分布(Uniform分布)
· 常用概率分布(五):高斯分布(Gaussian分布)/正态分布(Normal分布)
· 常用概率分布(六):指数分布(Exponential分布)
· 常用概率分布(七): 拉普拉斯分布(Laplace分布)
· 常用概率分布(八):狄拉克分布(Dirac分布)
· 常用概率分布(九):经验分布(Empirical分布)
· 常用概率分布(十):贝塔分布(Beta分布)
· 常用概率分布(十一):狄利克雷分布(Dirichlet分布)
· 常用概率分布(十二):逻辑斯谛分布(Logistic 分布)


狄利克雷分布是关于一组 d d d个连续变量 x i ∈ [ 0 , 1 ] x_i\in[0, 1] xi[0,1]的概率分布, ∑ i x i = 1 \sum_ix_i=1 ixi=1。令 μ = ( μ 1 , μ 2 , ⋯   , μ d ) \mu=(\mu_1, \mu_2, \cdots, \mu_d) μ=(μ1,μ2,,μd),参数 α = ( α 1 , α 2 , ⋯   , α d ) \alpha=(\alpha_1, \alpha_2, \cdots, \alpha_d) α=(α1,α2,,αd),其中 α i > 0 \alpha_i>0 αi>0 α ^ = ∑ i α i \hat{\alpha}=\sum_i\alpha_i α^=iαi

D i r ( x ∣ α ) = Γ ( α ^ ) Γ ( α 1 ) Γ ( α 2 ) ⋯ Γ ( α i ) ∏ i = 1 d x i α i − 1 Dir(x|\alpha)=\frac{\Gamma(\hat{\alpha})}{\Gamma(\alpha_1)\Gamma(\alpha_2)\cdots\Gamma(\alpha_i)}\prod_{i=1}^dx_i^{\alpha_i-1} Dir(xα)=Γ(α1)Γ(α2)Γ(αi)Γ(α^)i=1dxiαi1

狄利克雷分布有如下性质:

  • E [ x i ] = α i α ^ E[x_i]=\frac{\alpha_i}{\hat{\alpha}} E[xi]=α^αi
  • V a r ( x i ) = α i ( α ^ − α i ) α ^ 2 ( α ^ + 1 ) Var(x_i)=\frac{\alpha_i(\hat{\alpha}-\alpha_i)}{\hat{\alpha}^2(\hat{\alpha}+1)} Var(xi)=α^2(α^+1)αi(α^αi)
  • C o v ( x i , x j ) = α i α j α ^ 2 ( α ^ + 1 ) Cov(x_i, x_j)=\frac{\alpha_i\alpha_j}{\hat{\alpha}^2(\hat{\alpha}+1)} Cov(xi,xj)=α^2(α^+1)αiαj

d = 2 d=2 d=2时,狄利克雷分布退化为贝塔分布。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/194503.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号