机器学习中的数学——常用概率分布(十一):狄利克雷分布(Dirichlet分布)[通俗易懂]

机器学习中的数学——常用概率分布(十一):狄利克雷分布(Dirichlet分布)[通俗易懂]狄利克雷分布是关于一组ddd个连续变量xi∈[0,1]x_i\in[0,1]xi​∈[0,1]的概率分布,∑ixi=1\sum_ix_i=1∑i​xi​=1。令μ=(μ1,μ2,⋯ ,μd)\mu=(\mu_1,\mu_2,\cdots,\mu_d)μ=(μ1​,μ2​,⋯,μd​),参数α=(α1,α2,⋯ ,αd)\alpha=(\alpha_1,\alpha_2,\cdots,\alpha_d)α=(α1​,α2​,⋯,αd​),其中αi>0\alpha_i>0αi​>

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全系列IDE使用 1年只要46元 售后保障 童叟无欺

分类目录:《机器学习中的数学》总目录
相关文章:
· 常用概率分布(一):伯努利分布(Bernoulli分布)
· 常用概率分布(二):范畴分布(Multinoulli分布)
· 常用概率分布(三):二项分布(Binomial分布)
· 常用概率分布(四):均匀分布(Uniform分布)
· 常用概率分布(五):高斯分布(Gaussian分布)/正态分布(Normal分布)
· 常用概率分布(六):指数分布(Exponential分布)
· 常用概率分布(七): 拉普拉斯分布(Laplace分布)
· 常用概率分布(八):狄拉克分布(Dirac分布)
· 常用概率分布(九):经验分布(Empirical分布)
· 常用概率分布(十):贝塔分布(Beta分布)
· 常用概率分布(十一):狄利克雷分布(Dirichlet分布)
· 常用概率分布(十二):逻辑斯谛分布(Logistic 分布)


狄利克雷分布是关于一组 d d d个连续变量 x i ∈ [ 0 , 1 ] x_i\in[0, 1] xi[0,1]的概率分布, ∑ i x i = 1 \sum_ix_i=1 ixi=1。令 μ = ( μ 1 , μ 2 , ⋯   , μ d ) \mu=(\mu_1, \mu_2, \cdots, \mu_d) μ=(μ1,μ2,,μd),参数 α = ( α 1 , α 2 , ⋯   , α d ) \alpha=(\alpha_1, \alpha_2, \cdots, \alpha_d) α=(α1,α2,,αd),其中 α i > 0 \alpha_i>0 αi>0 α ^ = ∑ i α i \hat{\alpha}=\sum_i\alpha_i α^=iαi

D i r ( x ∣ α ) = Γ ( α ^ ) Γ ( α 1 ) Γ ( α 2 ) ⋯ Γ ( α i ) ∏ i = 1 d x i α i − 1 Dir(x|\alpha)=\frac{\Gamma(\hat{\alpha})}{\Gamma(\alpha_1)\Gamma(\alpha_2)\cdots\Gamma(\alpha_i)}\prod_{i=1}^dx_i^{\alpha_i-1} Dir(xα)=Γ(α1)Γ(α2)Γ(αi)Γ(α^)i=1dxiαi1

狄利克雷分布有如下性质:

  • E [ x i ] = α i α ^ E[x_i]=\frac{\alpha_i}{\hat{\alpha}} E[xi]=α^αi
  • V a r ( x i ) = α i ( α ^ − α i ) α ^ 2 ( α ^ + 1 ) Var(x_i)=\frac{\alpha_i(\hat{\alpha}-\alpha_i)}{\hat{\alpha}^2(\hat{\alpha}+1)} Var(xi)=α^2(α^+1)αi(α^αi)
  • C o v ( x i , x j ) = α i α j α ^ 2 ( α ^ + 1 ) Cov(x_i, x_j)=\frac{\alpha_i\alpha_j}{\hat{\alpha}^2(\hat{\alpha}+1)} Cov(xi,xj)=α^2(α^+1)αiαj

d = 2 d=2 d=2时,狄利克雷分布退化为贝塔分布。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/194503.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • java voliate_voliate关键字及其示例

    java voliate_voliate关键字及其示例voliate关键字1使变量在线程间可见对于避免不可见性问题,Java还提供了一种弱形式的同步,即使用了volatile关键字。该关键字确保了对一个变量的更新对其他线程可见。当一个变量被声明为volatile时候,线程写入时候不会把值缓存在寄存器或者或者在其他地方,当线程读取的时候会从主内存重新获取最新值,而不是使用当前线程的拷贝内存变量值。volatile虽然提供了可见性保证,但是不能使用他来…

    2022年4月29日
    84
  • (实用篇)使用PHP生成PDF文档

    (实用篇)使用PHP生成PDF文档

    2021年10月8日
    40
  • Extjs grid设置单元格字体颜色,及单元格背景色「建议收藏」

    Extjs grid设置单元格字体颜色,及单元格背景色「建议收藏」转自:http://blog.csdn.net/suixufeng/article/details/7480170上面这种是最简单的,设定固定的某单元格中字体颜色。[javascript]viewplaincopy//————————————————–列头    var cm = new

    2022年7月11日
    21
  • jQuery.extend 函数详解

    jQuery.extend 函数详解

    2021年8月27日
    41
  • Hadoop生态圈各种组件介绍

    Hadoop生态圈各种组件介绍好多初入学习大数据的人不是很清楚,今天分享一个图,并介绍一下大致的组件,其他还有一些组件是没有包含在其中的,但是大部分这个图片是有了的。一、简介Hadoop是一个由Apache基金会所开发的分布式系统基础架构。Hadoop的框架最核心的设计就是:HDFS和MapReduce。HDFS为海量的数据提供了存储,则MapReduce为海量的数据提供了计算。二、HDFSHado…

    2022年5月21日
    42
  • 鸢尾花完整的python代码(鸢尾花分类)

    .逻辑回归逻辑回归(LogisticRegression)是用于处理因变量为分类变量的回归问题,常见的是二分类或二项分布问题,也可以处理多分类问题,它实际上是属于一种分类方法。概率p与因变量往往是非线性的,为了解决该类问题,我们引入了logit变换,使得logit(p)与自变量之间存在线性相关的关系,逻辑回归模型定义如下:1#Sigmoid曲线:2importmatplotlib.py…

    2022年4月15日
    333

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号