【机器学习中的数学】多项式分布及其共轭分布

【机器学习中的数学】多项式分布及其共轭分布多项变量(MultinomialVariables)二元变量是用来描述只有两种可能值的量,而当我们遇到一种离散变量,其可以有K种可能的状态。我们可以使用一个K维的向量x表示,其中只有一维xk为1,其余为0。对应于xk=1的参数为μk,表示xk发生时的概率。其分布可以看做是伯努利分布的一般化。现在我们考虑N个独立的观测D={x1,…,xN},得到其似然函数。如图:

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全系列IDE稳定放心使用

多项变量(Multinomial Variables)

二元变量是用来描述只有两种可能值的量,而当我们遇到一种离散变量,其可以有K种可能的状态。我们可以使用一个K维的向量x表示,其中只有一维xk为1,其余为0。对应于xk=1的参数为μk,表示xk发生时的概率。其分布可以看做是伯努利分布的一般化。
现在我们考虑N个独立的观测D={x1,…,xN},得到其似然函数。如图:

【机器学习中的数学】多项式分布及其共轭分布

多项式分布(The Multinomial distribution)

现在我们考虑k个变量的联合分布,依赖于参数μ和N次观测,这就构成了多项式分布。

【机器学习中的数学】多项式分布及其共轭分布

狄利克雷分布(The DIrichlet distribution)

为了方便起见,如果先验分布和似然函数有类似的结构,这样得到的后验分布就只是指数幂的参数的相加,但形式没有太大变化,这样就使得先验和后验分布有相同的形式,简化了计算。

【机器学习中的数学】多项式分布及其共轭分布

下面是三个变量的狄利克雷分布的图形,其中左图{αk}=0.1,中图{αk}=1,右图{αk}=10:

【机器学习中的数学】多项式分布及其共轭分布

最大后验估计

【机器学习中的数学】多项式分布及其共轭分布

转载请注明作者Jason Ding及其出处
Github主页(http://jasonding1354.github.io/)
CSDN博客(http://blog.csdn.net/jasonding1354)
简书主页(http://www.jianshu.com/users/2bd9b48f6ea8/latest_articles)

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/182974.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • springboot框架的理解_谈谈你对springmvc的理解

    springboot框架的理解_谈谈你对springmvc的理解1.起源SpringBoot是由Pivotal团队提供的全新框架,其设计目的是用来简化新Spring应用的初始搭建以及开发过程。该框架使用了特定的方式来进行配置,从而使开发人员不再需要定义样板化的配置。用我的话来理解,就是SpringBoot其实不是什么新的框架,它默认配置了很多框架的使用方式,就像Maven整合了所有的Jar包,SpringBoot整合了所有的框…

    2022年8月20日
    5
  • 关于转置卷积(反卷积)的理解[通俗易懂]

    关于转置卷积(反卷积)的理解[通俗易懂]本文地址:https://blog.csdn.net/isMarvellous/article/details/80087705,转载请注明出处。什么是转置卷积(反卷积)?转置卷积(TransposedConvolution)又称为反卷积(Deconvolution)。在PyTorch中可以使用torch.nn.ConvTranspose2d()来调用,在Caffe中也有对应的层deco…

    2022年6月21日
    28
  • hashmap or array

    hashmap or array

    2021年8月28日
    50
  • c语言中char转换成string_字符数字转为int型

    c语言中char转换成string_字符数字转为int型1,char型数字转换为int型chara[]=”32″;printf(“%d\n”,a[0]-‘0’);//输出结果为32,int转化为char***********************************linuxc*********************************** (1)字符串转换成数字,用atoi,atol,

    2022年9月28日
    2
  • linux下进程的管理_LINUX教程

    linux下进程的管理_LINUX教程作者:RodmaChen关注我的csdn博客,更多Linux笔记知识还在更新本人只在csdn写博客Linux进程管理一.什么是进程和程序二.查看进程——ps,top,pstree三.进程的启动方式四.进程的控制五.实训任务一.什么是进程和程序进程:开始执行但是还没有结束的程序的实例程序:包含可执行代码的文件进程与程序的关系进程由程序产生,是一个运行着的、要占系统资源的程序进程不等于程序进程与程序是多对一进程是占用(消耗)系统资源的二.查看进程—.

    2025年10月18日
    4
  • 苹果跳过id教程_苹果手机怎么绕过ID

    苹果跳过id教程_苹果手机怎么绕过ID如果您是非法渠道获得的手机请关闭本网页。常见问题汇总:iPhone5s,iPhone6、6plus,iPhoneSE,6S,iPhone6SPiPhoneSE,iPhone7,iPhone7P,iPhone8/iPhone8P,iPhoneX。iPadMini2,iPadMini3,iPadMini4,iPadAir,iPadPro(12.9…

    2022年9月22日
    1

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号