【机器学习中的数学】多项式分布及其共轭分布

【机器学习中的数学】多项式分布及其共轭分布多项变量(MultinomialVariables)二元变量是用来描述只有两种可能值的量,而当我们遇到一种离散变量,其可以有K种可能的状态。我们可以使用一个K维的向量x表示,其中只有一维xk为1,其余为0。对应于xk=1的参数为μk,表示xk发生时的概率。其分布可以看做是伯努利分布的一般化。现在我们考虑N个独立的观测D={x1,…,xN},得到其似然函数。如图:

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全系列IDE稳定放心使用

多项变量(Multinomial Variables)

二元变量是用来描述只有两种可能值的量,而当我们遇到一种离散变量,其可以有K种可能的状态。我们可以使用一个K维的向量x表示,其中只有一维xk为1,其余为0。对应于xk=1的参数为μk,表示xk发生时的概率。其分布可以看做是伯努利分布的一般化。
现在我们考虑N个独立的观测D={x1,…,xN},得到其似然函数。如图:

【机器学习中的数学】多项式分布及其共轭分布

多项式分布(The Multinomial distribution)

现在我们考虑k个变量的联合分布,依赖于参数μ和N次观测,这就构成了多项式分布。

【机器学习中的数学】多项式分布及其共轭分布

狄利克雷分布(The DIrichlet distribution)

为了方便起见,如果先验分布和似然函数有类似的结构,这样得到的后验分布就只是指数幂的参数的相加,但形式没有太大变化,这样就使得先验和后验分布有相同的形式,简化了计算。

【机器学习中的数学】多项式分布及其共轭分布

下面是三个变量的狄利克雷分布的图形,其中左图{αk}=0.1,中图{αk}=1,右图{αk}=10:

【机器学习中的数学】多项式分布及其共轭分布

最大后验估计

【机器学习中的数学】多项式分布及其共轭分布

转载请注明作者Jason Ding及其出处
Github主页(http://jasonding1354.github.io/)
CSDN博客(http://blog.csdn.net/jasonding1354)
简书主页(http://www.jianshu.com/users/2bd9b48f6ea8/latest_articles)

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/182974.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • VBoxManage 命令详解

    VBoxManage 命令详解查看当前虚拟机VBxoManagelistvms查看当前正在运行的虚拟机VBoxManagelistrunningvms启动虚拟机VBoxManagestartvm虚拟机名无前端图形界面方式启动虚拟机VBoxManagestartvm虚拟机名–typeheadless使用VRDP方式通过命令行启动虚拟机:(3389)VBoxManagestartvm…

    2022年6月11日
    30
  • 传奇私服架设(温故2002,自己制作传奇私服服务器)

    传奇私服架设(温故2002,自己制作传奇私服服务器)在家闲着没事,便想玩点单机游戏,于是想到自己架设个传奇私服,然后自己做GM玩玩,肯定挺爽的。。 准备工作:(网上搜索下载)DBC2000 数据库:http://www.skycn.com/soft/40872.html传奇私服服务端:http://www.rayfile.com/zh-cn/files/bf0e4b00-8550-11e0-bca

    2022年10月6日
    2
  • itouch ios4 部分应用程序 打不开 解决办法

    itouch ios4 部分应用程序 打不开 解决办法

    2021年5月8日
    148
  • vscode 字体太小的问题,安装新字体

    vscode 字体太小的问题,安装新字体vscode 很好用 但是字体太小了 尤其是 linux 版本 字都拥挤在一起 1 左侧字体小 可以 ctrlshift 或者 ctrlshift 来控制界面整体缩放 2 右侧字体太小 可以安装新的字体 Fira Code v5 22 1 下载链接 FiraCode 为写程序而生的字体 简书 2 2windows 安装字体在 ttf 文件上逐个双击 打开字体管理器 点安装 2 3linux 安装字体 mkdir p usr share fo

    2025年10月29日
    1
  • Hsql函数上

    Hsql函数上Hsql函数.上(关系/数学/逻辑/数值/日期/条件/字符串/集合统计/复杂类型)原文链接:https://blog.csdn.net/scgaliguodong123_/article/details/60881166hive常见函数准备数据zhangsa dfsadsa323 new 67.1 2lisi 543gfd old 43.32 1wanger 65ghf new…

    2025年12月1日
    4
  • win10系统用激活码激活,用dos命令来激活,只能激活半年时间,暂时没找到永久的。

    win10系统用激活码激活,用dos命令来激活,只能激活半年时间,暂时没找到永久的。自己之前用激活工具激活的,激活时间好像是180天,即将到期了,于是在网上百度各种永久激活方法,参照别人的方法,发现把自己的激活状态由激活即将到期变为通知模式,瞬间一脸懵逼,于是找啊找,终于找到了这种方式,亲测可行。(1)首先查看自己系统的激活状态;快捷键win+r输入命令:slmgr.vbs-xpr; 随后弹出窗口显示2018/9/8过期。 (2)然后以管理员模式打开命令提示符窗…

    2022年5月30日
    117

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号