瑞利熵与香农熵_熵 信息

瑞利熵与香农熵_熵 信息在信息论中,Rényi熵是Hartley熵,Shannon熵,碰撞熵和最小熵的推广。熵能量化了系统的多样性,不确定性或随机性。Rényi熵以AlfrédRény

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全系列IDE使用 1年只要46元 售后保障 童叟无欺

信息论中Rényi熵是Hartley熵Shannon熵碰撞熵最小熵的推广。熵能量化了系统的多样性,不确定性或随机性。Rényi熵以AlfrédRényi命名。在分形维数估计的背景下,Rényi熵构成了广义维数概念的基础。

Rényi熵在生态学和统计学中是重要的多样性指标。Rényi熵在量子信息中也很重要,它可以用来衡量纠缠。在Heisenberg XY自旋链模型中,作为α的函数的Rényi熵可以由于它是关于模数群的特定子群的自守函数而被明确地计算。在理论计算机科学中,最小熵用于随机抽取器的情况下。

定义:

含参数α的瑞丽熵其中α≥0和α≠1,被定义为

H {\ alpha}(X)= {\ frac {1} {1- \ alpha}} \ log {\ Bigg(} \ sum _ {i = 1} ^ {n} p_ {i} ^ {\ alpha} {\ Bigg)}

这里,X是一个具有可能结果的离散随机变量1,2,3,…..,n和相应的概率p_ {i} \ doteq \ Pr(X = i)对于i=1,2,….n,而对数基数为2.如果概率是P_ {I} = 1 / n的对全部i=1,…..,n,那么分配的所有瑞丽熵都是相等的:H _ {\ alpha}(X)= \ log n

一般来说,对于所有的离散随机变量X,H _ {\ alpha}(X)是一个带有α的非递增函数。

经常可见瑞丽熵和概率向量的p-范数之间的关系:

H _ {\ alpha}(X)= {\ frac {\ alpha} {1- \ alpha}} \ log \ left(\ | P \ | _ {\ alpha} \ right)

在这里,离散的概率分布P=(p1,……..,pn)被解释为一个向量Rn,同时pi≥0和Σpi=1

瑞丽熵中α≥0

特例

哈特利或最大熵:H_ {0}(X)= \ log n = \ log | X |。\,
香农熵:H_ {1}(X)=  -  \ sum_ {i = 1} ^ {n} p_ {i} \ log p_ {i}。

碰撞熵,有时被称为“Rényi熵”,是指α = 2 的情况,

H_ {2}(X)=  -  \ log \ sum _ {i = 1} ^ {n} p_ {i} ^ {2} =  -  \ log P(X = Y)

其中,XY ^独立同分布的

最小熵:

在极限中 H _ {\ alpha}收敛到最小熵 H _ {\ infty}

(i)( -  \ log p_ {i})=  - (\ max _ {i} \ log p_ {i})=  -  \ log \ max _ {i } P_ {I} \ ,.

参考文献:https://en.wikipedia.org/wiki/R%C3%A9nyi_entropy

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/168293.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • python 获取B站播放量计算的条件及……

    python 获取B站播放量计算的条件及……

    2021年11月10日
    37
  • Drupal开发学习入门指引[通俗易懂]

    Drupal开发学习入门指引[通俗易懂]我是云客,《云客drupal8源码分析》系列的作者,伴随着drupal8第一个正式版本发布到现在,该系列已经发布100期,超过60万字,作为中国投入精力最大、同时也是时间最早的第一批用户之一,云客觉得有义务帮助初学者准备好行囊,叮嘱好一路上的注意事项,之前也零星写过一些入门方面的资料,会在本文末给出链接(这些资料也很值得参考),本篇将为您全面整理需要的一切和规划学习步骤,这里假定您是一个刚刚学会p…

    2022年6月9日
    40
  • srgb的伽马值_srgb模式和标准模式

    srgb的伽马值_srgb模式和标准模式sRGB标准人眼对亮度的感知不是线性的,其对较暗区域的变化更加敏感参见:ComputerColorisBroken基于人眼该特点,sRGB标准要求图像(各通道为8bits,最多存储256个亮度值)使用编码伽马,把更多地空间用来存储更多暗部区域,来最大化地利用表示亮度的数据位或带宽伽马校正(Gammacorrection)在早期,阴极射线管(CRT)显示器是唯一的电子显示设备,但它的输入电压和显示出来的亮度关系不是线性的,而是一个类似幂律(pow-law)曲线的关系,…

    2022年9月2日
    4
  • 第七章 vShpere新功能之容错(FT)的实现

    第七章 vShpere新功能之容错(FT)的实现

    2021年8月7日
    78
  • java教程孙鑫_[Java基础] 孙鑫老师JAVA无难事视频教程 最适合java入门学习打基础的课程 附源码…「建议收藏」

    java教程孙鑫_[Java基础] 孙鑫老师JAVA无难事视频教程 最适合java入门学习打基础的课程 附源码…「建议收藏」资源介绍课程介绍由孙鑫老师亲自授课录制。内容涵盖面广,从入门到精通,授课通俗易懂,分析问题独到精辟,学员通过本套光盘的学习,能够快速掌握Java编程语言,成为Java高手。由孙鑫老师亲自授课录制。内容涵盖面广,从入门到精通,授课通俗易懂,分析问题独到精辟,学员通过本套光盘的学习,能够快速掌握Java编程语言,成为Java高手。从自学者很难弄明白的Java环境配置开始讲解,一步步引领你成为Java高…

    2022年5月17日
    34
  • goland 2021.11.4 激活码-激活码分享

    (goland 2021.11.4 激活码)这是一篇idea技术相关文章,由全栈君为大家提供,主要知识点是关于2021JetBrains全家桶永久激活码的内容https://javaforall.net/100143.htmlIntelliJ2021最新激活注册码,破解教程可免费永久激活,亲测有效,上面是详细链接哦~23LNPMIJZT-eyJsaWNlb…

    2022年3月29日
    50

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号