瑞利熵与香农熵_熵 信息

瑞利熵与香农熵_熵 信息在信息论中,Rényi熵是Hartley熵,Shannon熵,碰撞熵和最小熵的推广。熵能量化了系统的多样性,不确定性或随机性。Rényi熵以AlfrédRény

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全系列IDE使用 1年只要46元 售后保障 童叟无欺

信息论中Rényi熵是Hartley熵Shannon熵碰撞熵最小熵的推广。熵能量化了系统的多样性,不确定性或随机性。Rényi熵以AlfrédRényi命名。在分形维数估计的背景下,Rényi熵构成了广义维数概念的基础。

Rényi熵在生态学和统计学中是重要的多样性指标。Rényi熵在量子信息中也很重要,它可以用来衡量纠缠。在Heisenberg XY自旋链模型中,作为α的函数的Rényi熵可以由于它是关于模数群的特定子群的自守函数而被明确地计算。在理论计算机科学中,最小熵用于随机抽取器的情况下。

定义:

含参数α的瑞丽熵其中α≥0和α≠1,被定义为

H {\ alpha}(X)= {\ frac {1} {1- \ alpha}} \ log {\ Bigg(} \ sum _ {i = 1} ^ {n} p_ {i} ^ {\ alpha} {\ Bigg)}

这里,X是一个具有可能结果的离散随机变量1,2,3,…..,n和相应的概率p_ {i} \ doteq \ Pr(X = i)对于i=1,2,….n,而对数基数为2.如果概率是P_ {I} = 1 / n的对全部i=1,…..,n,那么分配的所有瑞丽熵都是相等的:H _ {\ alpha}(X)= \ log n

一般来说,对于所有的离散随机变量X,H _ {\ alpha}(X)是一个带有α的非递增函数。

经常可见瑞丽熵和概率向量的p-范数之间的关系:

H _ {\ alpha}(X)= {\ frac {\ alpha} {1- \ alpha}} \ log \ left(\ | P \ | _ {\ alpha} \ right)

在这里,离散的概率分布P=(p1,……..,pn)被解释为一个向量Rn,同时pi≥0和Σpi=1

瑞丽熵中α≥0

特例

哈特利或最大熵:H_ {0}(X)= \ log n = \ log | X |。\,
香农熵:H_ {1}(X)=  -  \ sum_ {i = 1} ^ {n} p_ {i} \ log p_ {i}。

碰撞熵,有时被称为“Rényi熵”,是指α = 2 的情况,

H_ {2}(X)=  -  \ log \ sum _ {i = 1} ^ {n} p_ {i} ^ {2} =  -  \ log P(X = Y)

其中,XY ^独立同分布的

最小熵:

在极限中 H _ {\ alpha}收敛到最小熵 H _ {\ infty}

(i)( -  \ log p_ {i})=  - (\ max _ {i} \ log p_ {i})=  -  \ log \ max _ {i } P_ {I} \ ,.

参考文献:https://en.wikipedia.org/wiki/R%C3%A9nyi_entropy

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/168293.html原文链接:https://javaforall.net

(0)
上一篇 2022年8月3日 上午11:00
下一篇 2022年8月3日 上午11:00


相关推荐

  • Coze Skill 速通教程:一文学会 Skill 设计方法

    Coze Skill 速通教程:一文学会 Skill 设计方法

    2026年3月12日
    2
  • MTCNN工作原理「建议收藏」

    MTCNN工作原理「建议收藏」MTCNN工作原理MTCNN是什么MTCNN,Multi-taskconvolutionalneuralnetwork(多任务卷积神经网络),将人脸区域检测与人脸关键点检测放在了一起,基于cascade框架。总体可分为PNet、RNet、和ONet三层网络结构,MTCNN实现流程构建图像金字塔首先讲图像进行不同尺度的变换,构建图像金字塔,以适应不同大小的人脸的进行检测。…

    2022年6月18日
    32
  • HTML滚动条样式代码及使用技巧

    HTML滚动条样式代码及使用技巧html 中滚动条属性设置 scrollbar 属性 样式详解 1 overflow 内容溢出时的设置 设定被设定对象是否显示滚动条 nbsp nbsp overflow x 水平方向内容溢出时的设置 nbsp nbsp overflow y 垂直方向内容溢出时的设置 nbsp nbsp 以上三个属性设置的值为 visible 默认值 scroll hidden auto 2 scrollbar 3d light colo

    2026年3月17日
    2
  • GATK简介

    GATK简介二代测序通过荧光和生物试剂等手段获得人类遗传物质基因的碱基序列 但由于这些获得的信息是大量片段性质的 而且存在一定误差 因此想要准确完整的确定其所处位置和真实的碱基类型需要我们使用计算机的手段来进行分析 这些分析就是我们通常使用的基因测序数据分析流程 二代测序主要分为 DNA 测序和 RNA 测序 在 DNA 测序中 GATK 被广泛应用到 1000GenomesP 和 CancerGenome 等国际化大项目中 而且被各大研究所和一些基因公司广泛使用 GATK 的

    2026年3月18日
    2
  • JFlow与CCBPM的对比

    JFlow与CCBPM的对比前言为了更好的说明 activiti 与 jflow 的两款工作流引擎的特点与区别 我们按照如下几个方面做一次全面的 客观的对比 首先 activiti 是国外的一款开源的工作流程引擎 在国际上影响比较深远与广泛 解决了 BPM 领域的很多问题 值得我们赞赏 他的 boss 好像是 jbpm 的前身 JFlow 是济南驰骋公司开放的一款工作流程引擎 JFlow 的前身是 CCFl

    2026年3月18日
    2
  • python 生成exe,脱离python环境运行

    python 生成exe,脱离python环境运行1、python环境为Anaconda2,安装的环境为python2.7.12。安装Anaconda2,路径为https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/Anaconda2默认为base,重新生成一个虚拟环境(默认安装的base安装了太多模块,生成exe运行速度较慢)并切换到python…

    2022年5月27日
    40

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号