瑞丽熵（renyi entropy）

在，Rényi熵是，，碰撞熵和的推广。熵能量化了系统的多样性，不确定性或随机性。Rényi熵以命名。在估计的背景下，Rényi熵构成了广义维数概念的基础。

Rényi熵在生态学和统计学中是重要。Rényi熵在也很重要，它可以用来衡量。在Heisenberg XY自旋链模型中，作为α的函数的Rényi熵可以由于它是关于的特定子群的而被明确地计算。在，最小熵用于的情况下。

定义：

含参数α的瑞丽熵其中α≥0和α≠1，被定义为

这里，X是一个具有可能结果的离散随机变量1,2,3,…..,n和相应的概率对于i=1,2,….n,而对数基数为2.如果概率是对全部i=1,…..,n,那么分配的所有瑞丽熵都是相等的：

一般来说，对于所有的离散随机变量X,是一个带有α的非递增函数。

经常可见瑞丽熵和概率向量的p-范数之间的关系：

在这里，离散的概率分布P=(p1,……..,pn)被解释为一个向量Rn，同时pi≥0和Σpi=1

瑞丽熵中α≥0

特例

哈特利或最大熵:

香农熵:

碰撞熵，有时被称为“Rényi熵”，是指α = 2 的情况，

其中，X和Y ^是。

最小熵:

在极限中 收敛到最小熵 ：

---

参考文献：

在，Rényi熵是，，碰撞熵和的推广。熵能量化了系统的多样性，不确定性或随机性。Rényi熵以命名。在估计的背景下，Rényi熵构成了广义维数概念的基础。 Rényi熵在生态学和统计学中是重要。Rényi熵在也很重要，它可以用来衡量。在Heisenberg XY自旋链模型中，作为α的函数的Rényi熵可以由于它是关于的特定子群的而被明确地计算。在，最小熵用于的情况下。 定义： 含参数α的瑞丽熵其中α≥0和α≠1，被定义为 这里，X是一个具有可能结果的离散随机变量1,2,3,…..,n和相应的概率对于i=1,2,….n,而对数基数为2.如果概率是对全部i=1,…..,n,那么分配的所有瑞丽熵都是相等的： 一般来说，对于所有的离散随机变量X,是一个带有α的非递增函数。 经常可见瑞丽熵和概率向量的p-范数之间的关系： 在这里，离散的概率分布P=(p1,……..,pn)被解释为一个向量Rn，同时pi≥0和Σpi=1 瑞丽熵中α≥0 特例 哈特利或最大熵: 香农熵: 碰撞熵，有时被称为“Rényi熵”，是指α = 2 的情况， 其中，X和Y ^是。 最小熵: 在极限中 收敛到最小熵 ： 参考文献：