马尔可夫不等式和切比雪夫不等式

马尔可夫不等式和切比雪夫不等式Markov sInequality 中文叫马尔科夫不等式或马尔可夫不等式 若随机变量 XXX 只取非负值 则 a gt 0 foralla gt 0 a gt 0 有 P X a E X a mathbb P X gea le dfrac mathbb E X a P X a aE X 证明 取 Ya aI X a Y a a mathbb I X gea Ya aI X a 则必有 Ya XY a leXYa X 进而有 E Ya E X mathbb E

Markov’s Inequality

中文叫马尔科夫不等式或马尔可夫不等式。

若随机变量 X X X只取非负值,则 ∀ a > 0 \forall a>0 a>0,有
P ( X ≥ a ) ≤ E ( X ) a \mathbb{P} (X\ge a) \le \dfrac{\mathbb{E}(X)}{a} P(Xa)aE(X)

证明
Y a = a I ( X ≥ a ) Y_a=a\mathbb{I}(X\ge a) Ya=aI(Xa),则必有 Y a ≤ X Y_a\le X YaX,进而有 E ( Y a ) ≤ E ( X ) \mathbb{E}(Y_a)\le \mathbb{E}(X) E(Ya)E(X)

因此有 a P ≤ E ( X ) a\mathbb{P}\le \mathbb{E}(X) aPE(X),得证。

以上证明非常简单,如果想直观地理解一下,就是将整个 X X X的分布减小(分布图像向左移)到 0 0 0 a a a处两个部分,减小后的分布的期望一定小于原来的期望。如下图:

Markov's Inequality

如果用积分形式来证,也非常直接:

E ( X ) = ∫ − ∞ ∞ x f ( x ) d x ≥ ∫ a ∞ x f ( x ) d x ( a ≥ 0 ) ≥ ∫ a ∞ a f ( x ) d x = a ∫ a ∞ f ( x ) d x = a P ( X ≥ a ) \begin{aligned} \mathbb{E}(X)&=\int_{-\infty}^{\infty}xf(x)dx\\ &\ge\int_{a}^{\infty}xf(x)dx \quad (a\ge 0)\\ &\ge\int_{a}^{\infty}af(x)dx\\ &=a \int_{a}^{\infty}f(x)dx\\ &=a \mathbb{P} (X\ge a) \end{aligned} E(X)=xf(x)dxaxf(x)dx(a0)aaf(x)dx=aaf(x)dx=aP(Xa)

Markov’s inequality用得非常少,因为它给出的上界宽松了,但用它可以证明另一个著名的不等式——Chebyshev’s inequality,中文叫切比雪夫不等式。

Chebyshev’s Inequality

假设随机变量 X X X有均值 μ \mu μ、方差 σ 2 \sigma^2 σ2,则 ∀ c > 0 \forall c>0 c>0,有:

P ( ∣ X − μ ∣ ≥ c ) ≤ σ 2 c 2 \mathbb{P} (\vert X-\mu\vert \ge c) \le \dfrac{\sigma^2}{c^2} P(Xμc)c2σ2

证明:

Y = ( X − μ ) 2 Y=(X-\mu)^2 Y=(Xμ)2,则它非负,而 c 2 c^2 c2也非负,使用Markov’s Inequality,有:

P ( Y ≥ c 2 ) ≤ E ( Y ) c 2 \mathbb{P} (Y\ge c^2) \le \dfrac{\mathbb{E}(Y)}{c^2} P(Yc2)c2E(Y)

E ( Y ) = E [ ( X − μ ) 2 ] = σ 2 \mathbb{E}(Y)=\mathbb{E}[(X-\mu)^2]=\sigma^2 E(Y)=E[(Xμ)2]=σ2 Y ≥ c 2 Y\ge c^2 Yc2 ∣ X − μ ∣ ≥ c \vert X-\mu\vert \ge c Xμc又是等价的,因此得证。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/224027.html原文链接:https://javaforall.net

(0)
上一篇 2026年3月17日 下午12:52
下一篇 2026年3月17日 下午12:52


相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号