Markov’s Inequality
中文叫马尔科夫不等式或马尔可夫不等式。
若随机变量 X X X只取非负值,则 ∀ a > 0 \forall a>0 ∀a>0,有
P ( X ≥ a ) ≤ E ( X ) a \mathbb{P} (X\ge a) \le \dfrac{\mathbb{E}(X)}{a} P(X≥a)≤aE(X)
证明:
取 Y a = a I ( X ≥ a ) Y_a=a\mathbb{I}(X\ge a) Ya=aI(X≥a),则必有 Y a ≤ X Y_a\le X Ya≤X,进而有 E ( Y a ) ≤ E ( X ) \mathbb{E}(Y_a)\le \mathbb{E}(X) E(Ya)≤E(X)。
因此有 a P ≤ E ( X ) a\mathbb{P}\le \mathbb{E}(X) aP≤E(X),得证。
以上证明非常简单,如果想直观地理解一下,就是将整个 X X X的分布减小(分布图像向左移)到 0 0 0和 a a a处两个部分,减小后的分布的期望一定小于原来的期望。如下图:

如果用积分形式来证,也非常直接:
E ( X ) = ∫ − ∞ ∞ x f ( x ) d x ≥ ∫ a ∞ x f ( x ) d x ( a ≥ 0 ) ≥ ∫ a ∞ a f ( x ) d x = a ∫ a ∞ f ( x ) d x = a P ( X ≥ a ) \begin{aligned} \mathbb{E}(X)&=\int_{-\infty}^{\infty}xf(x)dx\\ &\ge\int_{a}^{\infty}xf(x)dx \quad (a\ge 0)\\ &\ge\int_{a}^{\infty}af(x)dx\\ &=a \int_{a}^{\infty}f(x)dx\\ &=a \mathbb{P} (X\ge a) \end{aligned} E(X)=∫−∞∞xf(x)dx≥∫a∞xf(x)dx(a≥0)≥∫a∞af(x)dx=a∫a∞f(x)dx=aP(X≥a)
Markov’s inequality用得非常少,因为它给出的上界宽松了,但用它可以证明另一个著名的不等式——Chebyshev’s inequality,中文叫切比雪夫不等式。
Chebyshev’s Inequality
假设随机变量 X X X有均值 μ \mu μ、方差 σ 2 \sigma^2 σ2,则 ∀ c > 0 \forall c>0 ∀c>0,有:
P ( ∣ X − μ ∣ ≥ c ) ≤ σ 2 c 2 \mathbb{P} (\vert X-\mu\vert \ge c) \le \dfrac{\sigma^2}{c^2} P(∣X−μ∣≥c)≤c2σ2
证明:
取 Y = ( X − μ ) 2 Y=(X-\mu)^2 Y=(X−μ)2,则它非负,而 c 2 c^2 c2也非负,使用Markov’s Inequality,有:
P ( Y ≥ c 2 ) ≤ E ( Y ) c 2 \mathbb{P} (Y\ge c^2) \le \dfrac{\mathbb{E}(Y)}{c^2} P(Y≥c2)≤c2E(Y)
而 E ( Y ) = E [ ( X − μ ) 2 ] = σ 2 \mathbb{E}(Y)=\mathbb{E}[(X-\mu)^2]=\sigma^2 E(Y)=E[(X−μ)2]=σ2, Y ≥ c 2 Y\ge c^2 Y≥c2与 ∣ X − μ ∣ ≥ c \vert X-\mu\vert \ge c ∣X−μ∣≥c又是等价的,因此得证。
发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/224027.html原文链接:https://javaforall.net
