大家好，又见面了，我是你们的朋友全栈君。
预备定义
数学期望
定义
E [ g ( x ) ] = { ∑ i g ( x i ) p ( x i ) , 离散场合 ∫ − ∞ ∞ g ( x ) p ( x ) d x , 连续场合 E[g(x)]=\begin{cases}\sum\limits_ig(x_i)p(x_i),&\text{离散场合} \\ \\ \int_{-\infty}^\infty{g(x)p(x)\mathrm{d}x},&\text{连续场合}\end{cases} E[g(x)]=⎩⎪⎪⎨⎪⎪⎧i∑g(xi)p(xi),∫−∞∞g(x)p(x)dx,离散场合连续场合
性质
- 常数期望为其自身；
- E ( a X + b ) = a E ( X ) + b E(aX+b)=aE(X)+b E(aX+b)=aE(X)+b;
- 多维随机变量亦满足线性性质；
- 级数（积分）收敛，则期望存在；反之不存在，如Cauchy分布。
方差
定义
方差： D ( X ) = E [ X − E ( X ) ] 2 = E ( X 2 ) − [ E ( X ) ] 2 D(X)=E[X-E(X)]^2=E(X^2)-[E(X)]^2 D(X)=E[X−E(X)]2=E(X2)−[E(X)]2,
标准差： D X \sqrt{DX} DX,
标准化的随机变量： X − E X D X \frac{X-EX}{\sqrt{DX}} DXX−EX.
性质
- 常数方差为零；
- D ( a X + b ) = a 2 D ( X ) D(aX+b)=a^2D(X) D(aX+b)=a2D(X)；
- 极值性质：若 c ≠ E ( X ) c\neq E(X) c=E(X), 则 D ( X ) = E [ X − E ( X ) 2 ] = E ( X − c ) 2 − ( c − E X ) 2 < E ( X − c ) 2 ; D(X)=E[X-E(X)^2]=E(X-c)^2-(c-EX)^2<E(X-c)^2; D(X)=E[X−E(X)2]=E(X−c)2−(c−EX)2<E(X−c)2;
- 切比雪夫不等式（描述随机变量的变化情况）： P { ∣ X − E X ∣ ⩾ ε } ⩽ D X ε 2 P\{|X-EX|\geqslant\varepsilon\}\leqslant\frac{DX}{\varepsilon^2} P{
∣X−EX∣⩾ε}⩽ε2DX，或表示为 P { ∣ X − E X ∣ < ε } ⩾ 1 − D X ε 2 P\{|X-EX|<\varepsilon\}\geqslant1-\frac{DX}{\varepsilon^2} P{
∣X−EX∣<ε}⩾1−ε2DX.
协方差&相关系数
协方差
-
c o v ( X , Y ) = E [ ( X − E X ) ( Y − E Y ) ] = E ( X Y ) − E X ⋅ E Y \mathrm{cov}(X, \ Y) = E[(X-EX)(Y-EY)]=E(XY)-EX\cdot EY cov(X, Y)=E[(X−EX)(Y−EY)]=E(XY)−EX⋅EY.
-
D ( X + Y ) = D ( X ) + D ( Y ) + 2 c o v ( X , Y ) D(X+Y)=D(X)+D(Y)+2\mathrm{cov}(X,\ Y) D(X+Y)=D(X)+D(Y)+2cov(X, Y).
相关系数
-
r i j = c o v ( X , Y ) D X ⋅ D Y r_{ij}=\frac{\mathrm{cov}(X,\ Y)}{\sqrt{DX}\cdot \sqrt{DY}} rij=DX⋅DYcov(X, Y),
-
显然，相关系数也是标准化的两随机变量 X − E X D X \frac{X-EX}{\sqrt{DX}} DXX−EX和 Y − E Y D Y \frac{Y-EY}{\sqrt{DY}} DYY−EY的协方差；
-
定义常数与任何随机变量的相关系数为 0 0 0.
性质
- ∣ r ∣ ⩽ 1 |r|\leqslant1 ∣r∣⩽1;
- r = 0 r=0 r=0，不相关；
- 以下四个条件等价：
- c o v ( X , Y ) = 0 \mathrm{cov}(X,\ Y)=0 cov(X, Y)=0;
- X X X与 Y Y Y不相关；
- E ( X Y ) = E X ⋅ E Y E(XY)=EX\cdot EY E(XY)=EX⋅EY;
- D ( X + Y ) = D X + D Y D(X+Y)=DX+DY D(X+Y)=DX+DY.
- 若 X X X与 Y Y Y独立，则 X X X与 Y Y Y不相关，反之不成立；
- 二元正态分布的不相关性与独立性等价。
离散分布期望、方差
| 分布名称 | 密度函数 p ( x ) p(x) p(x) | 数学期望 E ( X ) E(X) E(X) | 方差 D ( X ) D(X) D(X) |
|---|---|---|---|
| 退化分布(单点分布) | p c = 1 p_c=1 pc=1 | c c c | 0 0 0 |
| 伯努利分布(两点分布) | p k = p k ( 1 − p ) 1 − k , k = 0 , 1 p_k=p^{k}(1-p)^{1-k},\ k=0,\ 1 pk=pk(1−p)1−k, k=0, 1 | p p p | p ( 1 − p ) p(1-p) p(1−p) |
| 二项分布 | b ( k ; n , p ) = ( n k ) p k ( 1 − p ) n − k b(k;\ n,\ p)=\binom{n}{k}p^k(1-p)^{n-k} b(k; n, p)=(kn)pk(1−p)n−k | n p np np | n p ( 1 − p ) np(1-p) np(1−p) |
| 泊松分布 | p ( k ; λ ) = λ k k ! e − λ p(k;\ \lambda)=\frac{\lambda^k}{k!}\mathrm{e}^{-\lambda} p(k; λ)=k!λke−λ | λ \lambda λ | λ \lambda λ |
| 几何分布 | g ( k ; p ) = ( 1 − p ) k − 1 p g(k;\ p)=(1-p)^{k-1}p g(k; p)=(1−p)k−1p | 1 / p 1/p 1/p | ( 1 − p ) / p 2 (1-p)/p^2 (1−p)/p2 |
| 超几何分布 | p k = ( M k ) ( N − M n − k ) ( N n ) p_k=\frac{\binom{M}{k}\binom{N-M}{n-k}}{\binom{N}{n}} pk=(nN)(kM)(n−kN−M) | n M N \frac{nM}{N} NnM | n M N ( 1 − M N ) ⋅ N − n N − 1 \frac{nM}{N}\left(1-\frac MN\right)\cdot \frac{N-n}{N-1} NnM(1−NM)⋅N−1N−n |
| 帕斯卡分布 | p k = ( k − 1 r − 1 ) p r ( 1 − p ) k − r , k = r , r + 1 , ⋯ p_k=\binom{k-1}{r-1}p^r(1-p)^{k-r},\ k=r,r+1,\cdots pk=(r−1k−1)pr(1−p)k−r, k=r,r+1,⋯ | r p \frac rp pr | r ( 1 − p ) p 2 \frac{r(1-p)}{p^2} p2r(1−p) |
| 负二项分布 | p k = ( − r k ) p r ( p − 1 ) k , k = 0 , 1 , 2 , ⋯ p_k=\binom{-r}{k}p^r(p-1)^k,\ k=0,1,2,\cdots pk=(k−r)pr(p−1)k, k=0,1,2,⋯ | r ( 1 − p ) p \frac {r(1-p)}p pr(1−p) | r ( 1 − p ) p 2 \frac{r(1-p)}{p^2} p2r(1−p) |
连续分布期望、方差
| 分布名称 | 密度函数 p ( x ) p(x) p(x) | 数学期望 E ( X ) E(X) E(X) | 方差 D ( X ) D(X) D(X) |
|---|---|---|---|
| 均匀分布 | p ( x ) = { 1 b − a , a ⩽ x ⩽ b 0 , 其他 p(x)=\begin{cases}\dfrac1{b-a},&a\leqslant x \leqslant b\\0,&\text{其他}\end{cases} p(x)=⎩⎨⎧b−a1,0,a⩽x⩽b其他 | a + b 2 \frac{a+b}2 2a+b | ( b − a ) 2 12 \frac{(b-a)^2}{12} 12(b−a)2 |
| 正态分布(Gauss分布) | p ( x ) = 1 2 π σ 2 e − ( x − μ ) 2 2 σ 2 p(x)=\dfrac{1}{\sqrt{2\pi\sigma^2}}\mathrm{e}^{-\frac{(x-\mu)^2}{2\sigma^2}} p(x)=2πσ21e−2σ2(x−μ)2 | μ \mu μ | σ 2 \sigma^2 σ2 |
| 指数分布 | p ( x ) = { λ e − λ x , x ⩾ 0 0 , x < 0 p(x)=\begin{cases}\lambda\mathrm{e}^{-\lambda x},& x \geqslant 0\\0,&x<0\end{cases} p(x)={ λe−λx,0,x⩾0x<0 |
1 λ \frac1\lambda λ1 | 1 λ 2 \frac1{\lambda^2} λ21 |
| 伽玛分布( Γ \Gamma Γ分布) | p ( x ) = { λ r Γ ( r ) x r − 1 e − λ x , x ⩾ 0 0 , x < 0 p(x)=\begin{cases}\dfrac{\lambda^r}{\Gamma{(r)}}x^{r-1}\mathrm{e}^{-\lambda x},& x \geqslant 0\\0,&x<0\end{cases} p(x)=⎩⎨⎧Γ(r)λrxr−1e−λx,0,x⩾0x<0 | r λ \frac r\lambda λr | r λ 2 \frac{r}{\lambda^2} λ2r |
| 卡方分布( χ 2 \chi^2 χ2分布) | p ( x ) = { 1 2 n / 2 Γ ( n 2 ) x n 2 − 1 e − x 2 , x ⩾ 0 0 , x < 0 p(x)=\begin{cases}\dfrac{1}{2^{n/2}\Gamma{(\frac n2)}}x^{\frac n2-1}\mathrm{e}^{-\frac x 2},& x \geqslant 0\\0,&x<0\end{cases} p(x)=⎩⎨⎧2n/2Γ(2n)1x2n−1e−2x,0,x⩾0x<0 | n n n | 2 n 2n 2n |
| 柯西分布 | p ( x ) = 1 π ⋅ λ λ 2 + ( x − μ ) 2 p(x)=\dfrac1\pi\cdot\dfrac{\lambda}{\lambda^2+(x-\mu)^2} p(x)=π1⋅λ2+(x−μ)2λ | 不存在 | 不存在 |
| t t t分布 | p ( x ) = Γ ( n + 1 2 ) n π Γ ( n 2 ) ( 1 + x 2 n ) − n + 1 2 p(x)=\dfrac{\Gamma\left(\frac {n+1}2\right)}{\sqrt{n\pi}\Gamma\left(\frac n2\right)}\left(1+\dfrac{x^2}{n}\right)^{-\frac{n+1}{2}} p(x)=nπΓ(2n)Γ(2n+1)(1+nx2)−2n+1 | 0 ( n > 1 ) 0\ (n>1) 0 (n>1) | n n − 2 ( n > 2 ) \frac n{n-2}\ (n>2) n−2n (n>2) |
发布者：全栈程序员-站长，转载请注明出处：https://javaforall.net/128769.html原文链接：https://javaforall.net
