概率论与数理统计 · 第四章

随机变量的数字特征

数学期望、方差、协方差、相关系数与矩

数学期望

离散型和连续型随机变量的数学期望分别为

E(X)=\sum_kx_kp_k, \qquad E(X)=\int_{-\infty}^{+\infty}xf(x)\,\mathrm dx,

前提是相应级数或积分绝对收敛。变量函数满足 $E[g(X)]=\sum g(x_k)p_k$ 或 $\int g(x)f(x)\,\mathrm dx$ 。

期望具有线性性，不要求随机变量独立： $E(aX+bY)=aE(X)+bE(Y)$ 。

D(X)=E[(X-E(X))^2]=E(X^2)-[E(X)]^2.

$D(aX+b)=a^2D(X)$ 。切比雪夫不等式：

P\{|X-E(X)|\ge\varepsilon\}\le\frac{D(X)}{\varepsilon^2}.

方差为 $0$ 当且仅当随机变量以概率 $1$ 等于常数。

\operatorname{Cov}(X,Y)=E(XY)-E(X)E(Y),

\rho_{XY}=\frac{\operatorname{Cov}(X,Y)}{\sqrt{D(X)D(Y)}}, \qquad |\rho_{XY}|\le1.

\begin{aligned} D(X+Y)&=D(X)+D(Y)+2\operatorname{Cov}(X,Y),\\ D(X-Y)&=D(X)+D(Y)-2\operatorname{Cov}(X,Y). \end{aligned}

独立推出不相关，反向一般不成立；二维正态随机变量中，不相关等价于独立。 $|\rho|=1$ 表示两个变量之间几乎处处存在线性关系。

$E(X^k)$ 为 $k$ 阶原点矩， $E[(X-E(X))^k]$ 为 $k$ 阶中心矩。 $E(X^kY^l)$ 为混合矩，对应中心化后的量为混合中心矩。

随机向量 $X=(X_1,\ldots,X_n)^T$ 的协方差矩阵为

\Sigma=(\operatorname{Cov}(X_i,X_j))_{n\times n}.

$\Sigma$ 是实对称半正定矩阵，对角元是各分量方差。线性变换 $Y=AX+b$ 满足

\operatorname{Cov}(Y)=A\Sigma A^T.

易错不相关只说明协方差为 $0$ ，不说明两个变量的联合分布可以分解。