数学

正态分布

密度函数

一元正态分布:

{\displaystyle f(x)={\frac {1}{\sigma {\sqrt {2\pi }}}}\;e^{-{\frac {\left(x-\mu \right)^{2}}{2\sigma ^{2}}}}\!}

二元正态分布:

{\displaystyle f(x,y)={\frac {1}{2\pi \sigma _{X}\sigma _{Y}{\sqrt {1-\rho ^{2}}}}}\mathrm {e} ^{-{\frac {1}{2(1-\rho ^{2})}}\left[({\frac {x-\mu _{X}}{\sigma _{X}}})^{2}-2\rho ({\frac {x-\mu _{X}}{\sigma _{X}}})({\frac {y-\mu _{Y}}{\sigma _{Y}}})+({\frac {y-\mu _{Y}}{\sigma _{Y}}})^{2}\right]}}.

其中 \rho 为两者的相关系数。

多元正态分布(非退化情况):

{\displaystyle f_{\mathbf {X} }(x_{1},\ldots ,x_{n})={\frac {\exp \left(-{\frac {1}{2}}\left({\mathbf {x} }-{\boldsymbol {\mu }}\right)^{\mathrm {T} }{\boldsymbol {\Sigma }}^{-1}\left({\mathbf {x} }-{\boldsymbol {\mu }}\right)\right)}{\sqrt {(2\pi )^{k}|{\boldsymbol {\Sigma }}|}}}}.

其中 \boldsymbol{\mu} 为均值向量,{\boldsymbol {\Sigma}} 为协方差矩阵。

退化的多元正态分布没有密度函数,但对于退化的多元正态分布,总可以找到一个子仿射集,在仿射集上有密度函数。

当多元正态分布的各个变量不相关(独立)时,有

性质

平移

平移只改变正态分布的均值。

设 n 维随机向量 X \sim N(\mu, \Sigma),v \in \mathbb{R}^{n},令 Y = X + v,则随机向量 Y 服从正态分布 N(\mu + v, \Sigma)。

线性变换

正态分布经过线性变换后仍然是正态分布。

设 n 维随机向量 X \sim N(\mu, \Sigma),A \in \mathbb{R}^{m \times n},令 Y = A X,则随机向量 Y 也服从正态分布,且 Y \sim N(A \mu, A \Sigma A^{\mathrm T})。

特殊地,对一维正态分布 X \sim N(\mu, \sigma^2),令 Y = a X + b,则 Y \sim N(a \mu + b, a^2 \sigma^2)。

参数的变换可以通过公式 \mathbb{E}(aX+b) = a\mathbb{E}(X)+b、\operatorname{Var}(a X + b) = a^2 \operatorname{Var}(X) 来记忆。

不相关等价于独立

对于两个正态随机变量 X, Y,若 \operatorname{Cov}(X, Y) = 0,则 X 和 Y 独立。

可加性

设 n 维随机向量 X_1 \sim N(\mu_1, \Sigma_1),X_2 \sim N(\mu_2, \Sigma_2),且 X_1 和 X_2 相互独立,则 X_1 + X_2 仍然服从正态分布,且 X_1 + X_2 \sim N(\mu_1 + \mu_2, \Sigma_1 + \Sigma_2)。

由于独立随机变量之和的密度函数等于密度函数的卷积,可以简写为:

N(\mu_1, \Sigma_1) * N(\mu_2, \Sigma_2) = N(\mu_1 + \mu_2, \Sigma_1 + \Sigma_2).
BEYOND THE ARTICLE

读完了,有什么想法?

阅读已保存的问答示例,并循着引用回到原文。

查看公开问答示例
— 本文完 — 返回文章列表