数学

02 特征函数

特征函数是 Fourier 分析在概率论领域的应用。

复随机变量

若 \xi, \eta 都是定义在概率空间 (\Omega, \mathscr{F}, P) 上的随机变量,则称变量

\xi + \mathrm{i} \eta

为复随机变量。

复随机变量可以看做一个二维随机向量。

特征函数

定义

若 \xi 的分布函数为 F_\xi(x),则定义其特征函数(characteristic function)为

f_\xi(t) = \int_{-\infty}^{+\infty} \mathrm{e}^{\mathrm{i}tx} \mathrm{d} F_\xi(x).

这个定义也可以写为

f_\xi(t) = E\left[\mathrm{e}^{\mathrm{i}t\xi} \right].

对于离散型随机变量,设其在点 x_i 上的概率取值为 p_i,则其特征函数可写为离散时间 Fourier 变换(DTFT):

f_\xi(t) = \sum_{j} p_j \mathrm{e}^{\mathrm{i} t x_j}.

对于取值为非负整数的随机变量,若设其母函数为 G(x),则其特征函数为 G(e^{\mathrm{i}tx}),类似于 z 变换与离散时间 Fourier 变换的关系。

对于连续型随机变量,设其密度函数为 p(x),则其特征函数可写为连续时间 Fourier 变换:

f_\xi(t) = \int_{-\infty}^{+\infty} p(x) \mathrm{e}^{\mathrm{i}tx} \mathrm{d}x.

可参考:(链接未公开)

警告

这里定义的 Fourier 变换,其系数为 \mathrm{e}^{\mathrm{i} tx},不同于信号与系统常用的 \mathrm{e}^{-\mathrm{i} tx},指数位置相差一个负号。实质上,由于时域与频域的共轭关系,两者等价,但要注意区分两种定义。

特征函数的性质

特征函数属于 Fourier 变换后的频谱函数,因此很多 Fourier 变换的性质,对特征函数也成立。但由于分布函数的特殊性,特征函数又拥有常规 Fourier 变换没有的性质。作为概率论的应用,特征函数还沟通了随机变量的一些性质。

卷积定理

若 Z = X + Y,且 X \perp Y,则

f_Z(t) = f_X(t) f_Y(t).

常见分布的特征函数

离散型:

分布 概率质量函数 特征函数
退化分布 I_c(x) p(x) = \mathbb{1}_{\{x = c\}} \mathrm{e}^{\mathrm{i} ct}
Bernoulli 分布 b(1, p) p(x) = p^x q^{1 - x} p \mathrm{e}^{\mathrm{i} t} + q
二项分布 b(n, p) p(x) = \binom{n}{x} p^x q^{n - x} (p e^{\mathrm{i}t} + q)^n
Poisson 分布 p(x) = \frac{\lambda^x}{x!} \mathrm{e}^{-\lambda x}

连续型:

分布 概率密度函数 特征函数
标准正态分布 N(0, 1) p(x) = \frac{1}{\sqrt{2 \pi}} \mathrm{e}^{- \frac{x^2}{2}} \mathrm{e}^{- \frac{1}{2} t^2}

可加性

见 03 随机变量的可加性

利用特征函数和卷积定理,可以方便地证明一些分布的可加性。

BEYOND THE ARTICLE

读完了,有什么想法?

阅读已保存的问答示例,并循着引用回到原文。

查看公开问答示例
— 本文完 — 返回文章列表