02 特征函数
特征函数是 Fourier 分析在概率论领域的应用。
复随机变量
若 \xi, \eta 都是定义在概率空间 (\Omega, \mathscr{F}, P) 上的随机变量,则称变量
\xi + \mathrm{i} \eta
为复随机变量。
复随机变量可以看做一个二维随机向量。
特征函数
定义
若 \xi 的分布函数为 F_\xi(x),则定义其特征函数(characteristic function)为
f_\xi(t) = \int_{-\infty}^{+\infty} \mathrm{e}^{\mathrm{i}tx} \mathrm{d} F_\xi(x).
这个定义也可以写为
f_\xi(t) = E\left[\mathrm{e}^{\mathrm{i}t\xi} \right].
对于离散型随机变量,设其在点 x_i 上的概率取值为 p_i,则其特征函数可写为离散时间 Fourier 变换(DTFT):
f_\xi(t) = \sum_{j} p_j \mathrm{e}^{\mathrm{i} t x_j}.
对于取值为非负整数的随机变量,若设其母函数为 G(x),则其特征函数为 G(e^{\mathrm{i}tx}),类似于 z 变换与离散时间 Fourier 变换的关系。
对于连续型随机变量,设其密度函数为 p(x),则其特征函数可写为连续时间 Fourier 变换:
f_\xi(t) = \int_{-\infty}^{+\infty} p(x) \mathrm{e}^{\mathrm{i}tx} \mathrm{d}x.
可参考:(链接未公开)
警告
这里定义的 Fourier 变换,其系数为 \mathrm{e}^{\mathrm{i} tx},不同于信号与系统常用的 \mathrm{e}^{-\mathrm{i} tx},指数位置相差一个负号。实质上,由于时域与频域的共轭关系,两者等价,但要注意区分两种定义。
特征函数的性质
特征函数属于 Fourier 变换后的频谱函数,因此很多 Fourier 变换的性质,对特征函数也成立。但由于分布函数的特殊性,特征函数又拥有常规 Fourier 变换没有的性质。作为概率论的应用,特征函数还沟通了随机变量的一些性质。
卷积定理
若 Z = X + Y,且 X \perp Y,则
f_Z(t) = f_X(t) f_Y(t).
常见分布的特征函数
离散型:
| 分布 | 概率质量函数 | 特征函数 |
|---|---|---|
| 退化分布 I_c(x) | p(x) = \mathbb{1}_{\{x = c\}} | \mathrm{e}^{\mathrm{i} ct} |
| Bernoulli 分布 b(1, p) | p(x) = p^x q^{1 - x} | p \mathrm{e}^{\mathrm{i} t} + q |
| 二项分布 b(n, p) | p(x) = \binom{n}{x} p^x q^{n - x} | (p e^{\mathrm{i}t} + q)^n |
| Poisson 分布 | p(x) = \frac{\lambda^x}{x!} \mathrm{e}^{-\lambda x} |
连续型:
| 分布 | 概率密度函数 | 特征函数 |
|---|---|---|
| 标准正态分布 N(0, 1) | p(x) = \frac{1}{\sqrt{2 \pi}} \mathrm{e}^{- \frac{x^2}{2}} | \mathrm{e}^{- \frac{1}{2} t^2} |
可加性
利用特征函数和卷积定理,可以方便地证明一些分布的可加性。
BEYOND THE ARTICLE
读完了,有什么想法?
阅读已保存的问答示例,并循着引用回到原文。
— 本文完 — 返回文章列表