数学

假设检验的思想

基本思想

假设检验,可以理解为反证法思想在概率论、统计学上的应用。

引入

假设工厂收到了一批零件,工厂要求供应商提供零件的不合格率必须低于 1%,在交货现场对零件进行了抽检,抽检 500 个零件后发现有 15 个零件是损坏的,样本不合格率达到了 3%。那么工厂方怎么判断,这是某种随机波动还是这一批零件真的有问题?

如果我们要证明一个命题 H_1,我们先构造一个原假设 H_0,然后在假设 H_0 成立的条件下,给出 X 的概率分布,构造一个小概率事件 X \in W,其发生的概率小于一个预先给定的数 \alpha。如果实际抽样的样本 x 真的落入了区域 W,那么我们就有充分的理由认为 H_0 是错的。

具体到工厂抽样这个事情上,设不合格率为 q,取 \alpha = 0.01,我们给定原假设

H_0: q \le 0.01

样本是每个抽检的零件合格与否,我们假设这些零件的合格率独立,有

p(x_1, \dots, x_n) = \prod_{i = 1}^n p^{x_i} q^{1 - x_i}.

设统计量 T(X) = n - X_1 - \cdots - X_n,则显然

T(X) \sim b(n, q).

由此我们可以构造一个极端事件。不合格率很低时,抽检不合格产品数平均来说也应该很低。取最极端值 q_m = 0.01,我们可以计算出

\mathbb{P}[T(X) \ge \theta] = \sum_{k = \theta}^n \binom{n}{k} q_m^k p^{n - k}.

的值。

找到最小的 \theta_0,使得

\mathbb{P}[T(X) \ge \theta_0] \le \alpha, \quad \mathbb{P}[T(X) \ge \theta_0 - 1] > \alpha

则我们就确定了,如果原假设成立,事件

X \in \{x: T(x) \ge \theta_0\}

是一个小概率事件,发生概率不超过 \alpha。

使用计算机直接数值计算二项分布的累计概率,可以得到

\mathbb{P}[T(X) \ge 11] = 0.0132, \quad \mathbb{P}[T(X) \ge 12] = 0.00521.

所以 W = \{x: T(x) \ge 12\}。而实际样本 T(x) = 15,已经落入区域 W。所以从工厂的角度,他们有充分的理由认为不合格率达到了一定值。

假设检验的基本思想

假设检验基本基于上述的流程,是一种改造的“反证法”,它反证的方式是:

如果某个假设下,某个概率很小的事情出现了,我们就应该质疑假设。

由于假设检验通常并不是论证原假设成立,而是尝试论证原假设不成立,所以这种思想导出了第一类错误的控制原则:我们应该优先保证第一类错误 \alpha 足够小,不超过某个给定的值,再设计随机试验。

拒绝域的构造

参考:(链接未公开)

有些时候,拒绝域的构造不是一个纯数学的确定性过程,而是一个需要引入人类经验的过程。

例如,在拟合优度检验中,备择假设 H_1 是“当前样本不是从某个分布抽样得到的”。但是要具体变成一个拒绝域,我们就需要衡量当前样本有多大程度不像一个分布,而怎么衡量分布的相似性并不具有唯一的标准,这就导致我们需要主动选择某种标尺。

因此,统计学有其严格数学的一面,但也有其对接真实世界时需要的经验、直觉等内容。

BEYOND THE ARTICLE

读完了,有什么想法?

阅读已保存的问答示例,并循着引用回到原文。

查看公开问答示例
— 本文完 — 返回文章列表