假设检验的思想
基本思想
假设检验,可以理解为反证法思想在概率论、统计学上的应用。
引入
假设工厂收到了一批零件,工厂要求供应商提供零件的不合格率必须低于 1%,在交货现场对零件进行了抽检,抽检 500 个零件后发现有 15 个零件是损坏的,样本不合格率达到了 3%。那么工厂方怎么判断,这是某种随机波动还是这一批零件真的有问题?
如果我们要证明一个命题 H_1,我们先构造一个原假设 H_0,然后在假设 H_0 成立的条件下,给出 X 的概率分布,构造一个小概率事件 X \in W,其发生的概率小于一个预先给定的数 \alpha。如果实际抽样的样本 x 真的落入了区域 W,那么我们就有充分的理由认为 H_0 是错的。
具体到工厂抽样这个事情上,设不合格率为 q,取 \alpha = 0.01,我们给定原假设
样本是每个抽检的零件合格与否,我们假设这些零件的合格率独立,有
设统计量 T(X) = n - X_1 - \cdots - X_n,则显然
由此我们可以构造一个极端事件。不合格率很低时,抽检不合格产品数平均来说也应该很低。取最极端值 q_m = 0.01,我们可以计算出
的值。
找到最小的 \theta_0,使得
则我们就确定了,如果原假设成立,事件
是一个小概率事件,发生概率不超过 \alpha。
使用计算机直接数值计算二项分布的累计概率,可以得到
所以 W = \{x: T(x) \ge 12\}。而实际样本 T(x) = 15,已经落入区域 W。所以从工厂的角度,他们有充分的理由认为不合格率达到了一定值。
假设检验的基本思想
假设检验基本基于上述的流程,是一种改造的“反证法”,它反证的方式是:
如果某个假设下,某个概率很小的事情出现了,我们就应该质疑假设。
由于假设检验通常并不是论证原假设成立,而是尝试论证原假设不成立,所以这种思想导出了第一类错误的控制原则:我们应该优先保证第一类错误 \alpha 足够小,不超过某个给定的值,再设计随机试验。
拒绝域的构造
参考:(链接未公开)
有些时候,拒绝域的构造不是一个纯数学的确定性过程,而是一个需要引入人类经验的过程。
例如,在拟合优度检验中,备择假设 H_1 是“当前样本不是从某个分布抽样得到的”。但是要具体变成一个拒绝域,我们就需要衡量当前样本有多大程度不像一个分布,而怎么衡量分布的相似性并不具有唯一的标准,这就导致我们需要主动选择某种标尺。
因此,统计学有其严格数学的一面,但也有其对接真实世界时需要的经验、直觉等内容。
读完了,有什么想法?
阅读已保存的问答示例,并循着引用回到原文。