假设检验 Hypothesis Testing

假设检验（Hypothesis Testing）是统计推断的一类重要问题。

在总体的分布函数完全未知或只知其形式，但不知其参数的情况下，为了推断总体的某些未知特性，提出关于总体的假设。然后，根据少量样本的观测情况，对所提出的假设作出是接受，还是拒绝的决策。

比如，我们可以提出总体服从泊松分布的假设，然后根据实际样本接受这个假设，或推翻拒绝这个假设。

比如，我们也可以对正态分布的总体提出数学期望等于$\mu_0$的假设，然后根据实际样本，接受或拒绝这个假设。在统计推断时，我们会提出两个相互对立的假设，分别是原假设/零假设（Null Hypothesis）和备择假设（Alternative Hypothesis）。备择假设意味着，在原假设被拒绝后可供选择的假设。

以包装机包装为例，每袋包装的重量是个随机变量，它服从正态分布。当机器正常时，均值为0.5公斤，标准差为0.015公斤。某日开工后，为了检验包装机是否工作正常，随机抽取它所包装的产品 9 袋，称得重量为：

请问这一天机器是否正常工作？

以$\mu$和 $\sigma$ 分别表示这一天产品包装重量的总体$X$的均值（ mean ）和标准差（standard deviation）。一般标准差比较稳定，所以可以假设 $\sigma = 0.015$ 。于是$X \sim N(\mu, 0.015^2)$。这里$\mu$未知，问题是根据样本判断$\mu = 0.5$还是$\mu \neq 0.5$。

于是，我们可以提出两个相互对立的假设：

$$H_0: \mu = \mu_0 = 0.5$$

$$H_1: \mu \neq \mu_0$$

因为$\bar{X}$是 $\mu$ 的无偏估计，$\bar{X}$的观察值 $\bar{x}$ 的大小在一定程度上反映$\mu$的大小。无偏估计（unbiased estimation）是用统计样本量来估计总体参数的一种无偏推断。估计量的数学期望等于被估计参数的真实值，则称此估计量为被估计参数的无偏估计。

如果假设$H_0$为真，则观察值$\bar{x}$与 $\mu_0$ 的偏差 $|\bar{x} - \mu_0|$ 一般不应太大。若$|\bar{x} - \mu_0|$过分大，我们就可以怀疑假设$H_0$的正确性，而拒绝$H_0$。

考虑到$H_0$为真时，$\bar{X} \sim N(\mu_0, \sigma)$ ，于是 $\frac{\bar{X} - \mu_0}{\sigma / \sqrt{n}} \sim N(0, 1)$。而衡量 $|\bar{x} - \mu_0|$ 的大小，就可归结为衡量 $\frac{|\bar{x} - \mu_0|}{\sigma / \sqrt{n}}$ 的大小。

这样，我们就可以选定一个较小的正数 $k$，使得，当观察值 $\bar{x}$ 满足$\frac{|\bar{x} - \mu_0|}{\sigma / \sqrt{n}} \geq k$时，就拒绝假设 $H_0$，反之，若 $\frac{|\bar{x} - \mu_0|}{\sigma / \sqrt{n}} < k$ ，就接受假设 $H_0$。

然而，对于不同的样本，相同的$k$取值，也会得到不同的拒绝$H_0$的概率。这样就没有参考意义。所以，需要控制当$H_0$为真时，拒绝 $H_0$ 的概率的大小。假设一个值$\alpha (0 < \alpha < 1)$，使得犯这种错的概率在可接受范围内。

$$P\{\text{当} H_0 \text{为真时，拒绝} H_0\} \leq \alpha$$

因为$P$的最大取值为 $\alpha$，所以得到：

$$P\{\text{当} H_0 \text{为真时，拒绝} H_0\} = P_{\mu_0} \{ \frac{|\bar{x} - \mu_0|}{\sigma / \sqrt{n}} \geq k \} = \alpha$$

由于当$H_0$为真时，$Z = \frac{\bar{X} - \mu_0}{\sigma / \sqrt{n}} \sim N(0, 1)$。得出，使 $P_{\mu_0} \{ \frac{|\bar{x} - \mu_0|}{\sigma / \sqrt{n}} \geq k \} = \alpha$ 成立的$k$值为 $z_{\alpha/2}$ 。

因此，若$Z$观察值满足 $$|z| = \frac{|\bar{x} - \mu_0|}{\sigma / \sqrt{n}} \geq k = z_{\alpha/2}$$ ，则拒绝 $H_0$。

而 $$|z| = \frac{|\bar{x} - \mu_0|}{\sigma / \sqrt{n}} < k = z_{\alpha/2}$$ ，则接受$H_0$。

回到本例子，$\alpha = 0.05$ ，则有 $k=z_{0.05/2} = z_{0.025} = 1.96$，又已知$n = 9, \mu_0 = 0.5, \sigma = 0.015, \bar{x} = 0.511$即有：

$$|\frac{\bar{x}-\mu_0}{\sigma /\sqrt{n}}| = |\frac{0.511 - 0.5}{0.015/\sqrt{9}}| = |\frac{0.011}{0.005}| = 2.2 > 1.96$$

于是，拒绝 $H_0$。所以可以认为这一天包装机器工作不正常。

在 $$|z| = \frac{|\bar{x} - \mu_0|}{\sigma / \sqrt{n}} < k = z_{\alpha/2}$$ 中，我们称数$\alpha$为 显著性水平（significance level） 。关于$\bar{x}$与 $\mu_0$ 有无显著性差异的判断是在显著性水平$\alpha$下作出的。

于是，假设验证问题可以这样表述：在显著性水平$\alpha$下，检验假设

$$H_0 : \mu = \mu_0, ~~ H_1 : \mu \neq \mu_0$$

If our data produce values that meet or exceed the significance level $\alpha$, then we have sufficient evidence to reject the null hypothesis $H_0$; if not, we fail to reject the null.

拒绝原假设$H_0$的区域成为 拒绝域（rejection region/critical region） ，拒绝域的边界点称为临界点（ threshold ）。备择条件$H_1： \mu \neq \mu_0$ ，$\mu$可能大于$\mu_0$也可能小于$\mu_0$。所以称为双边备择假设。而这样的假设验证称为双边假设验证。

接下来，我们用 R 的 z.test 函数来进行假设验证测试。

首先，我们用直方图看看样本观察值：

library(rcompanion)
data <- c(0.497, 0.506, 0.518, 0.524, 0.498, 0.511, 0.520, 0.515, 0.512)
plotNormalHistogram(data)

正态概率图（Normal Quantile-Quantile Plot）:

library(rcompanion)
data <- c(0.497, 0.506, 0.518, 0.524, 0.498, 0.511, 0.520, 0.515, 0.512)
qqnorm(data)
qqline(data, col="red") 

调用z.test进行假设验证测试：

library("BSDA")
data <- c(0.497, 0.506, 0.518, 0.524, 0.498, 0.511, 0.520, 0.515, 0.512)
z.test(x = data,
       alternative = "two.sided",
       mu = 0.5, sigma.x = 0.015,
       conf.level = 0.95)

	One-sample z-Test

data:  data
z = 2.2444, p-value = 0.0248
alternative hypothesis: true mean is not equal to 0.5
95 percent confidence interval:
 0.5014224 0.5210220
sample estimates:
mean of x 
0.5112222 

从结果来看，

$$|z| = |\frac{\bar{x} - \mu_0}{\sigma/\sqrt{n}}| = 2.2444$$

p值（ p-value ）为 0.0248。 p 值是根据实际观察值计算出来的显著性水平。

因为

$$P\{\text{当} H_0 \text{为真时，拒绝} H_0\} = P_{\mu_0} \{ \frac{|\bar{x} - \mu_0|}{\sigma / \sqrt{n}} \geq k \} = \alpha$$

所以，当 p 值越小，表示表示“当原假设为真时，拒绝该假设的概率越小。一般以小于 p 值小于 0.05为拒绝原假设的普遍标准。