概统-假设检验

基本概念

$H_0:$ 该女士不具备鉴别能力 若全部选对

• $H_0$ 为真时，全选对的概率为

$$p=\frac{1}{\left(\genfrac{}{}{0ex}{}{8}{4}\right)}=\frac{1}{70}$$

• $H_0$ 为假 二者必有其一成立。 若只选对了 3 杯，$H_0$ 成立时，猜对至少三杯的概率为

$$\frac{\left(\genfrac{}{}{0ex}{}{4}{3}\right)\left(\genfrac{}{}{0ex}{}{4}{1}\right)+1}{\left(\genfrac{}{}{0ex}{}{8}{4}\right)}=\frac{17}{70}$$

这一概率是出现观测结果或更极端的观测的概率，称为P 值

Neyman-Pearson 假设检验

统计假设：对一个或多个统计总体的猜测. 考虑两个对立的假设：原假设$H_0$ 和备择假设$H_1$， $H_0$ 是被检验的假设，$H_1$ 时拒绝 $H_0$ 后可供选择的假设

$$H_0:\theta \in {\Theta }_0,H_1:\theta \in {\Theta }_1$$

${\Theta }_0\cap {\Theta }_1=\varnothing ,{\Theta }_0\cup {\Theta }_1=\theta$ 的所有可能取值之集

Example

$X\sim N(\mu ,{\sigma }^2),H_0:\mu ={\mu }_0,H_1:\mu \ne {\mu }_0$

将所有可能的样本观测结果的集合划分为 $R$ 和 $R^c$ 两部分，当观测值落在拒绝域 $R$ 内时拒绝 $H_0$，否则不拒绝 $H_0$ 拒绝域可抽象表示为

$$R=\{(X_1,..,X_n)|T(X_1,\dots ,X_n)\ge c\}$$

有两种可能发生的错误：

• 第一类错误，弃真错误：$H_0$ 实际为真但被拒绝了
• 第二类错误，取伪错误：$H_0$ 实际为假但没有被拒绝

N-P 范式：$n$ 固定时，控制 $P(\text{I})$ 不超过 $\alpha$，再尽可能减小 $P(\text{II})$

定义 $1-P(\text{II})$ 为检验的功效。

如果 $P(\text{II})$ 足够小，功效足够大，则不拒绝 $H_0$ 可以升级为接受 $H_0$

假设检验与置信区间

Example

$X\sim N(\mu ,{\sigma }^2)$，${\sigma }^2$ 已知，$\mu$ 未知 置信区间 $\left(\overline{X}-z_{\alpha /2}\frac{\sigma }{\sqrt{n}},\overline{X}+z_{\alpha /2}\frac{\sigma }{\sqrt{n}}\right)$ 假设检验： $H_0:\mu ={\mu }_0,H_1:\mu \ne {\mu }_0$ 拒绝域：$|\overline{X}-{\mu }_0|\ge z_{\alpha /2}\frac{\sigma }{\sqrt{n}}$ 若 ${\mu }_0$ 位于置信区间内，则不拒绝。

• 区间估计和假设检验间存在对偶关系

检验的 P 值

当 $H_0$ 为真时，出现观测结果或更极端的观测结果的概率称为该检验的 $P$ 值. $P$ 值越小，在原假设下观测到结果的可能性就越低，越有充分证据拒绝 $H_0$ $P_n=\overline{X}$ 作为检验统计量 $H_0:p=p_0,H_1:p>p_0$

$$\frac{P_n-p}{Se(P_n)}\sim N(0,1)$$ $$Se(P_n)=\sqrt{\frac{p(1-p)}{n}}$$

$H_0$ 为真时，$p=p_0$，

$$Se(P_n)=\sqrt{\frac{p_0(1-p_0)}{n}}$$ $$P值=P(P_n\ge p_n|H_0)=P\left(Z\ge \frac{p_n-p}{\sqrt{\frac{p(1-p)}{n}}}\right)$$

拟合优度检验

$H_0:p_1=p_1^0,p_2=p_2^0,\dots ,p_k=p_k^0$

$${\chi }^2=\sum _{i=1}^k\frac{(O_i-E_i{)}^2}{E_i}$$

若 $H_0$ 为真，则 $n\to \infty$ 时，${\chi }^2\stackrel{d}{\to }{\chi }^2(k-1)$

$$P值=P({\chi }^2\ge {\chi }_0^2|H_0)$$

$H_0:独立,H_1:不独立$

$${\chi }^2=\sum _{i,j}\frac{(O_{ij}-E_{ij}{)}^2}{E_{ij}}$$

$H_0$ 为真时，$p_{ij}=p_{i+}{p}_{+j}\approx p_{i+}^{\ast }{p}_{+j}^{\ast }$ 自由度为 $(a-1)(b-1)$

似然比检验

$$H_0:\theta \in {\Theta }_0,H_1:\theta \in {\Theta }_1$$ $${\Lambda }^{\ast }=\frac{{\sup }_{\theta \in {\Theta }_0}L(\theta )}{{\sup }_{\theta \in {\Theta }_1}L(\theta )}$$ $$\Lambda =\frac{{\sup }_{\theta \in {\Theta }_0}L(\theta )}{{\sup }_{\theta \in {\Theta }_0\cup {\Theta }_1}L(\theta )}=\min \{{\Lambda }^{\ast },1\}=\frac{{\sup }_{\theta \in {\Theta }_0}L(\theta )}{L({\theta }^{\ast })}$$

$\Lambda$ 越小，越反对 $H_0$ 可根据 $P(\Lambda \le c|H_0)\le \alpha$ 确定临界值 $c$ 和拒绝域 当 $f$ 满足一定正则性条件时，当 $H_0$ 为真时，

$$-2\log \Lambda \stackrel{d}{\to }{\chi }^2(d),n\to \infty$$

其中自由度 $d=\dim ({\Theta }_0\cup {\Theta }_1)-\dim ({\Theta }_0)$

$(X_1,\dots ,X_k)$ 服从多项分布， $H_0:p_1=p_1^0,\dots ,p_k=p_k^0$

$$L(p_1,\dots ,p_k)=\left(\genfrac{}{}{0ex}{}{n}{n_1,\dots ,n_k}\right)p_1^{n_1}\dots p_k^{n_k}$$ $$\Lambda =\frac{(p_1^0{)}^{n_1}\dots (p_k^0{)}^{n_k}}{(p_1^{\ast }{)}^{n_1}\dots (p_k^{\ast }{)}^{n_k}}$$ $$\begin{array}{rl}-2\log \Lambda & =2\sum _{i=1}^k{n}_i\log \frac{p_i^0}{p_i^{\ast }}\\ & =2\sum _{i=1}^k{O}_i\log \frac{O_i}{E_i}\\ & =2\sum _{i=1}^k(O_i-E_i)+\sum _{i=1}^k\frac{(O_i-E_i{)}^2}{E_i}+o((O_i-E_i{)}^2)\\ & =\sum _{i=1}^k\frac{(O_i-E_i{)}^2}{E_i}\end{array}$$

自由度为 $(k-1)-0=k-1$ 与卡方检验等价

两总体比较

若 $X\sim N({\mu }_1,{\sigma }_1^2),Y\sim N({\mu }_2,{\sigma }_2^2)$

比较均值

$H_0:{\mu }_1={\mu }_2,H_1:{\mu }_1\ne {\mu }_2$ 若 ${\sigma }_1,{\sigma }_2$ 已知，

$$Z=\frac{\overline{X}-\overline{Y}}{\sqrt{\frac{{\sigma }_1^2}{n}+\frac{{\sigma }_2^2}{m}}}$$

$H_0$ 为真时，$Z\sim N(0,1)$ $|Z|\ge z_{\alpha /2}$ 时拒绝 $H_0$

若 ${\sigma }_1,{\sigma }_2$ 未知，但已知 ${\sigma }_1={\sigma }_2$

$$T=\frac{\overline{X}-\overline{Y}}{S\sqrt{\frac{1}{n}+\frac{1}{m}}}$$

其中

$$S^2=\frac{(n-1)S_X^2+(m-1)S_Y^2}{n+m-2}$$

$H_0$ 为真时，$T\sim t(n+m-2)$ $|T|\ge t_{\alpha /2}(n+m-2)$ 时拒绝 $H_0$

若 ${\sigma }_1,{\sigma }_2$ 未知且不相等 可使用大样本方法

$$Z=\frac{\overline{X}-\overline{Y}}{\sqrt{\frac{S_X^2}{n}+\frac{S_Y^2}{m}}}$$

$Z\sim N(0,1)$

比较方差

$H_0:{\sigma }_1^2={\sigma }_2^2,H_1:{\sigma }_1^2\ne {\sigma }_2^2$

$$\frac{(n-1)S_1^2}{{\sigma }_1^2}\sim {\chi }^2(n-1),\frac{(m-1)S_2^2}{{\sigma }_2^2}\sim {\chi }^2(m-1)$$ $$F=\frac{\frac{(n-1)S_1^2}{{\sigma }_1^2}/(n-1)}{\frac{(m-1)S_2^2}{{\sigma }_2^2}/(m-1)}=\frac{S_1^2}{S_2^2}\sim F(n-1,m-1)$$

$F\ge F_{\alpha /2}(n-1,m-1)$ 或 $F\le F_{1-\alpha /2}(n-1,m-1)$ 时拒绝 $H_0$

比例比较

$H_0:p_1=p_2,H_1:p_1<p_2$

$$\frac{(P_1-P_2)-(p_1-p_2)}{Se(P_1-P_2)}\sim N(0,1)$$ $$Se(P_1-P_2)=\sqrt{\frac{p_1(1-p_1)}{n_1}+\frac{p_2(1-p_2)}{n_2}}$$

$H_0$ 为真时，可用极大似然估计 $p^{\ast }$ 来代替 $p_1=p_2$ 估计标准误

$$\widehat{Se}=\sqrt{p^{\ast }(1-p^{\ast })\left(\frac{1}{n_1}+\frac{1}{n_2}\right)}$$