UA MATH566 統計理論 推導卡方擬合優度檢驗

卡方擬合優度檢驗主要是檢驗categorical data的，假設一共有$d$種category，每一種理論比例為$p_i$，滿足
$$\sum _{i=1}^d{p}_i=1,p_i\ge 0$$

假設我們想要檢驗的問題是：
$$\begin{gathered} H_0:{\pi }_i=p_i,i=1,?,d \\ {H}_a:{\pi }_i=p_i,?i \end{gathered}$$

假設每一種category的頻數為$n_1,?,n_d$，則category data的似然為
$$\begin{gathered} L(p_1,?,p_d)=\prod _{i=1}^d{p}_i^{n_i} \\ \ln L(p_1,?,p_d)=\sum _{i=1}^d{n}_i\ln p_i \end{gathered}$$

考慮$p_i$的MLE，
$$\begin{gathered} \underset{p_i}{\max }\ln L(p_1,?,p_d)=\sum _{i=1}^d{n}_i\ln p_i \\ s.t.\sum _{i=1}^d{p}_i=1,p_i\ge 0 \end{gathered}$$

定義
$$\begin{gathered} g(p_1,?,p_d,\lambda )=\sum _{i=1}^d{n}_i\ln p_i?\lambda (\sum _{i=1}^d{p}_i?1) \\ \frac{?g}{?p_i}=\frac{n_i}{p_i}?\lambda =0?p_i=\frac{n_i}{\lambda }?\sum _{i=1}^d\frac{n_i}{\lambda }=\frac{n}{\lambda }=1 \end{gathered}$$

所以MLE為
$${\hat{p}}_i=\frac{n_i}{n}$$

這個檢驗的似然比為
$$\Lambda (n)=\frac{{\prod }_{i=1}^d{\pi }_i^{n_i}}{{\prod }_{i=1}^d{\hat{p}}_i^{n_i}}=\prod _{i=1}^d{\left(\frac{n{\pi }_i}{n_i}\right)}^{n_i}$$

根據似然比檢驗的原理，當$\Lambda (n)$比較小的時候應該拒絕原假設。考慮統計量
$$?2\ln \Lambda (n){\to }_d{\chi }_{d?1}^2,asn\to \infty$$

實際計算的時候會用近似：
$$?2\ln \Lambda (n)=2\sum _{i=1}^d{n}_i\ln \frac{n_i}{n{\pi }_i}$$

定義$O_i=n_i,E_i=n{\pi }_i$，$O_i$是觀測值，$E_i$是理論值
$$\begin{gathered} ?2\ln \Lambda (n)=2\sum _{i=1}^d{O}_i\ln \frac{O_i}{E_i}=\sum _{i=1}^d\ln {\left(\frac{O_i}{E_i}\right)}^{2O_i} \\ =\sum _{i=1}^d\ln {\left(1?\frac{E_i?O_i}{E_i}\right)}^{2O_i}\approx \sum _{i=1}^d{\left(\frac{E_i?O_i}{E_i}\right)}^2 \end{gathered}$$

因此卡方檢驗的統計量為
$${\chi }^2=\sum _{i=1}^d{\left(\frac{E_i?O_i}{E_i}\right)}^2～{\chi }_{d?1}^2$$

總結

以上是生活随笔為你收集整理的UA MATH566 统计理论 推导卡方拟合优度检验的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。