UA MATH571A 一元線性回歸II 統(tǒng)計(jì)推斷2

• ${\beta }_0$的分布
• 擬合與預(yù)測(cè)
• • 擬合值的區(qū)間估計(jì)
  • 預(yù)測(cè)值的區(qū)間估計(jì)
• 數(shù)值例子：女性肌肉量與年齡的關(guān)系

${\beta }_0$的分布

將${\beta }_0$關(guān)于$Y_i$的線性組合進(jìn)一步展開(kāi)
$$\begin{gathered} {\hat{\beta }}_0=\sum _{i=1}^N(\frac{1}{N}?k_i\bar{X})Y_i=\sum _{i=1}^N(\frac{1}{N}?k_i\bar{X})({\beta }_0+{\beta }_1{X}_i+{?}_i) \\ ={\beta }_0+{\beta }_1\bar{X}+\frac{1}{N}\sum _{i=1}^N{?}_i?{\beta }_0\bar{X}\sum _{i=1}^N{k}_i?{\beta }_1\bar{X}\sum _{i=1}^N{k}_i{X}_i?\bar{X}\sum _{i=1}^N{k}_i{?}_i \\ ={\beta }_0+\sum _{i=1}^N(\frac{1}{N}?k_i\bar{X}){?}_i \end{gathered}$$

因此
$$\begin{gathered} {\hat{\beta }}_0={\beta }_0+\sum _{i=1}^N(\frac{1}{N}?k_i\bar{X}){?}_i \\ E({\hat{\beta }}_0)={\beta }_0 \\ Var({\hat{\beta }}_0)={\sigma }^2\sum _{i=1}^N(\frac{1}{N}?k_i\bar{X}{)}^2={\sigma }^2\sum _{i=1}^N(\frac{1}{N^2}?2k_i\bar{X}/N+k_i^2{\bar{X}}^2)={\sigma }^2(\frac{1}{N}+\sum _{i=1}^N{k}_i^2{\bar{X}}^2) \\ {\hat{\beta }}_0～N({\beta }_0,{\sigma }^2(\frac{1}{N}+\sum _{i=1}^N{k}_i^2{\bar{X}}^2)) \end{gathered}$$
知道${\hat{\beta }}_0$的分布后，可以像對(duì)${\hat{\beta }}_1$做統(tǒng)計(jì)推斷那樣，對(duì)${\hat{\beta }}_0$進(jìn)行推斷。

擬合與預(yù)測(cè)

擬合與預(yù)測(cè)是一元線性回歸另外兩個(gè)常用的功能。擬合指的是變量X的值$X_h$對(duì)應(yīng)的變量Y的估計(jì)值：
$${\hat{Y}}_h={\hat{\beta }}_0+{\hat{\beta }}_1{X}_h$$
其中$X_h$是樣本范圍內(nèi)的值。比如在之前的例子中，女性肌肉量與年齡的數(shù)據(jù)來(lái)源于40-79歲的女性群體，變量X的采樣范圍就是40-79歲。預(yù)測(cè)指的是對(duì)樣本以外的變量X的值$X_h$，計(jì)算變量Y的估計(jì)值。比如根據(jù)女性肌肉量與年齡的回歸關(guān)系，計(jì)算80歲女性個(gè)體平均肌肉量，80歲不在樣本內(nèi)，所以這是預(yù)測(cè)。

擬合值的區(qū)間估計(jì)

與系數(shù)的估計(jì)量類(lèi)似，${\hat{Y}}_h$也是一個(gè)隨機(jī)變量，所以根據(jù)模型與輸入$X_h$算出來(lái)的擬合值只是對(duì)${\hat{Y}}_h$的一個(gè)觀測(cè)。${\hat{Y}}_h$服從正態(tài)分布，
$$\begin{gathered} E({\hat{Y}}_h)=E({\hat{\beta }}_0+{\hat{\beta }}_1{X}_h)={\beta }_0+{\beta }_1{X}_h=Y_h \\ Var({\hat{Y}}_h)=Var({\hat{\beta }}_0+{\hat{\beta }}_1{X}_h)={\sigma }^2(\frac{1}{N}+\frac{(X_h?\bar{X}{)}^2}{{\sum }_{i=1}^N(X_i?\bar{X}{)}^2}) \end{gathered}$$
所以方差的無(wú)偏估計(jì)為
$$\begin{gathered} s^2\{{\hat{Y}}_h\}=MSE(\frac{1}{N}+\frac{(X_h?\bar{X}{)}^2}{{\sum }_{i=1}^N(X_i?\bar{X}{)}^2}) \\ t=\frac{{\hat{Y}}_h?Y_h}{se\{{\hat{Y}}_h\}}=\frac{{\hat{Y}}_h?Y_h}{\sqrt{MSE(\frac{1}{N}+\frac{(X_h?\bar{X}{)}^2}{{\sum }_{i=1}^N(X_i?\bar{X}{)}^2})}}～t(N?2) \end{gathered}$$
根據(jù)該分布可以給出下面的關(guān)系式，其中$1?\alpha$是置信水平
$$1?\alpha =P(t(\frac{\alpha }{2},N?2)<t<t(1?\frac{\alpha }{2},N?2))$$
據(jù)此可以得到擬合值置信水平為$1?\alpha$的置信區(qū)間
$${\hat{Y}}_h?se(se\{{\hat{Y}}_h\})t(1?\frac{\alpha }{2},N?2)<Y_h<{\hat{Y}}_h+se(se\{{\hat{Y}}_h\})t(1?\frac{\alpha }{2},N?2)$$

預(yù)測(cè)值的區(qū)間估計(jì)

當(dāng)$X_h$是采樣范圍的新的觀測(cè)值時(shí)，預(yù)測(cè)值
$${\hat{Y}}_h={\hat{\beta }}_0+{\hat{\beta }}_1{X}_h$$
同樣可以構(gòu)造t分布
$$t=\frac{{\hat{Y}}_h?Y_h}{se\{{\hat{Y}}_h?Y_h\}}～t(N?2)$$
此時(shí)$Y_h$要當(dāng)成是一個(gè)隨機(jī)變量，$Var(Y_h)={\sigma }^2$，
$$\begin{gathered} Var({\hat{Y}}_h?Y_h)=Var({\hat{Y}}_h)+Var(Y_h)={\sigma }^2(1+\frac{1}{N}+\frac{(X_h?\bar{X}{)}^2}{{\sum }_{i=1}^N(X_i?\bar{X}{)}^2}) \\ t=\frac{{\hat{Y}}_h?Y_h}{se\{{\hat{Y}}_h?Y_h\}}=\frac{{\hat{Y}}_h?Y_h}{\sqrt{MSE(1+\frac{1}{N}+\frac{(X_h?\bar{X}{)}^2}{{\sum }_{i=1}^N(X_i?\bar{X}{)}^2})}}～t(N?2) \end{gathered}$$
所以預(yù)測(cè)值置信水平為$1?\alpha$的置信區(qū)間
$${\hat{Y}}_h?se(se\{{\hat{Y}}_h?Y_h\})t(1?\frac{\alpha }{2},N?2)<Y_h<{\hat{Y}}_h+se(se\{{\hat{Y}}_h?Y_h\})t(1?\frac{\alpha }{2},N?2)$$

數(shù)值例子：女性肌肉量與年齡的關(guān)系

上一篇我們已經(jīng)建立了女性肌肉量與年齡的一元線性回歸模型
$$Y_i={\beta }_0+{\beta }_1{X}_i+{?}_i$$
其中$Y_i$表示女性個(gè)體的肌肉量，$X_i$表示女性個(gè)體的年齡。現(xiàn)在我們按假設(shè)檢驗(yàn)的思路對(duì)女性個(gè)體肌肉量會(huì)隨著年齡增長(zhǎng)而減少的猜想進(jìn)行驗(yàn)證。
$$\begin{gathered} H_0:{\beta }_1\ge 0 \\ {H}_a:{\beta }_1<0 \end{gathered}$$
原假設(shè)的含義是女性個(gè)體的肌肉量會(huì)隨著年齡增長(zhǎng)而變多或是保持不變，備擇假設(shè)的含義是女性個(gè)體的肌肉量會(huì)隨著年齡增長(zhǎng)變少。從summary()的結(jié)果中讀取統(tǒng)計(jì)量$t^{?}=\frac{{\hat{\beta }}_1}{se(\widehat{{\beta }_1})}$的值：

紅框內(nèi)的結(jié)果是$se(\widehat{{\beta }_1})$，黃框中的結(jié)果是$t^{?}$，單邊檢驗(yàn)中$t^{?}$需要和$t(1?\frac{\alpha }{2},N?2)$比較，假設(shè)檢驗(yàn)水平為1%

> -qt(1-(.01/2),58) [1] -2.663287

顯然$t^{?}<?2.663287$，拒絕原假設(shè)，接受備擇假設(shè)：女性個(gè)體的肌肉量會(huì)隨著年齡增長(zhǎng)變少。藍(lán)框中的值并非是這個(gè)檢驗(yàn)的p值，而是雙邊檢驗(yàn)的p值。可以根據(jù)上面敘述的結(jié)論計(jì)算該檢驗(yàn)的p值

> pt(-13.19,58) [1] 2.084381e-19

灰框中是${\beta }_0$相關(guān)的量，可以用來(lái)對(duì)${\beta }_0$的推斷。如果要估計(jì)40歲女性肌肉量的95%置信區(qū)間，可以采用下面的方法

> predict(Ex1.lm,newdata=data.frame(X=40),interval="conf",level=.95)fit lwr upr [1] 108.7467 104.566 112.9275

結(jié)果說(shuō)明40歲女性的平均肌肉量是108.7467（我也不知道單位是啥。。。），95%的置信區(qū)間是[104.566,112.9275]說(shuō)明如果有大量樣本的話可以觀察到95%的四十歲女性肌肉量都在這個(gè)區(qū)間內(nèi)。如果要估計(jì)80歲女性肌肉量的95%置信區(qū)間，同樣應(yīng)該使用predict()函數(shù)，但interval要改為predict

> predict(Ex1.lm,newdata=data.frame(X=80),interval="pred",level=.9)fit lwr upr 1 61.14692 47.04494 75.24891

結(jié)果說(shuō)明80歲女性的平均肌肉量是61.14692，95%的置信區(qū)間是[47.04494,75.24891]。

總結(jié)

以上是生活随笔為你收集整理的UA MATH571A 一元线性回归II 统计推断2的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。