在做回歸時，很多時候會有$\text{E}(x_t{\epsilon }_t)=0$的情況，這也意味著不滿足外生性條件$\text{E}(\epsilon |X)=0$，此時的OLS估計量$\hat{\beta }$就不再滿足無偏性，并且隨著$n$的變大，它的bias也無法變小。若對此無法理解，請先掌握《小樣本OLS回歸梳理》中的內容。

此時該怎么辦？一種解決方法是利用一些與$\epsilon$無關的變量，這就是工具變量（instrumental variables，下文統稱IV）。我們假設找到的IV是一些$l\times 1$的向量$z_t$，再將它排成$n\times l$的矩陣$Z=[z_1,?,z_n{]}^{\prime }$。

IV需要與原來的$x_t$足夠接近，因此$Z^{\prime }X$（$X$為$n\times k$矩陣）必須滿列秩。而我們尋找IV的目的，就是要讓IV滿足$\text{E}(z_t{\epsilon }_t)=0$，由數據生成過程${\epsilon }_t=y_t?x_t^{\prime }{\beta }_o$可知，我們要求解的就是滿足$\text{E}(z_t(y_t?x_t^{\prime }{\beta }_o))=0$的${\beta }_o$。

我們無法知道$\text{E}(z_t{y}_t)$和$\text{E}(z_t{x}_t^{\prime })$，但可以用樣本矩代替，即
$$n^{?1}\sum _{t=1}^n{z}_t(y_t?x_t^{\prime }{\beta }_o)=Z^{\prime }(y?X{\beta }_o)/n=0$$

上面的方程，若$l<k$，則有多個解，若$l=k$且$Z^{\prime }X$非奇異，則有唯一解${\tilde{\beta }}_n=(Z^{\prime }X{)}^{?1}{Z}^{\prime }y$，若$l>k$，無解。在經濟學理論中，往往會出現$l>k$的情形，此時盡管方程無解，但我們依舊可以尋找${\beta }_o$，使$Z^{\prime }(y?X{\beta }_o)$盡可能接近$0$。

我們可以定義一個$Z^{\prime }(y?X{\beta }_o)$和$0$之間的二次距離：
$$d_n(\beta )=(Y?X\beta {)}^{\prime }Z{\hat{P}}_n{Z}^{\prime }(y?X\beta )$$
其中${\hat{P}}_n$是一個$l\times l$的正定范數矩陣（positive definite norming matrix），它可以是隨機矩陣。這里之所以選擇二次距離，是因為這樣在求解最優化問題時比較方便，可以直接寫出一階條件：
$$\frac{?d_n(\beta )}{?\beta }=?2X^{\prime }Z{\hat{P}}_n{Z}^{\prime }(y?X\beta )=0$$

假設$X^{\prime }Z{\hat{P}}_n{Z}^{\prime }X$非奇異，就可以得到IV估計量
$${\tilde{\beta }}_n=(X^{\prime }Z{\hat{P}}_n{Z}^{\prime }X{)}^{?1}{X}^{\prime }Z{\hat{P}}_n{Z}^{\prime }y$$

只要選擇$Z$和${\hat{P}}_n$，就可以得到各種計量經濟學中的估計量。比如選擇$Z=X$和${\hat{P}}_n=(X^{\prime }X/n{)}^{?1}$，那么${\tilde{\beta }}_n$就變成了OLS估計量${\hat{\beta }}_n$。而選擇${\hat{P}}_n=(Z^{\prime }Z/n{)}^{?1}$，就得到了2SLS（two-stage least squares）估計量。

IV估計量是無偏的嗎？在數據生成過程$y=X{\beta }_o+\epsilon$下，有
$$\begin{array}{rl}{\tilde{\beta }}_n=& (X^{\prime }Z{\hat{P}}_n{Z}^{\prime }X{)}^{?1}{X}^{\prime }Z{\hat{P}}_n{Z}^{\prime }y\\ =& (X^{\prime }Z{\hat{P}}_n{Z}^{\prime }X{)}^{?1}{X}^{\prime }Z{\hat{P}}_n{Z}^{\prime }(X{\beta }_o+\epsilon )\\ =& {\beta }_o+(X^{\prime }Z{\hat{P}}_n{Z}^{\prime }X{)}^{?1}{X}^{\prime }Z{\hat{P}}_n{Z}^{\prime }\epsilon \end{array}$$

事實上，上式的第二項我們沒有理由保證它為$0$，哪怕有$\text{E}(\epsilon |Z)=0$也無法保證。但在假設$Z^{\prime }\epsilon /n\stackrel{a.s.}{?}0$、$Z^{\prime }X/n\stackrel{a.s.}{?}Q$（$Q$為有限滿列秩矩陣）以及${\hat{P}}_n\stackrel{a.s.}{?}P$（$P$為有限正定矩陣）之后，可以得到比無偏性更弱的一致性：${\tilde{\beta }}_n\stackrel{a.s.}{?}{\beta }_o$。

總結

以上是生活随笔為你收集整理的工具变量原理的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。