第 23 章 从计量角度看工具变量

第 21、22 章从实验的角度看 IV。图 23.1 把那套直觉画了出来。

          U
         ↙ ↘
    Z → D → Y

原书图 23.1:IV 的因果图。\(Z\) 指向 \(D\)\(D\) 指向 \(Y\);未测混杂 \(U\) 同时指向 \(D\)\(Y\)。没有从 \(Z\)\(Y\) 的直接箭头。

鼓励设计里有不依从时,\(Z\) 是随机化的,于是它与接受的处理 \(D\) 和结果 \(Y\) 之间的混杂 \(U\) 独立。要紧的是,处理分配 \(Z\) 对结果 \(Y\) 没有直接效应。它只通过接受的处理 \(D\) 去影响 \(Y\),因此它是 \(D\) 的 IV。这个 IV 是实验者造出来的。

许多应用里,随机化做不到。\(D\)\(Y\) 之间有未测混杂,还能做因果推断吗?计量经济学里有一个聪明的想法:去找自然实验(natural experiment),把鼓励设计的场景模仿出来。要在有未测混杂时识别 \(D\)\(Y\) 的因果效应,就去找另一个变量 \(Z\),让它满足图 23.1 那些假定。\(Z\) 得满足三条:

  1. 它应当接近随机化,从而与未测混杂 \(U\) 独立;
  2. 它应当能改 \(D\) 的分布;
  3. 它应当只通过 \(D\) 间接影响 \(Y\),而不是直接。

三条都成立,\(Z\) 就是估 \(D\)\(Y\) 效应的有效 IV。

这一章给出 IV 的传统计量视角。它立在线性回归上。Imbens and Angrist (1994) 与 Angrist et al. (1996) 把这一视角与第 21、22 章的实验视角接了起来,是一项根本性的贡献。我先举例子,再补代数。

23.1 带 IV 的研究例子

找 IV 做因果推断,更像一门手艺,不像一门科学。后面几节的代数,在统计学里并不是最绕的那些。真正难的,是经验研究里把 IV 找出来。下面是一些著名例子。

例 23.1 鼓励设计里,\(Z\) 是随机分配的处理,\(D\) 是最终接受的处理,\(Y\) 是结果。图 23.1 编码的那些 IV 假定,在第 21 章谈过的双盲 RCT 里说得通。这是 IV 最理想的情形。

例 23.2 Hearst et al. (1986) 报告:越战时期征兵抽签里抽到小号码的男性,后来死亡率更高。他们把这归因于服役的负面效应。Angrist (1990) 进一步报告:抽到小号码的男性,后来收入更低。他也归因于服役的负面效应。这些解释说得通,因为抽签号码是随机生成的,小号码的人更可能去服役,而抽签号码本身不太可能直接影响后来的死亡或收入。也就是说,图 23.1 说得通。Angrist et al. (1996) 用 IV 框架重新分析过这套数据。这里,抽签号码是 IV,服役是处理,死亡或收入是结果。

例 23.3 Angrist and Krueger (1991) 研究受教育年数对收入的回报,用出生季度当 IV。这个 IV 说得通,因为出生季度接近伪随机。它之所以能改受教育年数,是因为:(1) 美国多数州要求学生在满六岁的那个日历年入学;(2) 义务教育法通常要求学生在十六岁生日之前留在学校。更要紧的是,出生季度不太可能直接改收入。

例 23.4 Angrist and Evans (1998) 研究家庭规模对母亲就业与工作的效应,用头两孩的性别组合当 IV。这个 IV 说得通,因为头两孩的性别接近伪随机。而且,美国已有两个同性别孩子的父母,比已有一男一女的父母,更可能再生第三个。头两孩的性别组合本身,也不太可能直接改母亲的就业与工作。

例 23.5 Card (1993) 研究教育对工资的效应,用大学邻近度的地理变异当 IV。具体地说,\(Z\) 含指示变量:被试成长时附近是否有两年制学院或四年制大学。这项研究是经典,可它未必是 IV 的好例子:父母选择住在哪里,未必随机;一个人在哪里长大,后来的工资也可能直接受影响。

例 23.6 Voight et al. (2012) 用孟德尔随机化(Mendelian randomization)研究血浆高密度脂蛋白(HDL)胆固醇对心脏病发作风险的因果效应。他们用若干单核苷酸多态性(single-nucleotide polymorphism, SNP)当作 HDL 的遗传 IV:按孟德尔第二定律,它们相对于 HDL 与心脏病发作之间的未测混杂是随机的,并且只通过 HDL 影响心脏病发作。孟德尔随机化的细节,留到第 25 章。

23.2 普通最小二乘的一点复习

谈计量的 IV 之前,先复习 OLS(见附录 B)。这是统计学里的标准题目。可它有不同的数学表述,选哪一种,解释就不一样。

第一种看法立在投影上。给定有有限二阶矩的随机变量 \(Y\),以及随机变量或随机向量 \(D\),定义总体 OLS 系数为

\[ \begin{aligned} \beta &= \arg\min_{b} \mathrm{E}(Y-D^{\mathrm{T}}b)^{2} \\ &= \mathrm{E}(DD^{\mathrm{T}})^{-1}\mathrm{E}(DY), \end{aligned} \]

再定义总体残差为 \(\varepsilon=Y-D^{\mathrm{T}}\beta\)。按定义,\(Y\) 分解成

\[ Y=D^{\mathrm{T}}\beta+\varepsilon, \tag{23.1} \]

并且必须满足

\[ \mathrm{E}(D\varepsilon)=0. \]

基于 \((D_i,Y_i)_{i=1}^{n}\stackrel{\mathrm{IID}}{\sim}(D,Y)\)\(\beta\) 的 OLS 估计量就是矩估计量

\[ \hat\beta = \Biggl(\sum_{i=1}^{n}D_i D_i^{\mathrm{T}}\Biggr)^{-1} \sum_{i=1}^{n}D_i Y_i. \]

因为

\[ \begin{aligned} \hat\beta &= \Biggl(\sum_{i=1}^{n}D_i D_i^{\mathrm{T}}\Biggr)^{-1} \sum_{i=1}^{n}D_i(D_i^{\mathrm{T}}\beta+\varepsilon_i) \\ &= \beta + \Biggl(\sum_{i=1}^{n}D_i D_i^{\mathrm{T}}\Biggr)^{-1} \sum_{i=1}^{n}D_i\varepsilon_i, \end{aligned} \]

由大数定律以及 \(\mathrm{E}(\varepsilon D)=0\),可以说明 \(\hat\beta\)\(\beta\) 相合。\(\operatorname{cov}(\hat\beta)\) 的经典 EHW 稳健方差估计是

\[ \hat V_{\mathrm{ehw}} = \Biggl(\sum_{i=1}^{n}D_i D_i^{\mathrm{T}}\Biggr)^{-1} \Biggl(\sum_{i=1}^{n}\hat\varepsilon_i^{2} D_i D_i^{\mathrm{T}}\Biggr) \Biggl(\sum_{i=1}^{n}D_i D_i^{\mathrm{T}}\Biggr)^{-1}, \]

其中 \(\hat\varepsilon_i=Y_i-D_i^{\mathrm{T}}\hat\beta\) 是残差。

第二种看法,是把

\[ Y=D^{\mathrm{T}}\beta+\varepsilon \tag{23.2} \]

当成数据生成过程的真模型。也就是说,给定随机变量 \((D,\varepsilon)\),再按线性方程 (23.2) 生成 \(Y\)。要紧的是,在这个数据生成过程里,\(\varepsilon\)\(D\) 可以相关,\(\mathrm{E}(D\varepsilon)\ne 0\)。图 23.2 就是这样的例子。这是与第一种看法的根本差别:第一种看法里,\(\mathrm{E}(\varepsilon D)=0\) 是总体 OLS 的定义带来的。于是 OLS 估计量可以不相合:当样本量 \(n\) 趋于无穷,依概率有

\[ \hat\beta \to \beta+\mathrm{E}(DD^{\mathrm{T}})^{-1}\mathrm{E}(D\varepsilon) \ne \beta. \]

这一节最后,基于 (23.2) 给出内生回归元与外生回归元的定义。计量里这两个词的定义并不唯一。

定义 23.1 当 \(\mathrm{E}(\varepsilon D)\ne 0\) 时,称回归元 \(D\)内生的(endogenous);当 \(\mathrm{E}(\varepsilon D)=0\) 时,称它为外生的(exogenous)。

定义 23.1 的术语在计量里是标准。\(\mathrm{E}(\varepsilon D)\ne 0\) 时,我们也说出现了内生性(endogeneity);\(\mathrm{E}(\varepsilon D)=0\) 时,我们也说出现了外生性(exogeneity)。

在 OLS 的第一种看法里,内生、外生根本不上场,因为 \(\mathrm{E}(\varepsilon D)=0\) 是定义。拿着第一种看法的统计学家,常常觉得这两个词很怪,于是也觉得 IV 不自然。要懂计量的 IV,得换到 OLS 的第二种看法。

        U
       ↙ ↘
      D   ε
       ↘ ↙
        Y

    (a) \(\mathrm{E}(D\varepsilon)\ne 0\)

        ε
       ↙ ↘
      D → Y

    (b) 对 \(\varepsilon\) 边缘化

原书图 23.2:内生回归元 \(D\) 的两种画法。上方面板里,\(U\) 表示 \(D\)\(\varepsilon\) 的未测共同原因。

23.3 线性工具变量模型

\(D\) 内生时,OLS 估计量不相合。要给 \(\beta\) 造一个相合估计量,就得用额外信息。我盯下面的线性 IV 模型:

定义 23.2(线性 IV 模型) 我们有

\[ Y=D^{\mathrm{T}}\beta+\varepsilon, \]

并有

\[ \mathrm{E}(\varepsilon Z)=0. \tag{23.3} \]

定义 23.2 里的线性 IV 模型,可以用下面的因果图来画:

          ε
         ↙ ↘
    Z → D → Y

上面的线性 IV 模型允许 \(\mathrm{E}(\varepsilon D)\ne 0\),但要求另一条矩条件 (23.3)。把截距收进模型后 \(\mathrm{E}(\varepsilon)=0\),于是新条件说的是:\(Z\) 与误差项 \(\varepsilon\) 不相关。可随便造出来的噪声都与 \(\varepsilon\) 不相关,所以还得再有一条条件,才能保证 \(Z\) 对估 \(\beta\) 有用。直觉上,这条额外条件要求 \(Z\)\(D\) 相关;更技术的细节写在下面。

数学要求 (23.3) 看起来简单。可经验研究里,找到满足 (23.3) 的变量 \(Z\),恰恰是关键困难。条件 (23.3) 里有观测不到的 \(\varepsilon\),因而一般不可检验。

23.4 恰好识别的情形

先考虑 \(Z\)\(D\) 维数相同、并且 \(\mathrm{E}(ZD^{\mathrm{T}})\) 满秩的情形。条件 \(\mathrm{E}(\varepsilon Z)=0\) 蕴含

\[ \mathrm{E}\bigl\{Z(Y-D^{\mathrm{T}}\beta)\bigr\}=0. \]

解线性方程得到

\[ \mathrm{E}(ZY)=\mathrm{E}(ZD^{\mathrm{T}})\beta \implies \beta=\mathrm{E}(ZD^{\mathrm{T}})^{-1}\mathrm{E}(ZY), \]

前提是 \(\mathrm{E}(ZD^{\mathrm{T}})\) 不可退化。若 \(\mathrm{E}(\varepsilon D)=0\),也就是 \(D\) 当自己的 IV,OLS 就是一个特例。相应的矩估计量是

\[ \hat\beta_{\mathrm{iv}} = \Biggl(\sum_{i=1}^{n}Z_i D_i^{\mathrm{T}}\Biggr)^{-1} \sum_{i=1}^{n}Z_i Y_i. \tag{23.4} \]

\(D\)\(Z\) 都是标量时,把细节写开会更有启发。见下面的例 23.7。

例 23.7 简单情形里有截距,\(D\)\(Z\) 都是标量,模型是

\[ \begin{cases} Y=\alpha+\beta D+\varepsilon,\\ \mathrm{E}(\varepsilon)=0,\quad \operatorname{cov}(\varepsilon,Z)=0. \end{cases} \]

在这个模型下,

\[ \operatorname{cov}(Z,Y)=\beta\operatorname{cov}(Z,D), \]

从而

\[ \beta=\frac{\operatorname{cov}(Z,Y)}{\operatorname{cov}(Z,D)}. \]

分子分母再各自除以 \(\operatorname{var}(Z)\),得到

\[ \beta = \frac{\operatorname{cov}(Z,Y)/\operatorname{var}(Z)}{\operatorname{cov}(Z,D)/\operatorname{var}(Z)}, \]

也就是:把 \(Y\)\(Z\) 做 OLS、把 \(D\)\(Z\) 做 OLS,两个拟合里 \(Z\) 的系数之比。若 \(Z\) 是二值的,这些系数就是均值差(见习题 B.2),于是 \(\beta\) 化成

\[ \beta = \frac{\mathrm{E}(Y\mid Z=1)-\mathrm{E}(Y\mid Z=0)}{\mathrm{E}(D\mid Z=1)-\mathrm{E}(D\mid Z=0)}. \]

这与定理 21.1 的识别公式一模一样。也就是说,IV \(Z\) 与处理 \(D\) 都是二值时,IV 估计量在潜在结果框架下认出的是 CACE。这是 Imbens and Angrist (1994) 与 Angrist et al. (1996) 的一条关键结果。

23.5 过度识别的情形

第 23.4 节盯的是恰好识别(just-identified)的情形。若 \(Z\) 的维数低于 \(D\),并且 \(\mathrm{E}(ZD^{\mathrm{T}})\) 没有列满秩,方程 \(\mathrm{E}(ZY)=\mathrm{E}(ZD^{\mathrm{T}})\beta\) 就有无穷多解。这是识别不足(under-identified)的情形:即便有了 \(Z\),系数 \(\beta\) 也不能唯一确定。它很难,超出本书范围。要保证可识别,IV 至少得跟内生回归元一样多。

\(Z\) 的维数高于 \(D\),并且 \(\mathrm{E}(ZD^{\mathrm{T}})\) 列满秩,从 \(\mathrm{E}(ZY)=\mathrm{E}(ZD^{\mathrm{T}})\beta\) 去定 \(\beta\) 就有许多办法。更有甚者,样本类似

\[ n^{-1}\sum_{i=1}^{n}Z_i Y_i = n^{-1}\sum_{i=1}^{n}Z_i D_i^{\mathrm{T}}\beta \]

可能根本没有解,因为方程个数比未知参数多。

过度识别情形的一个计算技巧,是两阶段最小二乘(two-stage least squares, TSLS)估计量(Theil, 1953; Basmann, 1957)。它是一个聪明的计算技巧,分两步。

定义 23.3(两阶段最小二乘) 以 \(Z\) 为 IV、\(D\) 的系数的 TSLS 估计量如下。

  1. \(D\)\(Z\) 做 OLS,得到拟合值 \(\hat D_i\)\(i=1,\ldots,n\))。若 \(D_i\) 是向量,就需要按分量分别做 OLS 来得到 \(\hat D_i\)。把拟合向量放进矩阵 \(\hat D\),行是 \(\hat D_i^{\mathrm{T}}\)
  2. \(Y\)\(\hat D\) 做 OLS,得到系数 \(\hat\beta_{\mathrm{tsls}}\)

要看清 TSLS 为什么行得通,还得再写一点代数。更显式地写成

\[ \begin{align} \hat\beta_{\mathrm{tsls}} &= \Biggl(\sum_{i=1}^{n}\hat D_i\hat D_i^{\mathrm{T}}\Biggr)^{-1} \sum_{i=1}^{n}\hat D_i Y_i \tag{23.5} \\ &= \Biggl(\sum_{i=1}^{n}\hat D_i\hat D_i^{\mathrm{T}}\Biggr)^{-1} \sum_{i=1}^{n}\hat D_i(D_i^{\mathrm{T}}\beta+\varepsilon_i) \\ &= \Biggl(\sum_{i=1}^{n}\hat D_i\hat D_i^{\mathrm{T}}\Biggr)^{-1} \sum_{i=1}^{n}\hat D_i D_i^{\mathrm{T}}\beta + \Biggl(\sum_{i=1}^{n}\hat D_i\hat D_i^{\mathrm{T}}\Biggr)^{-1} \sum_{i=1}^{n}\hat D_i\varepsilon_i. \end{align} \]

第一阶段的 OLS 拟合保证 \(D_i=\hat D_i+\check D_i\),拟合值与残差正交,也就是

\[ \sum_{i=1}^{n}\hat D_i\check D_i^{\mathrm{T}}=0 \tag{23.6} \]

是一个与 \(D_i\) 同维的零方阵。正交性 (23.6) 蕴含

\[ \sum_{i=1}^{n}\hat D_i D_i^{\mathrm{T}} = \sum_{i=1}^{n}\hat D_i\hat D_i^{\mathrm{T}}, \]

从而

\[ \hat\beta_{\mathrm{tsls}} = \beta + \Biggl(\sum_{i=1}^{n}\hat D_i\hat D_i^{\mathrm{T}}\Biggr)^{-1} \sum_{i=1}^{n}\hat D_i\varepsilon_i. \tag{23.7} \]

第一阶段的 OLS 拟合还保证

\[ \hat D_i=\hat\Gamma^{\mathrm{T}}Z_i \tag{23.8} \]

从而

\[ \hat\beta_{\mathrm{tsls}} = \beta + \Biggl\{ \hat\Gamma^{\mathrm{T}} \Biggl(n^{-1}\sum_{i=1}^{n}Z_i Z_i^{\mathrm{T}}\Biggr) \hat\Gamma \Biggr\}^{-1} \hat\Gamma^{\mathrm{T}} \Biggl(n^{-1}\sum_{i=1}^{n}Z_i\varepsilon_i\Biggr). \tag{23.9} \]

基于 (23.9),由大数定律,以及 \(n^{-1}\sum_{i=1}^{n}Z_i\varepsilon_i\) 的概率极限是 \(\mathrm{E}(Z\varepsilon)=0\),可以看出 TSLS 估计量相合。也可以用 (23.9) 说明:当 \(Z\)\(D\) 维数相同时,\(\hat\beta_{\mathrm{tsls}}\) 与第 23.4 节定义的 \(\hat\beta_{\mathrm{iv}}\) 数值上相同。这件事留给习题 23.1。

基于 (23.7),可以这样得到标准误。先得到残差 \(\hat\varepsilon_i=Y_i-\hat\beta_{\mathrm{tsls}}^{\mathrm{T}}D_i\),再得到稳健方差估计

\[ \hat V_{\mathrm{tsls}} = \Biggl(\sum_{i=1}^{n}\hat D_i\hat D_i^{\mathrm{T}}\Biggr)^{-1} \Biggl(\sum_{i=1}^{n}\hat\varepsilon_i^{2}\hat D_i\hat D_i^{\mathrm{T}}\Biggr) \Biggl(\sum_{i=1}^{n}\hat D_i\hat D_i^{\mathrm{T}}\Biggr)^{-1}. \]

要紧的是,这些 \(\hat\varepsilon_i\) 并不是第二阶段 OLS 的残差 \(Y_i-\hat\beta_{\mathrm{tsls}}^{\mathrm{T}}\hat D_i\),因此 \(\hat V_{\mathrm{tsls}}\) 与第二阶段 OLS 的稳健方差估计不同。

23.6 特例:单个内生处理配单个 IV

这一节盯一个简单情形:单个 IV,单个内生处理。它用得很多。考虑下面的结构方程(structural equations):

\[ \begin{cases} Y_i=\beta_0+\beta_1 D_i+\beta_2^{\mathrm{T}}X_i+\varepsilon_i,\\ D_i=\gamma_0+\gamma_1 Z_i+\gamma_2^{\mathrm{T}}X_i+\varepsilon_{2i}, \end{cases} \tag{23.10} \]

其中 \(D_i\) 是关心的处理变量,是标量内生回归元(也就是 \(\mathrm{E}(\varepsilon_i D_i)\ne 0\)),\(Z_i\)\(D_i\) 的标量 IV(也就是 \(\mathrm{E}(\varepsilon_i Z_i)=0\)),\(X_i\) 装其他外生回归元(也就是 \(\mathrm{E}(\varepsilon_i X_i)=0\))。这是一个特例:原来的 \(D\) 换成 \((1,D,X)\),原来的 \(Z\) 换成 \((1,Z,X)\)

23.6.1 两阶段最小二乘

定义 23.3 里的 TSLS 估计量,这时化成下面的形式。

定义 23.4(单个内生回归元的 TSLS) 基于 (23.10),TSLS 估计量有下面两步。

  1. \(D\)\((1,Z,X)\) 做 OLS,得到拟合值 \(\hat D_i\)\(i=1,\ldots,n\)),再把它们排成向量 \(\hat D\)
  2. \(Y\)\((1,\hat D,X)\) 做 OLS,得到系数 \(\hat\beta_{\mathrm{tsls}}\),特别是 \(\hat D\) 的系数 \(\hat\beta_{1,\mathrm{tsls}}\)

23.6.2 间接最小二乘

结构方程 (23.10) 蕴含

\[ \begin{aligned} Y_i &= \beta_0+\beta_1(\gamma_0+\gamma_1 Z_i+\gamma_2^{\mathrm{T}}X_i+\varepsilon_{2i})+\beta_2^{\mathrm{T}}X_i+\varepsilon_i \\ &= (\beta_0+\beta_1\gamma_0)+\beta_1\gamma_1 Z_i+(\beta_2+\beta_1\gamma_2)^{\mathrm{T}}X_i+(\varepsilon_i+\beta_1\varepsilon_{2i}). \end{aligned} \]

定义 \(\Gamma_0=\beta_0+\beta_1\gamma_0\)\(\Gamma_1=\beta_1\gamma_1\)\(\Gamma_2=\beta_2+\beta_1\gamma_2\),以及 \(\varepsilon_{1i}=\varepsilon_i+\beta_1\varepsilon_{2i}\)。我们有下面的方程

\[ \begin{cases} Y_i=\Gamma_0+\Gamma_1 Z_i+\Gamma_2^{\mathrm{T}}X_i+\varepsilon_{1i},\\ D_i=\gamma_0+\gamma_1 Z_i+\gamma_2^{\mathrm{T}}X_i+\varepsilon_{2i}, \end{cases} \tag{23.11} \]

这叫做约简式(reduced form),相对的是 (23.10) 里的结构式(structural form)。关心的参数等于两个系数之比

\[ \beta_1=\Gamma_1/\gamma_1. \]

约简式里,左边是因变量 \(Y\)\(D\),右边是外生变量 \(Z\)\(X\),满足

\[ \mathrm{E}(Z\varepsilon_{1i})=\mathrm{E}(Z\varepsilon_{2i})=0, \qquad \mathrm{E}(X\varepsilon_{1i})=\mathrm{E}(X\varepsilon_{2i})=0. \]

更要紧的是,OLS 给约简式 (23.11) 里的系数相合估计。

约简式 (23.11) 提示:两个 OLS 系数 \(\hat\Gamma_1\)\(\hat\gamma_1\) 之比,是 \(\beta_1\) 的一个合理估计。这叫做间接最小二乘(indirect least squares, ILS)估计量:

\[ \hat\beta_{1,\mathrm{ils}}=\hat\Gamma_1/\hat\gamma_1. \]

有意思的是,在 (23.10) 下,它与 TSLS 估计量数值上相同。

定理 23.1 在 (23.10) 里,单个内生处理配单个 IV 时,有

\[ \hat\beta_{1,\mathrm{ils}}=\hat\beta_{1,\mathrm{tsls}}. \]

定理 23.1 是一条代数事实。Imbens (2014, 第 A.3 节) 指出过,但没给证明。我把证明留给习题 23.2。比值公式把一件事说得很清楚:工具变量弱时,也就是 \(\gamma_1\) 靠近零时,TSLS 估计量的有限样本性质不好。

23.6.3 弱 IV

下面这套推断手续更简单,更透明,对弱 IV 也更稳健。只是计算更费。约简式 (23.11) 也蕴含:对任意 \(b\)

\[ Y_i-b D_i = (\Gamma_0-b\gamma_0)+(\Gamma_1-b\gamma_1)Z_i+(\Gamma_2-b\gamma_2)^{\mathrm{T}}X_i+(\varepsilon_{1i}-b\varepsilon_{2i}). \tag{23.12} \]

在真值 \(b=\beta_1\) 处,\(Z_i\) 的系数必须是 \(0\)。这件简单的事实提示:把对 \(H_0(b):\beta_1=b\) 的检验反转,就能给 \(\beta_1\) 一个置信区间:

\[ \bigl\{b:\lvert t_Z(b)\rvert\le z_{1-\alpha/2}\bigr\}, \]

其中 \(t_Z(b)\) 是基于 (23.12) 的 OLS 拟合、用 EHW 标准误得到的 \(Z\) 的系数的 \(t\) 统计量,\(z_{1-\alpha/2}\) 是标准正态的 \(1-\alpha/2\) 上侧分位数。这个置信区间比基于 TSLS 估计量的 Wald 型区间更稳健。它与第 21 章谈过的 FAR 置信集很像。

这套手续让 TSLS 估计量变得不必需。更有甚者,若目标只是在 (23.10) 下检验 \(\beta_1=0\),只需对约简式里的 \(Y\) 做 OLS。

23.7 应用

回到例 23.5。Card (1993) 用青年男性全国纵向调查去估教育对收入的因果效应。数据含 1966 年时年龄在 14 到 24 岁之间的 3010 名男性。Card (1993) 把大学邻近度的地理变异当作教育的 IV。这里,\(Z\) 指示成长时附近是否有四年制大学,\(D\) 度量受教育年数,结果 \(Y\) 是 1976 年的对数工资,取值从 \(4.6\)\(7.8\)。另外的协变量有种族、年龄与年龄平方,表示与双亲同住、与单身母亲同住等情形的分类变量,以及概括以往居住地区的变量。

> library("car")
> ## Card Data
> card.data = read.csv("card1995.csv")
> Y = card.data[, "lwage"]
> D = card.data[, "educ"]
> Z = card.data[, "nearc4"]
> X = card.data[, c("exper", "expersq", "black", "south",
+                   "smsa", "reg661", "reg662", "reg663",
+                   "reg664", "reg665", "reg666",
+                   "reg667", "reg668", "smsa66")]
> X = as.matrix(X)

基于 TSLS,可以得到下面的点估计与 95% 置信区间。

> Dhat = lm(D ~ Z + X)$fitted.values
> tslsreg = lm(Y ~ Dhat + X)
> tslsest = coef(tslsreg)[2]
> ## correct se by changing the residuals
> res.correct = Y - cbind(1, D, X) %*% coef(tslsreg)
> tslsreg$residuals = as.vector(res.correct)
> tslsse = sqrt(hccm(tslsreg, type = "hc0")[2, 2])
> res = c(tslsest, tslsest - 1.96*tslsse, tslsest + 1.96*tslsse)
> names(res) = c("TSLS", "lower CI", "upper CI")
> round(res, 3)
     TSLS  lower CI  upper CI
    0.132     0.026     0.237

用 FAR 置信集那套策略,可以把 \(p\) 值写成 \(b\) 的函数。

> BetaAR = seq(-0.1, 0.4, 0.001)
> PvalueAR = sapply(BetaAR, function(b){
+   Y_b   = Y - b*D
+   ARreg = lm(Y_b ~ Z + X)
+   coefZ = coef(ARreg)[2]
+   seZ   = sqrt(hccm(ARreg)[2, 2])
+   Tstat = coefZ/seZ
+   (1 - pnorm(abs(Tstat)))*2
+ })

原书图 23.3 画出一串检验 \(D\) 的系数的 \(p\) 值,来自下面的 R 代码:

> plot(PvalueAR ~ BetaAR, type = "l",
+      xlab = "coefficient of D",
+      ylab = "p-value",
+      main = "Fieller-Anderson-Rubin interval based on Card's data")
> point.est = BetaAR[which.max(PvalueAR)]
> abline(h = 0.05, lty = 2, col = "grey")
> abline(v = point.est, lty = 2, col = "grey")
> ARCI = range(BetaAR[PvalueAR >= 0.05])
> abline(v = ARCI[1], lty = 2, col = "grey")
> abline(v = ARCI[2], lty = 2, col = "grey")

我们把 \(p\) 值最大的那个 \(b\) 当成点估计,把 \(p\) 值大于 \(0.05\) 的那些 \(b\) 当成置信区间。

> FARres = c(point.est, ARCI)
> names(FARres) = c("FAR est", "lower CI", "upper CI")
> round(FARres, 3)
  FAR est  lower CI  upper CI
    0.132     0.028     0.282

比较 TSLS 与 FAR:下置信限很接近,上置信限略有差别,因为 TSLS 估计量的分布右边可能偏重。总体来看,这个例子里两种方法给出相近的结果,因为 IV 并不弱。

原书图 23.3:把检验反转,重新分析 Card (1993) 的数据。横轴是 \(D\) 的系数,纵轴是 \(p\) 值。曲线像一座山,峰大约在 \(0.132\);大约在 \(0.028\)\(0.282\) 处穿过 \(0.05\) 的虚线。右边的坡比左边缓。

23.8 习题

23.1 第 23.5 节 TSLS 的更多代数

  1. 证明 (23.8) 里的 \(\hat\Gamma\) 等于

\[ \hat\Gamma = \Biggl(\sum_{i=1}^{n}Z_i Z_i^{\mathrm{T}}\Biggr)^{-1} \sum_{i=1}^{n}Z_i D_i^{\mathrm{T}}. \]

  1. 证明:若 \(Z\)\(D\) 维数相同,并且

\[ n^{-1}\sum_{i=1}^{n}Z_i Z_i^{\mathrm{T}}, \qquad n^{-1}\sum_{i=1}^{n}Z_i D_i^{\mathrm{T}} \]

都可逆,则 (23.5) 定义的 \(\hat\beta_{\mathrm{tsls}}\) 化成 (23.4) 定义的 \(\hat\beta_{\mathrm{iv}}\)

23.2 TSLS 与 ILS 的等价
证明定理 23.1。

注: 用附录 B 的 FWL 定理。

23.3 线性工具变量模型里的控制函数
下面的定义 23.5 与上面的定义 23.3 平行。

定义 23.5(控制函数) 定义控制函数估计量 \(\hat\beta_{\mathrm{cf}}\) 如下。

  1. \(D\)\(Z\) 做 OLS,得到残差 \(\check D_i\)\(i=1,\ldots,n\))。若 \(D_i\) 是向量,就需要按分量分别做 OLS 来得到 \(\check D_i\)。把残差向量放进矩阵 \(\check D\),行是 \(\check D_i^{\mathrm{T}}\)
  2. \(Y\)\(D\)\(\check D\) 做 OLS,得到 \(D\) 的系数 \(\hat\beta_{\mathrm{cf}}\)

证明 \(\hat\beta_{\mathrm{cf}}=\hat\beta_{\mathrm{tsls}}\)

注: 证明时可以用习题 B.4 与 B.5 的结果。定义 23.5 里,第一步得到的 \(\check D\) 叫做第二步的控制函数(control function)。Hausman (1978) 指出过这条结果。Wooldridge (2015) 在更复杂的模型里,对控制函数方法做过更一般的讨论。

23.4 数据分析:Efron and Feldman (1991)
Efron and Feldman (1991) 是潜在结果框架下处理不依从的早期研究之一。原来的随机化实验是血脂研究诊所冠心病一级预防试验(Lipid Research Clinics Coronary Primary Prevention Trial, LRC-CPPT),目标是评估药物考来烯胺(cholestyramine)对胆固醇水平的效应。数据文件 EF.csv 里,第一列是处理与对照的二值指示,第二列是实际服用的考来烯胺占名义剂量的比例,最后三列是胆固醇水平。注意:个体并不知道自己被分到考来烯胺还是安慰剂,可不良反应的差别,仍可能让依从行为随处理状态而变。所有个体在同一时段被分配相同的名义剂量(药物或安慰剂)。第 3 列 \(C_3\) 取自告知低胆固醇饮食益处之前;第 4 列 \(C_4\) 取自这条建议之后、随机分到考来烯胺或安慰剂之前;第 5 列 \(C_5\) 是随机化之后胆固醇读数的平均,按两个月一次平均,研究中所有个体的平均时长为 \(7.3\) 年。Efron and Feldman (1991) 把胆固醇水平的变化当作最终关心的结果,定义为 \(C_5-0.25C_3-0.75C_4\)。原文有更细的描述。

这里的数据结构,比第 21、22 章谈过的不依从问题更复杂。Jin and Rubin (2008) 基于后面第 26 章的想法重新分析过。你可以按自己对问题的理解来分析数据,但需要为所选方法辩护。这道题没有金标准答案。

23.5 推荐阅读
Imbens (2014) 给出计量学家看 IV 的视角。