随机误差项 · 知经百科

随机误差项 (Stochastic Error Term)

随机误差项 (Stochastic Error Term)，在计量经济学和统计学中也被称为 扰动项 (Disturbance Term) 或 噪声 (Noise)，是回归分析模型中的一个核心组成部分。它代表了因变量中不能被模型中包含的自变量所解释的部分。

在一个标准的线性回归模型中，随机误差项通常用希腊字母 ϵ \epsilon ϵ (epsilon) 或 u u u 来表示。例如，一个简单的双变量线性回归模型可以表示为：

Yi=β0+β1Xi+ϵiY_i = \beta_0 + \beta_1 X_i + \epsilon_iYi​=β0​+β1​Xi​+ϵi​

其中：

Yi Y_i Yi​ 是第 i i i 个观测的因变量。Xi X_i Xi​ 是第 i i i 个观测的自变量。β0 \beta_0 β0​ 是模型的截距 (intercept)。β1 \beta_1 β1​ 是自变量 X X X 的系数，代表 X X X 每变动一个单位，Y Y Y 的期望变动量。ϵi \epsilon_i ϵi​ 是与第 i i i 个观测相关联的随机误差项。它捕捉了除了 Xi X_i Xi​ 之外，所有影响 Yi Y_i Yi​ 的其他因素。

这个方程描述了总体回归函数 (Population Regression Function, PRF)。随机误差项的存在表明，即使对于相同的 X X X 值， Y Y Y 的值也可能不同，因为存在随机性和模型未包含的其他影响因素。

为什么需要随机误差项？

随机误差项 ϵ \epsilon ϵ 并不是一个代表“错误”或“失误”的项，而是一个包含了多种现实世界复杂性的理论构念。它的存在主要源于以下几个原因：

遗漏变量 (Omitted Variables)：任何经济模型都是对现实的简化。一个模型的自变量不可能囊括所有影响因变量的因素。例如，在研究教育年限 (X X X) 对个人收入 (Y Y Y) 的影响时，其他如个人能力、家庭背景、工作经验、机遇运气等无数因素也会影响收入。随机误差项 ϵ \epsilon ϵ 捕捉了所有这些被模型遗漏的变量的净效应。

数据的测量误差 (Measurement Error)：在数据收集过程中，变量的测量几乎不可能做到完全精确。例如，受访者可能会记错自己的收入，或者统计机构在估算GDP时存在误差。这种对因变量 Y Y Y 的测量误差会被包含在随机误差项中。

人类行为和经济现象的内在随机性：许多经济和金融现象本身就具有不可预测的随机成分。即使模型能够包含所有相关的系统性因素，人类行为的随机选择和无法预料的冲击（如突发事件）也会导致 Y Y Y 偏离其由 X X X 决定的期望值。

函数形式误设 (Functional Form Misspecification)：研究者假定的模型函数形式（如线性关系）可能与现实中变量之间的真实关系不完全相符。例如，真实关系可能是非线性的。随机误差项可以部分地吸收由于使用不正确的函数形式而产生的偏差。

随机误差项的基本假设

为了使通过普通最小二乘法 (Ordinary Least Squares, OLS) 得到的估计量具有良好的统计性质（特别是成为最佳线性无偏估计量，BLUE），我们通常需要对随机误差项的性质做出一些关键假设。这些假设合称为经典线性回归模型 (Classical Linear Regression Model, CLRM) 的高斯-马尔可夫假设。

假设一：零条件期望 (Zero Conditional Mean)

E(ϵi∣Xi)=0E(\epsilon_i | X_i) = 0E(ϵi​∣Xi​)=0

这个假设意味着，对于任何给定的自变量 X X X 的值，误差项的期望或平均值为零。换句话说，模型中遗漏的变量、测量误差等因素的平均影响为零，它们不会系统性地导致 Y Y Y 高于或低于由 X X X 预测的值。这是最关键的假设，如果它不成立（即 E(ϵi∣Xi)≠0 E(\epsilon_i | X_i) \neq 0 E(ϵi​∣Xi​)=0），则模型存在内生性 (Endogeneity) 问题，会导致OLS估计量出现偏误。

假设二：同方差性 (Homoskedasticity)

Var(ϵi∣Xi)=σ2Var(\epsilon_i | X_i) = \sigma^2Var(ϵi​∣Xi​)=σ2

该假设表明，对于所有 X X X 的值，误差项的方差都是一个常数 σ2 \sigma^2 σ2。这意味着数据点围绕总体回归线的离散程度是均匀的。如果这个假设不成立，即方差随 X X X 的变化而变化，则称模型存在异方差性 (Heteroskedasticity)。异方差性不会导致OLS估计量有偏，但会使其不再是"最佳"（即方差最小）的，并且标准的统计推断（如t检验和F检验）会失效，因为标准误的计算是错误的。

假设三：无自相关 (No Autocorrelation)

Cov(ϵi,ϵj∣Xi,Xj)=0for i≠jCov(\epsilon_i, \epsilon_j | X_i, X_j) = 0 \quad \text{for } i \neq jCov(ϵi​,ϵj​∣Xi​,Xj​)=0for i=j

这个假设指出，任意两个不同观测的误差项之间没有关联，它们的协方差为零。这个假设在处理截面数据时通常容易满足，但在处理时间序列数据时尤为重要。如果一个时期的误差项与另一个时期的误差项相关（例如，一个时期的冲击会影响到未来时期），则称模型存在自相关或序列相关 (Serial Correlation)。与异方差性类似，自相关也不会使OLS估计量有偏，但会使其效率降低，并使标准误的估计失效。

假设四：误差项与自变量不相关

Cov(ϵi,Xi)=0Cov(\epsilon_i, X_i) = 0Cov(ϵi​,Xi​)=0

这个假设是零条件期望假设 E(ϵi∣Xi)=0 E(\epsilon_i | X_i) = 0 E(ϵi​∣Xi​)=0 的一个较弱版本，但同样至关重要。它直接排除了导致内生性的主要来源，如遗漏变量与模型中的 X X X 相关、 X X X 与 Y Y Y 之间存在联立性（双向因果）等情况。

假设五：正态性 (Normality)

ϵi∼N(0,σ2)\epsilon_i \sim N(0, \sigma^2)ϵi​∼N(0,σ2)

此假设假定误差项服从正态分布。这个假设对于证明OLS估计量是BLUE不是必需的。但是，在小样本情况下，它是进行精确的统计推断（如构建置信区间和进行假设检验）的前提。对于大样本，根据中心极限定理 (Central Limit Theorem)，即使误差项本身不服从正态分布，OLS估计量的抽样分布也会趋近于正态分布，因此该假设的重要性会降低。

随机误差项 (ϵi \epsilon_i ϵi​) 与残差 (ei e_i ei​) 的区别

在学习中，一个极易混淆的概念是随机误差项和残差 (Residual)。必须明确区分这两者：

随机误差项 (ϵi \epsilon_i ϵi​)：是一个理论上的、不可观测的随机变量。它代表了总体中第 i i i 个观测值 Yi Y_i Yi​ 与总体回归线 E(Y∣Xi)=β0+β1Xi E(Y|X_i) = \beta_0 + \beta_1 X_i E(Y∣Xi​)=β0​+β1​Xi​ 之间的差距。

ϵi=Yi−(β0+β1Xi)\epsilon_i = Y_i - (\beta_0 + \beta_1 X_i)ϵi​=Yi​−(β0​+β1​Xi​)

残差 (ei e_i ei​ 或 ϵ^i \hat{\epsilon}_i ϵ^i​)：是一个实际计算出的、可观测的数值。它代表了样本中第 i i i 个观测值 yi y_i yi​ 与通过OLS等方法估计出的样本回归线 y^i=β^0+β^1xi \hat{y}_i = \hat{\beta}_0 + \hat{\beta}_1 x_i y^​i​=β^​0​+β^​1​xi​ 之间的差距。

ei=yi−y^i=yi−(β^0+β^1xi)e_i = y_i - \hat{y}_i = y_i - (\hat{\beta}_0 + \hat{\beta}_1 x_i)ei​=yi​−y^​i​=yi​−(β^​0​+β^​1​xi​)

简而言之，误差项属于未知的总体模型，而残差属于已知的样本模型。在实践中，我们永远无法直接观测到误差项 ϵi \epsilon_i ϵi​。但是，我们可以计算出残差 ei e_i ei​，并利用残差的性质来诊断和检验关于误差项的假设（如同方差性、自相关性等）是否可能成立。因此，残差是通向理解不可观测的随机误差项性质的窗口。