Teorema de Gauss-Markov

El teorema de Gauss-Markov es un resultado fundamental de la estadística y la econometría que establece en qué condiciones el estimador de mínimos cuadrados ordinarios (MCO) es el mejor estimador posible dentro de una clase determinada. Lleva el nombre de Carl Friedrich Gauss, que sentó las bases del método de mínimos cuadrados a comienzos del siglo XIX, y de Andréi Márkov, que lo formuló de manera más general en el siglo XX.

Se parte del modelo de regresión lineal múltiple, escrito en forma matricial como

donde $y$ es el vector de observaciones de la variable dependiente, $X$ es la matriz de variables explicativas, $\beta$ es el vector de parámetros desconocidos y $\varepsilon$ es el vector de perturbaciones aleatorias. El estimador MCO es

El teorema afirma que, si se cumplen los supuestos que se detallan más abajo, el estimador MCO es el MELI (mejor estimador lineal insesgado), o BLUE en inglés (Best Linear Unbiased Estimator). Es decir, entre todos los estimadores que son lineales en $y$ e insesgados, el MCO es el que tiene menor varianza.

Los supuestos son cinco. Primero, linealidad en los parámetros: el modelo es lineal en $\beta$, aunque no necesariamente en las variables. Segundo, rango completo: las columnas de $X$ son linealmente independientes, es decir, no hay multicolinealidad perfecta. Tercero, exogeneidad: el valor esperado de los errores, dado $X$, es cero, $\mathbb{E}(\varepsilon \mid X) = 0$. Cuarto, homocedasticidad: los errores tienen varianza constante, $\operatorname{Var}(\varepsilon \mid X) = \sigma^2 I$. Quinto, no autocorrelación: los errores no están correlacionados entre sí, lo que ya va incluido en la forma $\sigma^2 I$ de la matriz de varianzas. Cabe destacar lo que no se exige: no es necesario que los errores sigan una distribución normal.

Cada término del nombre tiene sentido preciso. Lineal significa que el estimador es una combinación lineal de las observaciones de $y$. Insesgado significa que su valor esperado coincide con el parámetro verdadero, $\mathbb{E}(\hat{\beta}) = \beta$. Mejor significa que tiene la menor varianza posible en su clase: para cualquier otro estimador lineal insesgado $\tilde{\beta}$, la diferencia $\operatorname{Var}(\tilde{\beta}) - \operatorname{Var}(\hat{\beta})$ es una matriz semidefinida positiva.

La demostración tiene un esquema breve. Sea $\tilde{\beta} = Cy$ otro estimador lineal insesgado; la condición de insesgadez obliga a que $CX = I$. Escribiendo $C = (X^\top X)^{-1}X^\top + D$, resulta que $DX = 0$, y la varianza de $\tilde{\beta}$ se descompone como

Como $DD^\top$ es semidefinida positiva, la varianza de $\tilde{\beta}$ nunca es menor que la de $\hat{\beta}$, y solo coincide cuando $D = 0$, es decir, cuando el otro estimador es el propio MCO.

El teorema también marca con claridad sus limitaciones y las vías de extensión. Si falla la homocedasticidad o aparece autocorrelación, se recurre a los mínimos cuadrados generalizados (MCG), que recuperan la eficiencia (teorema de Aitken). Si hay endogeneidad, MCO pierde incluso el insesgamiento y se usan métodos como las variables instrumentales. El teorema solo compara estimadores lineales e insesgados; estimadores sesgados, como la regresión ridge, pueden tener menor error cuadrático medio. Y para obtener intervalos de confianza y contrastes de hipótesis exactos en muestras pequeñas suele añadirse el supuesto de normalidad de los errores, que da sentido a la distribución muestral del estimador.

La importancia del resultado es doble: justifica el uso generalizado de MCO como método de referencia en el análisis de regresión, y señala qué ocurre cuando cada supuesto deja de cumplirse, lo que ha orientado el desarrollo de gran parte de la econometría moderna.