La paradoja de Simpson: cuando los datos dicen una cosa y su contraria

En 1973, la Universidad de California en Berkeley se encontró con un problema. Ese otoño habían pedido plaza en sus programas de posgrado 8.442 hombres y 4.321 mujeres, y habían sido admitidos el 44 por ciento de los hombres y solo el 35 por ciento de las mujeres. La diferencia era demasiado grande para ser casualidad, y parecía una prueba clara de discriminación. La universidad, preocupada por una posible demanda, pidió a un estadístico, Peter Bickel, que lo estudiara.

Bickel y sus colegas hicieron lo que haría cualquier persona con sentido común: mirar los datos departamento por departamento, porque en Berkeley cada departamento decidía sus propias admisiones. Y encontraron algo desconcertante. En la mayoría de los departamentos, las mujeres eran admitidas en la misma proporción que los hombres, o incluso en una proporción mayor. Si había algún sesgo departamento a departamento, era ligeramente a favor de las mujeres. ¿Cómo podía ser que cada departamento tratara igual o mejor a las mujeres y que, al sumarlos todos, las mujeres salieran claramente perjudicadas?

La respuesta estaba en dónde pedían plaza unos y otras. Las mujeres se presentaban sobre todo a departamentos muy solicitados y con pocas plazas, como los de humanidades y ciencias sociales, donde se admitía a una fracción pequeña de los candidatos, fueran hombres o mujeres. Los hombres se presentaban más a departamentos como ingeniería o química, que tenían más plazas y admitían a la mayoría de los que llamaban a la puerta. Al juntar todos los departamentos, las mujeres arrastraban la tasa baja de los departamentos difíciles, y los hombres, la tasa alta de los fáciles. La discriminación aparente no estaba en las admisiones, sino en la mezcla. El artículo se publicó en 1975 en la revista Science, y desde entonces es el ejemplo más famoso de lo que se conoce como paradoja de Simpson.

La paradoja de Simpson ocurre cuando una tendencia que aparece en cada uno de varios grupos desaparece o se invierte al juntar los grupos. Recibe su nombre del estadístico británico Edward Simpson, que la describió en 1951, aunque otros, como George Udny Yule, la habían señalado medio siglo antes. Simpson, por cierto, había pasado la guerra en Bletchley Park descifrando códigos.

Un ejemplo médico la hace aún más clara. En 1986, un grupo de urólogos británicos comparó dos tratamientos para los cálculos de riñón: la cirugía abierta tradicional y una técnica nueva menos invasiva, que perforaba la piel con un tubo fino. En total, la técnica nueva tenía éxito en el 83 por ciento de los pacientes y la cirugía abierta en el 78. Parecía claro que la nueva era mejor. Pero al separar a los pacientes según el tamaño de la piedra, el resultado se daba la vuelta. Con piedras pequeñas, la cirugía abierta acertaba en el 93 por ciento de los casos y la nueva técnica, en el 87. Con piedras grandes, la cirugía abierta acertaba en el 73 por ciento y la nueva, en el 69. La cirugía abierta era mejor con las piedras pequeñas y mejor con las grandes, y sin embargo era peor en total.

El truco, igual que en Berkeley, está en cómo se repartían los pacientes. Los médicos tendían a usar la cirugía abierta, más agresiva, para los casos difíciles, las piedras grandes, y la técnica nueva para los fáciles, las piedras pequeñas. Las piedras grandes tienen peor pronóstico con cualquier tratamiento. Así que la cirugía abierta cargaba con la mayoría de los casos difíciles, y su tasa total salía hundida por ellos, no porque fuera peor. El tamaño de la piedra era una tercera variable que influía a la vez en qué tratamiento se elegía y en cómo salía, lo que los estadísticos llaman una variable de confusión.

Entonces, ¿qué hay que creer, los datos juntos o los datos separados? La tentación es responder que siempre los separados, porque son más detallados. Pero no es tan sencillo, y esa es la lección profunda de la paradoja. La respuesta depende de cómo funcionan las cosas, no de los números. En los dos ejemplos anteriores hay que separar, porque el tamaño de la piedra y el departamento existían antes de la decisión y la condicionaban. Pero imagina otro caso: un medicamento que baja la tensión arterial y, a través de eso, reduce los infartos. Si separas a los pacientes por la tensión que tienen después de tomarlo, estás eliminando justo el camino por el que funciona, y puedes concluir que no sirve para nada. Ahí hay que mirar los datos juntos. El informático Judea Pearl, premio Turing, ha dedicado buena parte de su carrera a explicar que estas preguntas no se resuelven con más datos, sino con un modelo de qué causa qué.

La paradoja de Simpson aparece en sitios muy variados. En el deporte, un jugador puede tener mejor porcentaje de acierto que otro en cada una de dos temporadas y peor en el total de las dos, si jugó muchos más partidos en su temporada mala. En la economía, el sueldo medio de un país puede bajar aunque suba en todos los sectores, si mucha gente pasa de sectores bien pagados a otros peor pagados. En la medicina, un hospital puede tener más mortalidad que otro y ser mejor en cada tipo de paciente, porque recibe los casos más graves. Cada vez que se comparan dos grupos que no son iguales en su composición, la paradoja acecha.

Este capítulo cierra el bloque dedicado a las trampas de los datos, y resume en cierto modo todo lo anterior. Desde John Graunt y sus tablas de mortalidad hasta los aviones de Abraham Wald, la estadística enseña una y otra vez lo mismo: los números no hablan solos. Hay que preguntarse de dónde vienen, qué falta, cómo se han agrupado y qué hay detrás de ellos. Con esas preguntas en la mochila, el itinerario continúa con las herramientas que permiten pasar de unos pocos datos a una conclusión fiable, empezando por la ley de los grandes números.