La habitación china

La habitación china es un experimento mental con el que el filósofo John Searle quiso demostrar en 1980 que un ordenador, por bien que se comporte, no puede entender nada. Un hombre que no sabe una palabra de chino está encerrado en una habitación con cestas llenas de caracteres chinos y un manual escrito en su idioma que le dice qué caracteres sacar en respuesta a cuáles. Por una ranura le pasan preguntas en chino; él busca los símbolos en el manual, sigue las reglas, y devuelve por la ranura una respuesta que, fuera, un hablante nativo encuentra perfecta. Desde el exterior, la habitación entiende chino. Dentro, el hombre no entiende nada: manipula símbolos por su forma, sin saber qué significan. Eso, dice Searle, es exactamente lo que hace un programa de ordenador, y por eso ningún programa, por sí solo, entenderá jamás.

El argumento se publicó en Behavioral and Brain Sciences con el título Mentes, cerebros y programas, y apuntaba a lo que Searle llamó la inteligencia artificial fuerte: la tesis de que un ordenador programado del modo adecuado no simula una mente, sino que la tiene. Su blanco inmediato eran los programas de los años setenta que respondían preguntas sobre relatos sencillos, y por extensión el test de Turing, que hace depender la atribución de pensamiento de la conducta observable. Searle no niega que una máquina pueda pensar; su posición es que el cerebro es una máquina y piensa. Lo que niega es que pensar consista en ejecutar un programa. La sintaxis, el manejo de símbolos según reglas formales, no basta para la semántica, el significado, y un programa es solo sintaxis. Un ordenador que pase el test de Turing en chino estará en la misma situación que el hombre de la habitación.

La revista publicó el artículo junto con 27 respuestas de filósofos e informáticos, y Searle contestó a las principales en el mismo número, de modo que el debate nació ya con sus posiciones fijadas. La más repetida es la respuesta del sistema: es verdad que el hombre no entiende chino, pero el hombre no es más que una pieza; el que entiende es el sistema completo, el hombre más el manual más las cestas, igual que ninguna neurona entiende español y el cerebro sí. Searle replica que el hombre podría memorizar el manual, hacer todo el trabajo de cabeza y salir a la calle, y seguiría sin entender chino. La respuesta del robot propone meter el programa en un cuerpo con cámaras y brazos, de modo que los símbolos se conecten con el mundo; Searle responde que para el hombre de dentro las imágenes de la cámara serían más símbolos sin significado. La respuesta del simulador cerebral imagina un programa que reproduzca neurona a neurona el cerebro de un hablante de chino; Searle contesta que se podría hacer con tuberías y válvulas de agua, y que nadie diría que las tuberías entienden. En todos los casos, su movimiento es el mismo: por mucho que se complique el montaje, dentro solo hay sintaxis.

Los críticos han señalado que el argumento depende de una intuición, la de que la habitación es evidentemente incapaz de entender, y que esa intuición puede fallar con sistemas de un tamaño que no podemos imaginar. Paul y Patricia Churchland propusieron en 1990 una habitación análoga para la luz: un hombre agita un imán y no produce luz, de lo que un escéptico del siglo XIX concluiría que el electromagnetismo no puede explicar la luminosidad; el error está en que la frecuencia necesaria es millones de veces mayor que la que el hombre puede producir con el brazo. Del mismo modo, un manual con el que una persona respondiera en chino a velocidad conversacional tendría que ser tan enorme, y su manejo tan rápido, que la escena del hombre con las cestas no se parece en nada al sistema que de verdad estaría funcionando. Daniel Dennett llamó al experimento una «bomba de intuiciones»: un relato construido para que la respuesta parezca obvia, con los detalles que la harían dudosa escondidos.

Searle defendió su argumento hasta su muerte en 2025 y nunca cedió un milímetro. Mientras tanto, la informática ha producido sistemas que se parecen mucho a la habitación: los modelos de lenguaje actuales aprenden regularidades estadísticas entre símbolos a partir de miles de millones de textos, sin cuerpo y sin acceso al mundo, y responden en chino, en español o en cualquier lengua con una fluidez que ningún crítico de 1980 habría creído posible. Para quienes siguen a Searle, son la habitación china hecha realidad, prueba de que la conducta lingüística se puede reproducir sin comprensión. Para sus adversarios, son la prueba de lo contrario: que los símbolos, en cantidad suficiente y con la estructura adecuada, acaban conteniendo el significado que Searle creía imposible de extraer de ellos. El experimento mental no decide entre las dos lecturas, porque no fue diseñado para eso. Lo que hizo fue poner en una sola imagen la pregunta que la inteligencia artificial todavía no ha contestado: si entender es algo más que responder bien.

El test de Turing – La máquina de Turing – Efecto ELIZA – La teoría de la mente