SEARLE Y SU CUARTO CHINO[1]
Mario Méndez Acosta
Un acre debate se ha venido desarrollando, desde hace varios decenios, entre diversos grupos de científicos en torno a la factibilidad de desarrollar no sólo inteligencia artificial, sino algún tipo de autómata con autoconciencia equivalente a la humana.
En uno de los últimos episodios de esta discusión, el conocido profesor de ciencia cognitiva, cibernetista y matemático Douglas Hofstadter -quien ganara gran celebridad con su éxito Godel, Escher, Bach: una eterna trenza dorada– arremete de manera enfática, en su más reciente libro, I Am a Strange Loop (Soy un rizo extraño) en contra su adversario de años, el 
filósofo John Searle, para quien nunca será posible lograr la inteligencia artificial fuerte (IAF); es decir, aquella que no puede ser distinguida de la capacidad de un cerebro humano.
Señala Hofstadter que Searle ha pasado gran parte de su carrera lanzando burlas sobre la investigación relacionada con la inteligencia artificial y los modelos computacionales del pensamiento, mofándose, sobre todo, de las llamadas máquinas de Turing -ideadas por el matemático inglés Alan Turing– y que son sencillos artificios ideales, capaces -también en teoría- de desarrollar en un tiempo finito cualquier operación aritmética. Estos artefactos cuentan además con una memoria ilimitada y se ha demostrado que pueden modelar toda operación lógica realizada por las redes neuronales del cerebro humano. Como ocurre que es posible construir una máquina de Turing mediante cualquier material imaginable -incluso, papel sanitario o latas de cerveza-, Searle aprovecha para ridiculizar a los teóricos de la IAF, diciendo que éstos aseveran que existen papel sanitario o latas pensantes, desvirtuando el hecho de que sería el sistema global que se puede construir con todas estas combinaciones funcionales de materiales lo que en verdad viene a modelar la actividad pensante. Combinaciones como éstas incluyen, desde luego -y como un caso especial-, a las redes neuronales en un cerebro humano.
Para muchos cibernetistas y epistemólogos contemporáneos los argumentos de Searle resultan ser por completo pseudocientíficos y, en el fondo, revelan la irreductible creencia de este estudioso en un dualismo mente-cerebro, conforme al cual sólo lo sobrenatural puede producir autoconciencia.
Pero, ¿qué es el experimento mental del cuarto chino?: supongamos que un individuo está encerrado en un cuarto y se le entrega un cierto número de papeles escritos en idioma chino; supongamos también que éste no habla chino en absoluto, y que ni siquiera puede distinguir los caracteres chinos de otras representaciones escritas. Pero también se le proporciona un segundo conjunto de caracteres chinos, junto con una serie de reglas para cotejar la segunda tanda de signos con la primera; estas reglas están en inglés, que es su lengua materna y que, por lo tanto, entiende. Las reglas le enseñan a poner en relación las dos series de símbolos chinos formales.
Este proceso se repite con otros materiales hasta que el ocupante del cuarto logra correlacionar los que se le van dando para producir una respuesta en cada caso. Puede responder siempre con el conjunto correcto de caracteres si se le ha dado inicialmente otra serie de éstos. Luego, para complicar aún más la situación, al ocupante se le formulan preguntas y respuestas en inglés, las que maneja sin dificultad.
Supongamos que después de un tiempo, el sujeto en la habitación llega a dominar con gran pericia las instrucciones para manipular los signos escritos chinos, y que los programadores han sido tan hábiles en elaborar los códigos que, desde el punto de vista de alguien que está fuera del cuarto, las respuestas dadas a las preguntas no pueden distinguirse en absoluto de las que proporcionaría un chino-parlante. Nadie que analizase las respuestas se enteraría de que la persona dentro del cuarto no sabe una palabra de chino. Supongamos también que sus respuestas a las preguntas en inglés resultan indiscernibles de las de cualquier otro hablante de esta lengua, como con seguridad ocurrirá, por la simple razón de que esa es la lengua natal del ocupante Desde el punto de vista de alguien que estuviera leyendo esas respuestas, tanto las que da a las preguntas en chino como las que da a las preguntas en inglés, son igualmente correctas. Sin embargo, ocurre que en el primer caso, a diferencia de lo que sucede con el segundo, las redacta manejando signos formales que no sabe interpretar. Así, en lo que concierne al idioma chino, se conduce igual que una computadora que realiza operaciones computacionales sobre elementos formales específicos. A los fines de la lengua china, el sujeto del cuarto no es más que una manifestación del programa de la computadora.
Vemos claramente que si acaso existe alguna comprensión en tal sistema gigantesco, no sería la comprensión del sujeto ocupante (puesto que éste no es sino una tuerca en la máquina, ajeno a lo que está haciendo). Searle pretende no comprender que no es el sujeto dentro del cuarto quien es capaz de entender o no el chino, es todo el sistema el que entiende este idioma, incluyendo el cuarto, el ocupante y los programadores que le proporcionan el código para relacionar cada conjunto de caracteres chinos con otro de salida. Todo ello junto es lo que sí entiende el idioma chino, y es lo que duplica la capacidad del cerebro humano. Nunca habrá algo remotamente parecido a comprensión genuina en un trozo o segmento de programación lo suficientemente pequeño para ser imaginado con facilidad. Un segmento como éste es sólo una rutina, para transformar unas hileras de símbolos en otras hileras de ellos, de acuerdo con cierta receta mecánica o sintáctica. Para Searle más segmentos como éste -y no importa cuántos más- nunca alcanzarían a ser una comprensión genuina. Pero, para Hofstadter, esta comprensión es una propiedad que emerge inevitablemente de la totalidad de un sistema complejo.
Referencias
Morales, Cesáreo, Inteligencia, medios y aprendizaje. http://investigacion.ilee.edu.mxpanel_controVdoc/c37inteligenciaq.pdf
Hofstadter, Douglas R., I Am a Strange Loop. Nueva York: Basic Books, 2007.
Godel, Escher. Bach: un eterno y grácil bucle, trad. A. López Roseau y Mario Arnaldo Usabiaga Bandizz. Barcelona: Tusquets, 1989.
Searle, John, «Is the Brain a Digital Computer», discurso presidencial dirigido a la Asociación Filosófica Estadounidense (American Philosophical Association), http://users.ecs.soton.ac.uk/harnad/Papers/Py104/searle.comp.html
[1] Publicado originalmente en Ciencia y Desarrollo, No. 211, México, septiembre de 2007, Págs. 56-57.