El test de Turing y la inteligencia humana

SIMONE SANTINI

Uno de los fundamentos teóricos de la disciplina de la Inteligencia Artificial se encuentra en un experimento ideal que Alan Turing publicó en la revista Mind en 1950, y que desde entonces se conoce como el test de Turing. Muchísimos artículos, en las revistas científicas y en la prensa, mencionan el test de Turing, casi siempre introduciendo pequeñas modificaciones que cambian su significado de una manera sutil pero importante. Merece la pena recordarlo aquí traduciéndolo directamente de la revista original:

Podemos describir este problema imaginando un juego,  que llamaremos “imitación”. Hay tres jugadores: un hombre (A), una mujer (B) y un juez (C), que puede ser hombre o mujer. El juez se sienta en un cuarto aislado, sin poder ver a los otros. El objetivo del juez es determinar quién de los otros dos jugadores es el hombre y quién es la mujer. Él los conoce simplemente como X e Y, y al final del juego tendrá que declarar “X es A [el hombre] e Y es B [la mujer]” o “X es B [la mujer] e Y es A [el hombre]”. El juez puede hacer preguntas a X e Y, como por ejemplo:

C: ¿Podría X decirme la longitud de su pelo?

Ahora bien, supongamos que X sea el hombre. El objetivo del hombre en este juego es engañar al juez, llevándole a la identificación equivocada. Su respuesta podría ser, por tanto, “Mi pelo es rizado y mis pelos más largos miden más o menos 20 centímetros”.

Para que las voces no ayuden al juez  en la identificación, los jugadores deberían escribir sus respuestas, preferiblemente a máquina. La situación ideal consistiría en comunicar a través de un teletipo. Como alternativa, puede haber un intermediario repitiendo las preguntas y las respuestas. El objetivo de B es ayudar al juez para que haga la identificación correcta. Su mejor estrategia es probablemente decir la verdad. Podría añadir comentarios como “yo soy la mujer, no le escuches a él”, pero esto no ayudará mucho, dado que el hombre también podría añadir los mismos comentarios.

Ahora nos preguntamos: ¿qué pasa en este juego si A es remplazado por una máquina? ¿se equivocará el juez tantas veces como cuando el juego lo juegan un hombre y una mujer? Estas preguntan remplazan nuestra pregunta original: ¿pueden las máquinas pensar?

La versión del test que se encuentra normalmente publicada es diferente en un punto sólo aparentemente menor, en cuanto no considera el juego con tres personas A, B y C (una de las cuales es, en una segunda fase, subrepticiamente remplazada por un ordenador), sino con dos personas (B y C) y un ordenador (A). El juez tiene que determinar quién es quién (¿o que es qué? ¿quién es qué?). Se trata de un cambio sutil pero determinante.

Es interesante, por ejemplo, que en el test original la inteligencia se determina como capacidad de engañar. El papel de A, en la parte del test con dos personas, es engañar al juez, haciéndole pensar que A es la mujer. Turing podría haber decidido remplazar B con el ordenador (la mujer, que tiene que ayudar al juez), pero no lo hizo. Umberto Eco escribió que un sistema semiótico es verdaderamente un lenguaje sólo cuando se pueda usar para mentir. Turing parece implicar algo parecido: la inteligencia es verdaderamente tal sólo cuando se puede usar para engañar.

El elemento de engaño del test es importante también porque nos indica que, para que el test tenga sentido, la máquina inteligente no puede ser demasiado abstracta. No debe simular una inteligencia cualquiera, sino a un hombre que simula ser una mujer. Podemos imaginar, en un mundo utópico en que los ordenadores inteligentes sean algo tan prosaico como una thermomix, un juez enfadado tras haber fallado otra identificación: “Oye...¡estás haciendo trampa! Has remplazado al hombre con una inteligencia artificial femenina. ¡Claro que no conseguía adivinar!” ¿Tiene sentido hablar de inteligencia masculina y femenina? Si hablamos de razonamiento lógico-racional, o de capacidad de manipular conceptos abstractos, claramente no. Por tanto el test de Turing nos permite deducir que estas capacidades no constituyen la verdadera inteligencia. La inteligencia no es una capacidad abstracta, un añadido que podemos separar de nuestra existencia humana o de nuestro cuerpo físico. Existimos en dos sexos y, basándonos en este hecho biológico, hemos creado la compleja estructura cultural del género, una de las muchas estructuras que nos determinan en cuanto individuos. Algo que no incluya la experiencia del género (o una simulación, pero, ¿cuál es la diferencia entre una experiencia y su simulación fenomenológicamente completa?) no es una inteligencia en el sentido que nosotros damos a la palabra.

El género es sólo uno de los determinantes de nuestra subjetividad, sólo uno de las componentes necesarias para un ser inteligente. El test de Turing apunta directamente a esta e indirectamente a muchas más. No sabemos bien cuáles son las componentes de nuestra humanidad que definen nuestra inteligencia: ¿el trauma de haber nacido? ¿la consciencia de la muerte? No lo sabemos. Se trata de un tema filosófico importante, en que la inteligencia artificial no se interesa mucho.

Un último aspecto del test, y sin embargo uno de los más importantes, es la presencia del juez. El ordenador no se considera inteligente si puede hacer algo extraordinario como ganar al campeón mundial de ajedrez, sino si aparece inteligente al juez durante una conversación corriente. La inteligencia del ordenador existe sólo en relación con la inteligencia humana: el juez no se puede remplazar con una máquina. Un corolario de esta observación es que cuanto menos inteligente sea el juez, tanto más inteligente parecerá el ordenador.

Consideremos el caso de un juez tan torpe que la única manera que tiene de decidir es lanzar una moneda. Con este juez, cualquier ordenador será inteligente, ya que el juez adivinará más o menos la mitad de las veces, independientemente de que A sea el hombre o la máquina.

Por tanto, el test de Turing nos abre dos posibilidades para crear máquinas inteligentes: podemos hacer que los programas sean cada día más complejos y sofisticados, o hacer que la gente lo sea menos. La segunda posibilidad es mucho más presente y amenazante de lo que podríamos pensar. Muchas industrias, no consiguiendo producir máquinas verdaderamente inteligentes, están intentando simplificar a sus clientes. Así tenemos cámaras con identificación automática de caras (o, incluso, de sonrisas) y aplicaciones multimedia que corrigen nuestras imágenes para hacerlas mejores --en realidad uniformándolas y creando una cultura en que se desanima la creatividad--. Tenemos sistemas de reconocimiento del habla que nos entrenan a hablar con frases cortas y con estructura sencilla.  Tenemos programas de traducción que no respetan la personalidad de las diferentes lenguas  --por ejemplo confundiendo el uso de la forma pasiva, favorecido por el inglés, con la forma impersonal, más usada en los idiomas latinos--. El lenguaje que los dispositivos inteligentes nos están imponiendo se acerca de manera preocupante a la neolengua descrita por Orwell en su novela 1984. En la medida en que el pensamiento depende del lenguaje y en que sólo podemos tener ideas si hay un lenguaje en que tenerlas, simplificar y banalizar el lenguaje supone simplificar y banalizar a las personas.

Tras una conversación sobre este tema, el informático australiano Neville Holmes me envió este Limerick (poema humorístico de cinco versos originario de Inglaterra), que resume la condición humana frente a las nuevas máquinas inteligentes:

There once was a man who said, Damn
It is borne upon me that I am
An engine that moves
In predestinate groves
I am not even a bus. I am a tram

(Mi traducción: "Una vez un hombre me dijo, Joder/Me estoy dando cuenta que soy como/Un vehículo que se mueve/en una ruta predeterminada/No soy ni siquiera un autobús, soy un tranvía". He probado algunos traductores automáticos disponibles, pero siempre introducen errores al traducir poemas.)

El sueño de sustituir al Demiurgo, de construir las vida (o la inteligencia) con nuestras manos, es tan viejo como la humanidad; lo podemos seguir desde Homero hasta el Golem y a los autómatas de la primera modernidad, desde el calculus ratiocinator de Leibnitz hasta la máquina de Turing. Se trata de un sueño que, probablemente, siempre será parte de nosotros. Pero, sobre todo hoy, es fácil caer en un banal entusiasmo sobre la tecnología, olvidando que ninguna tecnología es inocente o neutral. Las máquinas que creamos también nos modifican a nosotros. Hay que recordarlo, hoy que tan viva es la tentación de promover dispositivos inteligentes banalizando a las personas, haciéndolas menos complejas y más homogéneas.  

Turing, una persona decididamente no banal, y dolorosamente no homogénea, nos lo reclama.

Simone Santini es profesor contratado doctor de la Universidad Autónoma de Madrid.

 

Comments

[Publicado por: Leonardo Ortega]

Simone Santini la verdad es que este articulo a sido muy inspirador para mi, soy un joven estudiante de la licenciatura de informática y uno de los enigmas mas grandes con los que me he topado es justamente con el como podría definir la inteligencia humana...
Mi mejor conjetura hasta el momento es. Que así como las definiciones de bueno y malo dependen netamente del entorno y de los humanos, así mismo pasa con la inteligencia ya que dependiendo de la inteligencia que uno posea entonce podría emitir una especie de juicio sobre si algo o alguien es inteligente o no.

[Publicado por: Año Turing]

Para Casas Rurales: no, la inteligencia artificial y la humana difieren en muchas más cosas que los contendientes en un partido de fútbol. Por si es de tu interés, comentarte que hay una competición de fútbol entre robots: se llama RoboCup, tiene una página web http://www.robocup.org en donde está toda la información de esta competición, y hay vídeos sobre RoboCup en YouTube.

[Publicado por: Casas Rurales]

La inteligencia artificial contra la inteligencia humana....... es un Madrid contra Barça ?

[Publicado por: Simone Santini]

Sr. Antoni de Sallas,
está Ud. abordando un problema muy complicado. Me permita contestarle con una pregunta: ¿que significa CONOCER en relación a un ser humano?

Se trata de una pregunta muy complicada. Cuando estudié filosofía en el Instituto lo llamábamos el "problema gnoseológico".

Hay una respuesta muy sencilla que tiene que ver con los reflejos condicionados, como en el caso del perro de Pavlov, pero todo el mundo (excepto quizás algún seguidor de Skinner que todavía queda por ahí) reconoce que se trata sólo de una faceta, de un aspecto menor del conocimiento.

La verdad es que todavía no sabemos bien en que consiste el conocimiento en las personas. Mucho menos en las máquinas.

De toda manera, sus preguntas son muy interesantes, y le agradezco mucho haber introducido el problema en este foro.

[Publicado por: Antoni de Sallas]

¿Qué significa CONOCER en relación a una máquina inteligente? ¿Es capaz una máquina de conocer algo?

[Publicado por: Simone santini]

Estimado Sr. Simari,
muchas gracias por su estimulante intervención. Efectivamente la cuestión de la inteligencia no está aclarada ni, creo, se podrá nunca aclarar con una definición de tipo matemático. En el test de Turing hay dos aspectos: el mentir, y el juego hombre/mujer.

El juego es, por un lado, una invención genial de Turing, ya que conecta la inteligencia a caracteríasicas muy humanas y, por el otro, puede representar un límite, justmente por su conexión con la experiencia humana.

Digamos que, algú ndía, los humanos viajan a un planeta muy lejos y, encontrando allí entidades con comportmiento complexo, quieren usar el test de Turing para saber si estas entidades son inteligentes. Ahora bien, ¿que pasa si en este planeta hay un solo sexo? ¿Que pasa si hay cuatro?

La cuestión de la relación entre inteligencia y mentira yo la entiendo como una indicación que un ser inteligente no debe sólo saber resolver problemas complejos, sino también relacionarse con otros seres inteligente.

El filósofo Kirkegaard cuenta que, cuando era niño, si padre quería que de la escuela trajera la tercera mejor nota de la clase. No la mejor: la tercera. El padre consideraba que su hijo era muy inteligente y para sacar la mejor nota sólo le hacía falta estudiar un poco. Por otro lado, para sacar la tercera tenía que ocnocer a sus compañeros, evaluar sus capacidades. Para mi esta situación se parece mucho a la de la inteligencia artificial: una máquina que sólo sabe resolver problemas (sacar la mejor nota) no sería verdaderamente inteligente. Para serlo, tendría que conocer a los demás seres inteligentes, y relacionarse con ellos. Mentir es, de alguna manera, una relación de este tipo: para ser un buen mentiroso hay que conocer muy bien a la gente.

[Publicado por: Rafael Tesoro]

Gracias a Simone (y a el EL PAIS) por este artículo, muy bien escrito, con ideas de Turing tan inspiradoras, con preguntas bien interesantes.
(Es uno de los artículos que más me han gustado acerca de A. Turing de los que he leído recientemente)

[Publicado por: Guillermo R. Simari]

Estimada Simone,
Su articulo resulta interesante. Me gustaria hacer un comentario sobre el punto acerca del engaño porque ha introducido un juicio personal que en mi humilde opinión es equivocado. El engaño como concepto no es operativo en todo esto. Turing, que era realmente un genio, estaba perfectamente al tanto de que la inteligencia no habia podido ser definida hasta ese momento, y poco se ha avanzado en ese aspecto. Turing demostró su genialidad al cambiar definicion por test, al hacer esto puso el peso de la prueba en manos de un ser humano en lugar de ponerlo en un sistema formal que pudiera dar marco a una definicion. Recordemos que Alan Turing además de ser el padre de la Informática, era tambien un matemático de los que ha habido pocos.
Para aclarar este concepto, considere usted que cada dia usted hace lo mismo cuando interactua con otra persona. Como sabe que es inteligente? Simplemente utiliza el test de Turing y decide que lo es, eso es lo que pide este test para el sistema informatico, que una persona pueda discernir si el sistema puede pasar por ser humano.
Disculpe usted el comentario, el articulo esta bien escrito aunque parte de su contenido sea debatible.
Un cordial saludo,
Guillermo Simari

[Publicado por: vigny]

Es hermoso leer cosas inteligentes. Gracias

[Publicado por: Ernesto]

Ver acerca de la mas potente computadora construida hasta el momento TITAN un ordenador con 18.000 nucleos de procesamiento. ver este enlace http://ernesto-consultoria.blogspot.com/2012/11/beowulf-cluster-computer-titan.html

[Publicado por: Simone Santini]

Pedro,
sí, Limerick es una localidad irlandesa, pero el origen del Limerick como forma poética es Inglés. Los primeros ejemplos de uso de la palabra "Limerick" para referirse al poema en cinco versos son de finales del siglo XIX en Inglaterra. La forma en sí tiene un medio siglo más, y los primeros ejemplos vienen también de Inglaterra.

No está muy claro porque el nombre hacer referencia a la ciudad irlandesa. Tal vez a causa de una forma más arcaica de poema de sinsentido típico de Irlanda.

[Publicado por: Elena]

Me ha parecido un artículo interesante en cuanto que es una reflexión necesaria siempre en la relación máquina-hombre/mujer....o podría decirse herramienta-hombre/mujer.
Los seres humanos creamos herramientas que nos simplifiquen la tarea de seguir observando,descubriendo , explicando e inventando nuevas herramientas......Tal vez debamos emplear un tiempo en aprender a utilizarlas correctamente para sacarles ese partido sin que sean "ellas"(las herramientas)las que nos simplifiquen a nosotros...opino que este proceso siempre se da, necesariamente, hay un tiempo de aprendizaje de adaptación antes de conseguir realmente que las nuevas herramientas nos sean útiles a todos/as.

[Publicado por: Elena]

De acuerdo había entendido que la misión del hombre era engañar al juez y la de la mujer ayudarle....,pero no tienen porque ser consistentes, gracias por la aclaración.

[Publicado por: Pedro]

Limerick es una localidad irlandesa, no inglesa.

[Publicado por: Simone Santini]

elena,
en este caso la cosa no funcionaría. La pregunta que Ud. planea funciona en el problema de las dos guardias:

dos soldado están a guardia de dos puertas. Una puerta lleva a la libertad, la otra a la muerte. Uno de los soldados siempre miente, el otro siempre dice la verdad. ¿Como saber cual es la puerta correcta?

Respuesta: se pregunta a uno de los dos "¿Si preguntara a tu compañero cual es la puerta correcta, cual me diría?" Y luego se elige la otra puerta.

Aquí las cosas funcionan porque un soldado miente *siempre* y el otro dice *siempre* la verdad. Pero en el test de Turing las personas A y B pueden hacer lo que quieren, y no tienen porque ser consistentes.

[Publicado por: Simone Santini]

mangstadt,
tiene razón: debería ser grooves. Es un "typo" que se me ha escapado. Confieso que el Limerick lo he sacado con corta y pega del email en que se me envió y, como lo había copiado, creo que cuando revisé el texto no le hice demasiado caso.

[Publicado por: ◄◄◄◄◄◄¡¡¡BAJA DE [PESO] YA!!!!►►►►►►►]

★★★★★★★★★★★★★★★★★★
Descubre como hacen las ESTRELLAS para PERDER PESÖ: http://su.pr/1xuU15

[Publicado por: elena]

preguntar...¿si tu fueras el otro/a quién dirías que es la mujer?..a ambos.

[Publicado por: elena]

Por supuesto queda señalada la mentira....por tanto ambos contestan al mismo que sería el hombre.

[Publicado por: elena]

¿si tu fueras el otro quien dirias que es la mujer?....se trata de preguntar esto mismo a ambos......

[Publicado por: microfonos espia]

Espectacular, aunque desde luego hay pocas personas que puedan valorar este tipo de reseñas y sobre todo que no aprecian de donde salen las cosas y el trabajo tan maravilloso que hay detrás de cada una de ellas, enhorabuena jeje
saludos

[Publicado por: ◄◄◄◄◄◄¡¡¡BAJA DE [PESO] YA!!!!►►►►►►►]

+++★★★★★★★★★★★★
Descubre como hacen las ESTRELLAS para PERDER PESÖ: http://su.pr/1xuU15

[Publicado por: mangstadt]

Creo que hay una errata en el poema. Debería decir "grooves", con dos "o". Fonéticamente rima con "moves". Y un significado posible sería surcos o carriles. Los discos de vinilo, por ejemplo, tienen surcos por los que se mueve la aguja, "grooves" en inglés.

[Publicado por: iDESWEB]

Muy buena reflexión sobre las repercusiones que puede tener la inteligencia artificial sobre la inteligencia humana.

Os recomiendo un vídeo que preparé hace tiempo sobre los CAPTCHA (Completely Automated Public Turing test to tell Computers and Humans Apart), un test de Turing muy, muy simplificado: http://youtu.be/VUPSg8Jp_Es

[Publicado por: JAM]

Magnífica reseña en honor a una de las más relevantes figuras de la ciencia en toda la Historia. Enhorabuena y más de estos.