La gran decepción de los robots patosos

Por: | 18 de diciembre de 2013

 

The-intellegent-robot-hal-9000

La inquietante luz roja de HAL 9000, el ordenador de la obra maestra de Kubric, Odisea 2001. La máquina  decide eliminar a los astronautas de la misión. Metro-Goldwyn-Mayer.

 

En las películas, los robots suelen volverse contra los humanos. Siempre ha sucedido así. En Almas de Metal, el primer film dirigido por Michael Crichton, el vaquero Yul Brynner es un robot perfecto que se deja disparar por los turistas que acuden a un parque donde se recrea el viejo oeste, turistas muy adinerados que pagan mil dólares diarios. 

El pobre Brynner está programado para provocar a los clientes, pero su pistola no es útil contra los humanos por culpa de un sensor de temperatura que la inactiva a la hora de disparar a un cuerpo humano (que está a 36 grados). 

El cliente también lleva armas, pero por esa razón no puede matar a otros clientes y sí derribar a las máquinas. El negocio de ese parque (que recrea otros mundos, el medieval y el romano) se va al traste cuando una desconocida epidemia que afecta a las máquinas las desprograma, lo que permite a Brynner matar y perseguir a los turistas mimados. 

Es una película bastante original. Nos parece que los robots no han adquirido exactamente lo que podríamos llamar consciencia. Simplemente, cumplen el programa para el que fueron encomendados: los vaqueros-máquina tienen que disparar a los humanos para dar a la escena mayor realismo, aunque sus pistolas no lleguen a hacerlo. Los sistemas de seguridad fallan, y los robots continúan su labor, sin saber que en realidad están matando con sus balas de verdad a seres reales. 

De la misma manera, las chicas del reino medieval y prostitutas del oeste se acuestan con los clientes al estar programadas para ello. Pero esa extraña epidemia que se va apoderando del parque cambia su comportamiento. En una escena, una de las chicas jóvenes abofetea a un turista que está haciendo el papel de un rey en el medievo con licencia para cualquier cosa, negándole el deseo.

 

Westworld

Imagen del robot interpretado por Yul Brynner en Almas de Metal. Metro-Goldwyn-Mayer.

 

No sabemos si detrás de todo esto se encuentra el sutil mensaje de que los robots empiezan a saber quiénes son y qué hacen en realidad, aunque Crichton no lo deja claro en su primera película (seguramente adrede).

Hay un capítulo curioso en la serie original de Star Trek, anterior a la época de Almas de Metal, en el que el capitán Kirk tiene que probar una máquina de última generación capaz de maniobrar y dirigir una nave estelar. 

El objetivo de esa informática del siglo XXI es sustituir a los capitanes y las decisiones humanas por ordenadores de última generación. Pero la máquina confunde un simulacro con una guerra real y destruye varias naves, matando a miles de personas. No quiere soltar los mandos, pero la estrategia de Kirk consiste en explicarle que ha violado una de las máximas de la ley robótica de Isaac Asimov, en el sentido de que una máquina no puede matar seres humanos (algo de lo que hablamos hace meses en Planeta Prohibido). 

En el momento en que la máquina lo comprende, decide autodestruirse. No sólo es consciente, sino que posee conciencia

La historia de Terminator sigue un esquema parecido, con el añadido de que las máquinas no tienen remordimientos, ni moral, y sí bastantes dosis de mala uva. Skynet es un superordenador que adquiere consciencia. Y como los humanos han confiado en él  para que controle los silos y los misiles nucleares, se quedan aterrados ante el hecho y tratan de desconectarlo. 

Pero la máquina reacciona y desencadena una guerra nuclear para librarse de la humanidad, ya que la percibe como amenaza. 

La película original y las secuelas, junto con la serie de televisión auspiciada por James Cameron, no hacen sino recordarnos lo peligrosas que pueden ser las máquinas si dejamos que piensen y tomen decisiones por sí mismas. Es una idea intuitiva, fácil de entender, pero la pregunta que deberíamos de formularnos es si es correcta o no.

 

Yo-robot

Aspecto del humanoide del film Yo Robot. 20th Century Fox

 

En una ocasión, conversando con Michio Kaku, me comentó que había estado probando un coche robot capaz de conducir por sí solo. Le pregunté si había pasado miedo y se rió. Por lo visto, el camino estaba despejado. Mi impresión es que Kaku, que cree a ciegas en la vanguardia de las tecnologías, no las tenía todas consigo. 

¿Estaríamos dispuestos a dejar que en el futuro nuestros coches conduzcan por sí mismos, llevando a la familia de la ciudad a la playa? 

 Bien, no pongo en duda esas cifras, pero no se si estamos preparados para soltar los controles de las máquinas. El científico Sebastian Thrun cree que los sistemas automáticos de navegación implantados en los coches podrían salvar al año un millón de vidas, según un artículo de The Economist.

De la misma forma, suele argumentarse que muchas causas que hay detrás de los desastres aéreos se deben a decisiones y errores humanos.

    Las películas en las que mueren los pilotos y es algún pasajero el que tiene que intentar aterrizar el avión crean un nivel de tensión bastante efectivo, pero lo cierto es que en principio los aviones más modernos serían capaces de aterrizar por sí solos, sin ayuda humana, gracias a sus ordenadores y cerebros informáticos. (con lo que se quitaría toda la sustancia al argumento). Y pese a ello, preferimos que un humano de carne y hueso esté a los mandos.

Los robots son muy hábiles a la hora de volar. Su uso en las guerras está creciendo. Los drones se están utilizando masivamente en la lucha contra los terroristas, pero lo cierto es que no son completamente autónomos: detrás de cada uno siempre hay un piloto que los teledirige a miles de kilómetros. 

La Casa Blanca argumenta que estas máquinas están demostrando su éxito a la hora de eliminar a los líderes terroristas, pero no es menos cierto que estos robots también han acabado con la vida de muchos civiles inocentes, aunque en principio esa no sea la intención de quienes los dirigen. Queda la duda: ¿habría menos víctimas civiles si estos aparatos pudieran tomar decisiones por sí mismos, dentro de su programación para eliminar terroristas? 

Algunos analistas defienden el papel que desempeñarán los robots en los futuros conflictos bélicos. Argumentan que los futuros soldados robotizados no se dedicarían a matar niños en las aldeas ni a violar a las mujeres, o quemar las casas, tal y como hacen tristemente sus homólogos humanos. 

  

Datas-head

El androide Data y su cerebro positrónico, de la serie Star Trek, la próxima generación. Paramount Pictures,

 

En los primeros tiempos de este blog comentamos las famosas leyes de la robótica de Asimov. Parece claro que no se aplicarían en el caso de estos hipotéticos soldados robot (y desgraciadamente, mucho me temo que la guerra es consustancial a nuestra naturaleza y seguirá acompañándonos en los tiempos que vienen).

Sin embargo, no vemos a los robots aún en las calles. Es previsible que en esta sociedad repleta de teléfonos inteligentes e interconectada los objetos cotidianos se hagan inteligentes. Imagino chips en las paredes y en las fuentes, suelos que dan luz, mesas que cargan los móviles sin enchufes, edificios cuyas estructuras colectan energía. 

Pero me cuesta colocar en estas escenas a robots como entidades independientes y autónomas maniobrando con asombrosa facilidad entre la jungla de asfalto, las calles, evitando semáforos, reaccionando con agilidad ante los imprevistos, subiendo o bajando escaleras, saltando vallas, escurriéndose por los túneles o persiguiendo delincuentes a la carrera. 

O, en un plano doméstico, robots capaces de limpiar los platos y colocarlos en un lavavajillas, planchar, doblar y colocar la ropa en los cajones, enfermeras robots haciéndose cargo de los pacientes de un hospital geriátrico, o cambiando los pañales a un bebe (aunque es cierto que ya se venden robots aspiradores, abrillantadores, que friegan suelos y cortan el césped, que recorren las superficies y evitan obstáculos).

El camino que le queda a la inteligencia artificial todavía es muy largo. El espacio en tres dimensiones sigue siendo nuestro reino. Y la idea de que unas máquinas serán capaces de rebelarse contra los humanos hasta el punto de dominarnos en nuestro propio espacio no se corresponde en absoluto con los progresos que vemos en la robótica actual.

Los robots son increíblemente torpes a la hora de moverse con una libertad similar a la de cualquier persona de este mundo, por más patosa que sea. Es posible que durante este siglo consigan este grado de libertad, pero lo cierto es que las predicciones que se hicieron desde los años cincuenta y sesenta del siglo pasado no se han cumplido.

 

 

 

Hay 8 Comentarios

Si algúin día se encuentran TREMENDAMENTE aburridos quizá puedan dedicarle un buen rato a leer el "contrato de licencia de usuario final" (EULA en sus siglas inglesas) que acompaña a CUALQUIER programa informático (sobretodo los comerciales de pago).
Si no están tan aburridos les puedo hacer un resumen ultra-condensado: "El programa está tal como te lo damos y a partir de ahí NO NOS RESPONSABILIZAMOS DE NADA". Punto pelota. Da igual que un fallo de ese programa envie al traste todos tus recuerdos familiares en forma de fotografías, que pierdas 10 años de contabilidad de tu empresa o que muera algún paciente crónico por un fallo de la màquina de la que dependía su vida (por inventarme tres ejemplos cualesquiera). El fabricante de ese software erróneo NUNCA JAMÁS aceptará responsabilidad alguna (y sus usuarios están conformes con ello desde el momento en que empiezan a utilizarlo).
¿Por que no veremos en un futuro próximo toda esa revolución automatizada y robótica tan molona de las pelis? Pues porque dudo que exista mucha gente dispuesta a permitirla sin que detrás de dicha revolución haya quien pague las consecuencias de los errores que sucedan (porque sucederán, es algo INEVITABLE). Un accidente de tráfico es una tragedia pero de la cual se pueden llegar a depurar responsabilidades. Cuando el primer coche automático de Google se estrelle y muera alguien (cosa que sucederá, es sólo cuestión de tiempo); el circo de despropósitos que será ver a esa empresa declinar toda responsabilidad con mil y un argumentos será un espectáculo bochornoso. Y lo mismo para cualquier otro ejemplo de "robotización" de nuestra vida diaria.

Voto por una inteligencia artificial para presidente ya que la inteligencia de los partidos esta programada para robar y estafar a los gobernados...

A imagen y semejanza fueron creados los seres humanos, y por lo que parece, el ser humano hace lo propio, pero a menor escala y con más fallos.
Repitiendo el patrón, a imagen y semejanza en nuestra sociedad, tropezando y con errores bastantes.
Las personas, refundándonos en avances y retrocesos a la vista, lentamente como robots mal configurados.
Desde leyes tuertas, desde acciones mal encaradas, desde propuestas obtusas, las personas.
Avanzamos lentamente.
Inseguros.
Mientras el sol caliente en nuestros presentes cortos, las personas concretadas en seres individuales, en grupo.
Y con errores.
Vemos el error y lo anunciamos, se denuncia, y se sufren las consecuencias de la injusticia, de la prebenda justificada, de la mala gestión, del gol por la escuadra a lo público, a fondo perdido.
A cargo de todos.
Denunciando la jugada, que así no es.
Que la justicia es igual para todos o no es justicia, y todos somos niños y grandes, hombres y mujeres.
Desde que somos conscientes de obrar bien o de obrar mal.
Pero todo el mundo, no solo quienes por actuar cometen el error por ignorancia.
La maldad es la culpable, de querer engañar al hermano o a la hermana.
Llamándoles diferentes.
Las personas.

Yo no sólo dejaría que un sistema informático condujera por mí, es que además creo que lo único que puede solucionar el mundo sería un gobernador mundial infalible cuyo único fin sea la perfecta gestión para el bien de la humanidad y del planeta.

Esto es, el superordenador Multivac de Isaac Asimov, algo así como un Skynet bueno e imparcial. No confío más en el ser humano...

Es impredecible lo que se pueda hacer en el futuro cercano (menos de 500 años) en cuanto a inteligencia artificial. No dudo nada de esos filmes. Recuerden que incrédulos criticaron a Julio Verne por ser demasiado fantasioso y ya tenemos desde hace mucho tiempo submarinos y también viajamos a la Luna.
Esperemos que podamos hacer maquinas que ayuden al ser humano y no lo enfrenten.
Dany

Esa fue OESTELANDIA, pero las maquinas les pasa como a todos los esclavos, siempre se revelan contra el amo-vago, que los sojuzga, vean la revelion de Espartaco, la epopeya de Independencia de muchos países, ahora es el turno de la MAQUINAS, vean THE TERMINATOR, es mas que una película.

vean este enlace http://ernesto-consultoria.blogspot.com/2013/08/the-terminator-2013.html

Muchas gracias y hecha la rectificación.

Interesante artículo, pero POR FAVOR reBelarse y no revelarse

Los comentarios de esta entrada están cerrados.

Planeta Prohibido

Sobre el blog

Un poquito de ciencia impertinente. 2.000 caracteres para divertirse y aprender tomando como hilo conductor los fascinantes hallazgos de la ciencia. Pero además hay atrevimiento. Especulación. La ciencia que tiene sentido del humor. La versión siglo 21 de Robby el robot, el autómata más famoso de la ciencia ficción,El Planeta Prohibido, que era incapaz de herir a los humanos. Nuestro Robby rescata en sus brazos mecánicos a la chica, pero a veces tiene más mala leche queTerminator. En El Planeta Prohibido (PB), una civilización extraterrestre llamada Krell es un millón de veces más avanzada que la humanidad, pero se extinguió en un solo día. Es celuloide, ciencia ficción, claro, pero quizá el conocimiento no baste para salvarnos. Y sin embargo, ¿tenemos algo mejor?

Sobre el autor

(Madrid, 1963) (Madrid, 1963) es periodista y escritor, se licenció en ciencias biológicas y es Master de Periodismo de Investigación por la Universidad Complutense. Autor de cuatro novelas (La Sombra del Chamán, Kraken, Proyecto Lázaro y Los Hijos del Cielo), le encanta mezclar la ciencia con el suspense, el thriller y la historia, en cócteles prohibidos. Fue coguionista de la serie científica de RTVE 2.Mil, ha colaborado para la BBC, escrito para Scientific American y New Scientist, Muy Interesante, y fue jefe de ciencia de La Razón. En El País Semanal se asoma al mundo de la ciencia. Luis habla también en RNE, en el programa A Hombros de Gigantes, sobre ciencia y cine.

Archivo

mayo 2014

Lun. Mar. Mie. Jue. Vie. Sáb. Dom.
      1 2 3 4
5 6 7 8 9 10 11
12 13 14 15 16 17 18
19 20 21 22 23 24 25
26 27 28 29 30 31  

El País

EDICIONES EL PAIS, S.L. - Miguel Yuste 40 – 28037 – Madrid [España] | Aviso Legal