Arlette
09-08-2018, 11:06 PM
Westworld fue escrita y dirigida por Michael Crichton en 1973, veinte años antes de estrenar Parque Jurásico, y su idea para ambos guiones era básicamente la misma: alguien con mucho dinero y pocos escrúpulos decide montar un parque temático aprovechando el vanguardista desarrollo de una tecnología que todavía no está al alcance de nadie más. El avance jurásico era la ingeniería genética para resucitar velocirraptores. El logro de Westworld (que en España se estrenó como Armas de metal) era el desarrollo de una robótica capaz de crear androides casi humanos contra los que cometer tropelías gracias a que siempre pondrían la otra mejilla. Hasta que se rompen los frágiles hilos de los que pende la creación por un problema inesperado que pone en riesgo la vida de todos los protagonistas.
En 2016, HBO estrenaba una cara y sofisticada serie inspirada en la película de Crichton. La nueva Westworld ha generado muchas reflexiones sobre el futuro de la robótica y la inteligencia artificial; una de ellas, la del peligro que pueden suponer los robots, pero ¿de qué miedo hablamos concretamente? ¿Cuál era el temor que generaba Yul Brynner con ojos metalizados y qué diferencia hay con el de los actuales los robots vaqueros? Y, sobre todo, ¿qué nos dicen esos miedos sobre la evolución de nuestra relación con las máquinas?
En la película original, lo que parecía un lugar idílico para el pecado y el desmelene se convierte en un horror por culpa de algo tan improbable como un virus informático. A quien lea esto ahora le puede parecer ridículo lo de "improbable", pero la de Westworld en 1973 fue una de las primeras referencias a los virus informáticos (como un error contagioso entre máquinas) y se considera la primera película en la que se habla de esta transmisión vírica entre aparatos. Cuando el responsable científico de los robots explica la aparición de fallos graves en los androides ("un proceso infeccioso que se esparce"), su colega le responde escéptico: "Confieso que me cuesta creer en una enfermedad de máquinas".
"Pero estas máquinas no son máquinas ordinarias, son casi como organismos biológicos", le responden. Lo cierto es que así es como sucede: primero una serpiente de cascabel robótica muerde a un turista, luego los científicos se escandalizan porque una "unidad de sexo [mujer androide] rechaza un coqueteo". Y finalmente, el pistolero que encarna Yul Brynner, parodiando hasta en el vestuario a su personaje de Los siete magníficos, se convierte en un terminator sediento de sangre. Simplemente, el comando que impedía que nos hagan daño se estropea. Estas máquinas parlantes no son tan listas como aparentaban y un simple fallo las convierte en máquinas de matar cuando dejan de respetar a los visitantes humanos. Nada que ver con la serie de HBO, en la que el peligro que se manifiesta no es que los robots pierdan el control, sino que nos superen en inteligencia y se harten de nosotros.
El valle inquietante
La especialista en robótica Robin Murphy identifica tres diferencias esenciales entre ambos Westworld: "Una es que la narrativa de ficción ha cambiado desde ver el mundo a través del punto de vista de los seres humanos hasta ver y simpatizar con el punto de vista de los robots", afirma. Y añade: "Una segunda divergencia se encuentra en la narrativa de la ciencia: los robots de 1973 fueron retratados como extensiones de la automatización industrial, mientras que los androides en la serie actual incorporan inteligencia artificial". "El tercer cambio en los últimos 45 años, quizás el más sorprendente, es que los investigadores en robótica y los legisladores participan en discusiones destinadas a ayudar a proteger a la sociedad de los robots y a proteger a los propios robots", concluye Murphy, directora del laboratorio de inteligencia artificial de la Universidad de Texas A&M.
En la serie actual empatizamos sobre todo con los androides, porque son ellos los que se hacen las preguntas más humanas. Como sugiere Murphy en un artículo en Science Robotics, evidencian la necesidad de reconocerles derechos humanos para librarlos de la espeluznante explotación que sufren, convertidos en dianas de tiro y esclavas sexuales. Y todo porque son inteligencias complejas. Murphy considera que es ese detalle el que logra sacar a los robots del valle inquietante.
Ese valle (uncanny valley, como se conoce en inglés) fue definido precisamente en la década de 1970 por Masahiro Mori como el repelús que nos generan los robots a medida que se van pareciendo más y más a los humanos sin llegar a serlo. Solo cuando son realmente humanos dejan de generar esa inquietud. Por eso las famosas réplicas casi humanas de Hiroshi Ishiguro son tan turbadoras: "Debido a sus movimientos bruscos, su quietud antinatural, la ausencia de contacto visual y la demora en la respuesta crean un desajuste frente a sus caras y cuerpos extremadamente reales", explica Murphy. Los científicos se dieron cuenta rápidamente de que salir del valle inquietante requería mucho más que realismo físico; requiere avances fundamentales en la inteligencia artificial, especialmente la comunicación del lenguaje natural.
De ahí que Murphy asegure que la manera de salir del valle inquietante sea pasar del fake it (simula la inteligencia) de los robots de 1973 al make it (hazlos inteligentes) de la serie de 2016. Es decir, pasar de la inteligencia artificial débil (o estrecha), la que sirve para pequeñas tareas o muy delimitadas, a una inteligencia artificial fuerte, aquella que permitiría a las máquinas desarrollar mejor que los humanos cualquier tarea realizada por ellos. Por eso los androides de HBO, creados por Lisa Joy y Jonathan Nolan, ya no nos dan repelús, nos dan miedo. Porque son como nosotros, pero más capaces, más inteligentes y sin nuestros lastres psicológicos.
En los últimos años, el Eurobarómetro ha mostrado la percepción de los europeos sobre los robots y queda claro que el recelo es manifiesto. Se prefiere que estos aparatos realicen tareas complejas y peligrosas (84%), como rescates y exploración espacial, mientras que recelan bastante más de su uso en tareas más sensibles, como el cuidado de menores y mayores. Aunque el mayor miedo que manifiestan hoy los europeos frente a los robots inteligentes es que le "roben el trabajo a la gente", con un 72% de los encuestados. Lo más llamativo es que entre 2014 y 2017 el porcentaje de europeos con una percepción favorable de los robots ha caído desde el 70% al 61%. Casi diez puntos en tres años. La diferencia sustancial es que en 2014 se preguntaba por la visión sobre los robots y en 2017 se preguntó por "los robots y la inteligencia artificial".
Desde el Golem a Frankenstein estas creaciones inteligentes terminaban girándose con furia hacia sus creadores. ¿Podemos hacer que los androides se comporten como humanos, pero sin el egoísmo y la violencia que aparecen en Westworld y otras obras de ciencia ficción? David Eagleman, neurocientífico de Stanford y asesor de los guionistas de la serie de HBO está seguro de que sí. "Odiaría estar equivocado acerca de esto, pero gran parte del comportamiento humano tiene que ver con restricciones evolutivas. Cosas como la competencia para sobrevivir y para aparearse y para comer. Esto forma cada parte de nuestra psicología. Por tanto, los androides, sin poseer esa historia, sin duda aparecerían con una psicología muy diferente", aseguraba el experto en una entrevista en Science. Pero si tiene dinero, contrate a un experto en bioética antes de montar el parque, no solo para el pase previo a la inauguración.
En 2016, HBO estrenaba una cara y sofisticada serie inspirada en la película de Crichton. La nueva Westworld ha generado muchas reflexiones sobre el futuro de la robótica y la inteligencia artificial; una de ellas, la del peligro que pueden suponer los robots, pero ¿de qué miedo hablamos concretamente? ¿Cuál era el temor que generaba Yul Brynner con ojos metalizados y qué diferencia hay con el de los actuales los robots vaqueros? Y, sobre todo, ¿qué nos dicen esos miedos sobre la evolución de nuestra relación con las máquinas?
En la película original, lo que parecía un lugar idílico para el pecado y el desmelene se convierte en un horror por culpa de algo tan improbable como un virus informático. A quien lea esto ahora le puede parecer ridículo lo de "improbable", pero la de Westworld en 1973 fue una de las primeras referencias a los virus informáticos (como un error contagioso entre máquinas) y se considera la primera película en la que se habla de esta transmisión vírica entre aparatos. Cuando el responsable científico de los robots explica la aparición de fallos graves en los androides ("un proceso infeccioso que se esparce"), su colega le responde escéptico: "Confieso que me cuesta creer en una enfermedad de máquinas".
"Pero estas máquinas no son máquinas ordinarias, son casi como organismos biológicos", le responden. Lo cierto es que así es como sucede: primero una serpiente de cascabel robótica muerde a un turista, luego los científicos se escandalizan porque una "unidad de sexo [mujer androide] rechaza un coqueteo". Y finalmente, el pistolero que encarna Yul Brynner, parodiando hasta en el vestuario a su personaje de Los siete magníficos, se convierte en un terminator sediento de sangre. Simplemente, el comando que impedía que nos hagan daño se estropea. Estas máquinas parlantes no son tan listas como aparentaban y un simple fallo las convierte en máquinas de matar cuando dejan de respetar a los visitantes humanos. Nada que ver con la serie de HBO, en la que el peligro que se manifiesta no es que los robots pierdan el control, sino que nos superen en inteligencia y se harten de nosotros.
El valle inquietante
La especialista en robótica Robin Murphy identifica tres diferencias esenciales entre ambos Westworld: "Una es que la narrativa de ficción ha cambiado desde ver el mundo a través del punto de vista de los seres humanos hasta ver y simpatizar con el punto de vista de los robots", afirma. Y añade: "Una segunda divergencia se encuentra en la narrativa de la ciencia: los robots de 1973 fueron retratados como extensiones de la automatización industrial, mientras que los androides en la serie actual incorporan inteligencia artificial". "El tercer cambio en los últimos 45 años, quizás el más sorprendente, es que los investigadores en robótica y los legisladores participan en discusiones destinadas a ayudar a proteger a la sociedad de los robots y a proteger a los propios robots", concluye Murphy, directora del laboratorio de inteligencia artificial de la Universidad de Texas A&M.
En la serie actual empatizamos sobre todo con los androides, porque son ellos los que se hacen las preguntas más humanas. Como sugiere Murphy en un artículo en Science Robotics, evidencian la necesidad de reconocerles derechos humanos para librarlos de la espeluznante explotación que sufren, convertidos en dianas de tiro y esclavas sexuales. Y todo porque son inteligencias complejas. Murphy considera que es ese detalle el que logra sacar a los robots del valle inquietante.
Ese valle (uncanny valley, como se conoce en inglés) fue definido precisamente en la década de 1970 por Masahiro Mori como el repelús que nos generan los robots a medida que se van pareciendo más y más a los humanos sin llegar a serlo. Solo cuando son realmente humanos dejan de generar esa inquietud. Por eso las famosas réplicas casi humanas de Hiroshi Ishiguro son tan turbadoras: "Debido a sus movimientos bruscos, su quietud antinatural, la ausencia de contacto visual y la demora en la respuesta crean un desajuste frente a sus caras y cuerpos extremadamente reales", explica Murphy. Los científicos se dieron cuenta rápidamente de que salir del valle inquietante requería mucho más que realismo físico; requiere avances fundamentales en la inteligencia artificial, especialmente la comunicación del lenguaje natural.
De ahí que Murphy asegure que la manera de salir del valle inquietante sea pasar del fake it (simula la inteligencia) de los robots de 1973 al make it (hazlos inteligentes) de la serie de 2016. Es decir, pasar de la inteligencia artificial débil (o estrecha), la que sirve para pequeñas tareas o muy delimitadas, a una inteligencia artificial fuerte, aquella que permitiría a las máquinas desarrollar mejor que los humanos cualquier tarea realizada por ellos. Por eso los androides de HBO, creados por Lisa Joy y Jonathan Nolan, ya no nos dan repelús, nos dan miedo. Porque son como nosotros, pero más capaces, más inteligentes y sin nuestros lastres psicológicos.
En los últimos años, el Eurobarómetro ha mostrado la percepción de los europeos sobre los robots y queda claro que el recelo es manifiesto. Se prefiere que estos aparatos realicen tareas complejas y peligrosas (84%), como rescates y exploración espacial, mientras que recelan bastante más de su uso en tareas más sensibles, como el cuidado de menores y mayores. Aunque el mayor miedo que manifiestan hoy los europeos frente a los robots inteligentes es que le "roben el trabajo a la gente", con un 72% de los encuestados. Lo más llamativo es que entre 2014 y 2017 el porcentaje de europeos con una percepción favorable de los robots ha caído desde el 70% al 61%. Casi diez puntos en tres años. La diferencia sustancial es que en 2014 se preguntaba por la visión sobre los robots y en 2017 se preguntó por "los robots y la inteligencia artificial".
Desde el Golem a Frankenstein estas creaciones inteligentes terminaban girándose con furia hacia sus creadores. ¿Podemos hacer que los androides se comporten como humanos, pero sin el egoísmo y la violencia que aparecen en Westworld y otras obras de ciencia ficción? David Eagleman, neurocientífico de Stanford y asesor de los guionistas de la serie de HBO está seguro de que sí. "Odiaría estar equivocado acerca de esto, pero gran parte del comportamiento humano tiene que ver con restricciones evolutivas. Cosas como la competencia para sobrevivir y para aparearse y para comer. Esto forma cada parte de nuestra psicología. Por tanto, los androides, sin poseer esa historia, sin duda aparecerían con una psicología muy diferente", aseguraba el experto en una entrevista en Science. Pero si tiene dinero, contrate a un experto en bioética antes de montar el parque, no solo para el pase previo a la inauguración.