Adán y Eva en tiempos cibernéticos

En su última novela, Ian McEwan instala una reflexión sobre lo humano y lo no humano, mostrándonos cómo las viejas estructuras de dominación se trasladan a una especie de “colonialismo digital” por venir. Se trata de un problema nuevo, reflexiona un personaje del libro, que se suma a todos aquellos males irresueltos que nos han aquejado.

por Carolina Gainza I 7 Abril 2020

Compartir:

Relacionados

Personaje

por

Lanzados y desnudos

por Por Marcelo Soto

Alrededor de los años 50, el reconocido científico Alan Turing, considerado padre de la informática moderna, se preguntaba si las máquinas podían pensar. De esta inquietud surge el famoso Test de Turing, que consiste en poner a prueba las facultades de la máquina y los seres humanos.

Alan Turing está vivo en Máquinas como yo, la última novela de Ian McEwan, y ha estado a la cabeza del desarrollo de dos robots con apariencia humana, cuyos nombres son Adán y Eva. La historia se sitúa en Londres de los años 80, pero en un escenario social y cultural alternativo, donde existen seres inteligentes no humanos producto del desarrollo de la inteligencia artificial e Inglaterra se encuentra sumida en revueltas sociales luego de perder Las Malvinas. El eje narrativo se desenvuelve en torno a la relación entre Charlie y Miranda, y un tercero, Adán, el androide con características humanas que Charlie compra por 86 mil libras. Ya en su casa, ponen a cargar sus baterías y se lanzan a la aventura de programarlo. Había que diseñar a este Adán, ¿cómo hacerlo? ¿Debía ser una réplica de su dueño? ¿Qué personalidad adjudicarle? Charlie decide dejarle a su novia Miranda la tarea de programarlo, mientras se enfrasca en una reflexión sobre estas y otras preguntas referentes a su nuevo “juguete”. Sin embargo, esas decisiones terminan siendo banales frente a las posibilidades de aprendizaje de la máquina. Se le podía dotar de ciertas características, pero finalmente dotar a una máquina de la posibilidad de aprender es entregarle la posibilidad de adquirir conciencia de sí misma. El control de los humanos sobre su creación era ilusorio.

He aquí el centro del asunto: hacer réplicas del cerebro humano o crear inteligencias que pueden realizar cuestiones imposibles para nuestro cerebro, no nos permite, al mismo tiempo, tener el control sobre el pensamiento de esa inteligencia artificial. Las neurociencias pueden acceder a las funciones del cerebro, incluso desarrollar modelos que intenten replicarlo, pero aún no somos capaces ni siquiera de entender el pensamiento. Justamente en esto está la libertad de los humanos. Y también, como subraya McEwan en la novela, la de las máquinas.

El personaje de Turing es central en la novela. Además de ser un pionero del desarrollo de estas tecnologías, reflexiona permanentemente acerca del “ser” de las máquinas, de su hipotética subjetividad. Como es característico en la escritura de McEwan, encontramos un trasfondo moral.

En tiempos de proliferación de máquinas inteligentes, escuchamos todo el tiempo: las máquinas no alcanzarán la perfección del ser humano. En esta novela, por el contrario, accedemos a una reflexión profunda sobre lo humano que se aleja de la falsa creencia de nuestra perfección. La tecnología no es una muestra de nuestra maravillosa inteligencia humana, sino más bien nos enrostra nuestras complejas contradicciones. No es que Adanes y Evas sean perfectos, una raza superior a la nuestra. Pero constituyen una singularidad, una existencia diferente, que nos lleva a una reflexión sobre esa creencia profundamente arraigada sobre nuestra superioridad humana y sobre el derecho que tenemos de intervenir sobre otras formas de vida.

“Máquinas como yo y gente como vosotros”, señala Adán en un momento clave de la novela: una diferencia que Charlie no puede aceptar. El reconocimiento de la diversidad ha sido una problemática presente en toda nuestra historia humana, que ha justificado toda clase de ejercicios de poder: racismos, homofobias, estructuras patriarcales, divisiones de clase, explotación del medio ambiente, maltrato animal… La construcción del otro desde la negatividad, como lo que yo no soy, es decir, el lado oscuro de una supuesta existencia superior (sea cual sea esta: blanco, hombre, europeo, clase alta, etc.), y, por lo tanto, desechable, imperfecto, dominable, explotable, sin conciencia, sin derechos, sin libertad. La novela instala una reflexión sobre lo humano y lo no humano, mostrándonos cómo los viejos colonialismos se trasladan a una especie de “colonialismo digital” por venir. Se trata de un problema nuevo, reflexiona Charlie, que se suma a todos aquellos males irresueltos que nos han aquejado.

En tiempos en que la discusión sobre la inteligencia artificial gira en torno al fomento de la innovación tecnológica, Máquinas como yo es una novela pertinente, que explora los dilemas que rodean a estos avances en nuestra era: desde ineludibles disyuntivas éticas hasta el acceso abierto al conocimiento.

No en vano, estos seres que semejan lo humano, y que ponen en juego esta misma categoría, llevan por nombre Adán y Eva. Máquinas creadas a imagen y semejanza nuestra, que, tal como en la historia bíblica, adquieren una subjetividad propia. Juzgan nuestras mentiras e injusticias. Se vuelven contra nosotros, pero no para exterminarnos, sino para mostrarnos lo imperfectos que somos. Tal como aquella inteligencia artificial de Microsoft, un bot conversacional que comenzó a publicar frases racistas, machistas y homofóbicas en Twitter. Lo que vemos no es solo el triunfo del progreso científico tecnológico, sino también lo que Charlie expresa en un momento: “La utopía de Adán enmascaraba una pesadilla”.

En el campo de la literatura digital se debate si una máquina o la escritura algorítmica será capaz de alcanzar la grandeza de la escritura humana. ¿Será capaz de transmitir emociones en un poema? ¿Podrá hacernos sentir el lenguaje, crear mundos con los que nos sintamos identificados?

Este es el mismo problema que plantea la novela de McEwan. Continuamos pensando desde nuestro antropocentrismo. Adán es capaz de escribir haikus con una perfección que jamás le asignaríamos a una máquina, inspirado en miles de escrituras guardadas en sus bases de datos. No estamos lejos de eso: hoy se diseñan programas que son capaces de aprender el estilo de un escritor, o escribir su propia novela a partir de técnicas de aprendizaje maquínico. ¿Cómo evaluar esas acciones? ¿Cómo “calificar” esas creaciones? ¿Cómo apreciarlas? Sin duda es más fácil seguir creyendo que tenemos el control, que no hay nada allí, que lo que hacen o escriben es fruto de una operación mecánica sin ningún estatus especial. Al menos no como aquel que a nosotros, humanos, nos otorga la biología, la razón y, en definitiva, la conciencia.

En tiempos en que la discusión sobre la inteligencia artificial gira en torno al fomento de la innovación tecnológica, Máquinas como yo es una novela pertinente, que explora los dilemas que rodean a estos avances en nuestra era: desde ineludibles disyuntivas éticas hasta el acceso abierto al conocimiento —motor del desarrollo de la IA en esta historia—, el problema de la conciencia, la diferencia entre cerebro y mente, la memoria, la experiencia, y temas como la afectividad o la posibilidad de creatividad artística de los algoritmos inteligentes.

¿Cómo convivi(re)mos con esos otros?

Lo que hace algunos años era ciencia ficción se convierte en un problema real de nuestra vida digital en la escritura de Ian McEwan.

 

Máquinas como yo, Ian McEwan, Anagrama, 2019, 355 páginas, $18.000.