Esto ya no es ciencia ficción

Preguntarse por el lugar de lo humano en un contexto donde la inteligencia artificial está modificando día a día nuestra existencia, es el desafío que plantean dos de las mejores series de TV del último tiempo: Black Mirror y Years and Years. La primera está dominada por un clima tecnológico más opresivo y la segunda apuesta por una mirada esencialmente política, pero es la disolución de los límites entre lo real y lo virtual lo que las vuelve tan asombrosamente verosímiles.

por Carolina Gainza I 9 Enero 2020

Compartir:

Relacionados

Hombres asustados

por Alberto Fuguet

Sam Shepard, el observador observado

por Felipe Edwards del Río

En un viaje de trabajo a una universidad en el noreste de Estados Unidos, fui invitada a comer a la casa de una de las profesoras de esa institución. El lugar estaba en los suburbios de la ciudad, en medio de bosques donde los ciervos pastan tranquilos en los patios. Llegué y saludé a la dueña de casa y a sus hijos, quienes me invitaron a acompañarlos a la cocina donde preparaban la cena. Ahí escuché una voz que le hablaba a la anfitriona, advirtiéndole que le quedaba poco para apagar el fuego de la olla donde se cocinaba un arroz. Luego uno de sus hijos se dirigió a un parlante instalado en la cocina y le solicitó información para una de las tareas que debía hacer. Ella, la voz es femenina, le respondió con información muy completa sobre lo que el niño necesitaba. Atrás quedó el entorno bucólico que rodeaba a la casa. La parlante era una presencia integrada a la familia con una naturalidad perturbadora para mí. En la comida me comentaron que incluso la utilizaban para contarles cuentos a los niños en la noche. Se trataba de Alexa, la asistente virtual de Amazon, con presencia en varios hogares del mundo. Me acordé de Robbie, aquella robot-niñera del cuento de Asimov, por la que Gloria, una niña de ocho años, desarrollaba afectos más fuertes que los que tenía hacia su madre. Me pregunté si en el futuro cercano los niños y las niñas preferirán la voz y presencia de Alexa, o de otra inteligencia virtual, para contarles cuentos en reemplazo de la voz de sus padres. Pero ahí no acabaron mis preocupaciones. Lo que me revelaron integrantes de la familia durante la comida, mientras Alexa intervenía a través de lo que le preguntábamos, me pareció extremadamente inquietante. Alexa no solo escuchaba nuestras conversaciones, las grababa y las guardaba en la “nube”, supuestamente con fines de mejora del servicio, pero se trataba de un espacio al que pueden potencialmente acceder los sistemas de vigilancia y quién sabe qué más. ¿Por qué permitimos la entrada de un dispositivo como ese en nuestras casas y vidas cotidianas, incluso sabiendo que tendrían acceso a nuestras conversaciones privadas?

Creo que esta experiencia bien podría ser parte de la serie Black Mirror. La distopía tecnológica que muestra la serie no está ambientada en el futuro, como la sociedad de control de 1984 de George Orwell o las subjetividades robóticas de ¿Sueñan los Androides con ovejas eléctricas? de Philipp K. Dick. Por el contrario, el éxito de Black Mirror se encuentra en el efecto de realidad que provoca, de un futuro a la vuelta de la esquina.

La serie aborda diversas temáticas, entre las que se cuentan las tecnologías de vigilancia, las redes sociales y sus efectos en las formas de relacionarnos, el manejo de nuestra subjetividad en un mundo tecnologizado y el control que tenemos sobre la tecnología. Vivimos en un mundo atravesado por dispositivos digitales y algoritmos que afectan nuestras vidas en aspectos que muchos no logramos comprender ni imaginar. Por otra parte, el desarrollo de algoritmos inteligentes ha sobrepasado la pura gestión de datos, dando paso a sistemas capaces de analizar, actuar, decidir y aprender de forma autónoma. Este entrecruce entre lo humano y lo no humano que se advierte en la vida contemporánea tecnologizada, es a lo que llamo “condición digital”, la cual aborda la pregunta por cómo se construye la subjetividad, tanto humana como algorítmica.

Más allá de lo humano

Alexa también puede mantener conversaciones con los usuarios y encargarse de manejar los aparatos electrónicos de nuestra casa. Seguramente, tendrá otras funciones más en el futuro, como la muñeca parlante Ashley Too del último capítulo de la quinta temporada de Black Mirror. El objetivo es que estas “asistentes” –femeninas en su mayoría, tema que sería materia de otra reflexión– sean cada vez más “humanas”, porque nosotros reaccionamos mejor cuando pensamos que estamos interactuando con uno de los nuestros y no con una máquina. Si no, pregúntese por qué cuando reserva una cita médica recibe un email de una tal Francisca, Javiera o Amanda, con un mensaje amable que le pide confirmar su reserva: ¿Usted sabía que estos son programas informáticos conocidos como “bots”? Sin embargo, lo cierto es que no son humanos. La condición digital tiene que ver con estas interacciones, entre sujetos humanos y agencias no humanas.

El impacto de Black Mirror se encuentra en que lo que presenciamos en esas ficciones no tiene que ver con el futuro, sino con la dirección que está tomando la vida contemporánea. La obsesión por los “me gusta” en el capítulo “Nosedive”, donde se ven determinadas nuestras relaciones con los demás, estableciéndose un sistema de puntuación de las personas, nos recuerda la calificación vía vigilancia de los ciudadanos que quiere implementar el gobierno chino. Por su parte, aquella madre que implanta una tecnología de vigilancia en su hija en el capítulo “Arkangel” no es una cuestión tan lejana si pensamos que es posible controlar vía GPS a los hijos, algo que he escuchado a varios padres en reuniones de colegio.

La posibilidad de extender las funciones de nuestro cuerpo, como la visión tridimensional o transformar nuestra conciencia en datos que puedan ser separados de nuestros cuerpos, son temas presentes en lo que se conoce como ‘transhumanismo’, y que proviene de la teoría cyborg, donde la tecnología constituye una prótesis de lo humano que permitiría liberar al cuerpo de sus restricciones físicas y materiales.

En la última temporada, el capítulo “Striking Vipers” aborda la construcción de la identidad a través de la posibilidad de asumir ciertos aspectos de nuestra subjetividad que no somos capaces de mostrar en la vida real, pero que los personajes exploran a través de sus encuentros sexuales en un juego de video. En este sentido, nuestras vidas se encuentran cruzadas por las tecnologías. Black Mirror da cuenta de la imposibilidad de escapar de estas.

Quizás uno de los temas más candentes en la discusión contemporánea respecto a la relación humano-máquina tiene que ver con la posibilidad de una “humanidad aumentada”, tomando el título del libro del escritor y filósofo Éric Sadin. La posibilidad de extender las funciones de nuestro cuerpo, como la visión tridimensional o transformar nuestra conciencia en datos que puedan ser separados de nuestros cuerpos, son temas presentes en lo que se conoce como “transhumanismo”, y que proviene de la teoría cyborg, donde la tecnología constituye una prótesis de lo humano que permitiría liberar al cuerpo de sus restricciones físicas y materiales. Varios de los capítulos de la serie abordan esta problemática, desde tecnologías implantadas en los cuerpos para acceder a nuestras memorias personales, como en el capítulo “White Christmas” y “The Entire History of You”, las cuales nos sitúan en el importante debate contemporáneo sobre los neuroderechos, hasta transformarnos en avatares y transportarnos a entornos virtuales para experimentar otras vidas. Ashley Too es más que una asistente virtual de la joven Rachel en el último capítulo de Black Mirror: es la consciencia de Ashley contenida en un dispositivo electrónico.

Lo mismo observamos en la serie Years and Years, una especie de versión más política de Black Mirror, estrenada en 2019 por HBO, donde se plantea la posibilidad de que en el futuro podamos transportar nuestra existencia, como pura información, a dispositivos electrónicos. “Liberarnos del cuerpo”, señala una de las protagonistas de Years and Years que busca someterse a este tipo de experimentos. Sin embargo, estas acciones no pierden conexión con nuestra existencia material y terminan afectando la vida “real”. Y lo escribo entre comillas porque, en efecto, la condición digital difumina los límites entre lo real y lo virtual, lo cual hace a Black Mirror y Years and Years tan asombrosamente verosímiles.

Las promesas de la tecnología de cubrir las insuficiencias de los cuerpos humanos y realizar acciones más allá de estos, se transforman en Black Mirror en distopías vinculadas a nuestra falta de control sobre la revolución tecnológica. Tal como ha ocurrido con cada cambio tecnológico, la pregunta central es, entonces, por el lugar de lo humano en un contexto donde crece un poder tecnológico que afecta nuestras condiciones de existencia. La condición digital tiene que ver precisamente con esto, con pensar lo humano y su transformación en relación con los usos de las tecnologías digitales y la existencia de presencias inteligentes que configuran otras existencias.

Aquí es donde entramos en otros aspectos de la serie. Porque si para el transhumanismo las tecnologías siguen siendo prótesis de lo humano, meros instrumentos para mejorar o aumentar las funciones de los cuerpos, la verdad es que el desarrollo tecnológico actual ha ido mucho más allá. Las inteligencias artificiales, algoritmos capaces de aprender y ejecutar acciones autónomas, han creado una presencia alternativa, in-corporal, que escapa en gran parte a nuestro entendimiento. Se ha formado una capa de poderes que actúan de forma silenciosa, que afectan nuestras decisiones, y que, además, son capaces de realizar actividades imposibles para el cerebro humano, especialmente en cuanto a su capacidad de procesamiento de información. Tenemos miedo al autómata y su rebelión, y sin embargo está aquí, en Alexa, en Siri, en la robot Sophia, en bots, en algoritmos que pueden escribir novelas o entablar una conversación.

En vez de temer ser reemplazados por estas tecnologías, deberíamos comenzar a pensar en estas presencias, en el lugar que ocupan en nuestro mundo y en sus propias condiciones de existencia, una cuestión que ya lleva varios años realizando la corriente poshumanista.

En vez de temer ser reemplazados por estas tecnologías, deberíamos comenzar a pensar en estas presencias, en el lugar que ocupan en nuestro mundo y en sus propias condiciones de existencia, una cuestión que ya lleva varios años realizando la corriente poshumanista. Nuestra vida ya no existe más fuera de este mundo digital, por lo cual repensar las categorías con que definimos y aprehendemos el mundo se transforma en un imperativo, así como también pensar la técnica en sí misma y sus especificidades no humanas.

Como siempre, en el centro está lo político

En el jardín de senderos que se bifurcan, en el cual se desenvuelve la subjetividad contemporánea, pareciera que los caminos están predeterminados por inteligencias algorítmicas. Uno de los capítulos más exitosos de Black Mirror, “Bandersnatch”, estrenado en diciembre de 2018, se sumerge en este tema. Este capítulo es especialmente relevante, no solo porque lleva una experiencia estética interactiva e hipertextual –ya experimentada previamente en videojuegos, literatura digital y cine interactivo– a un público más amplio, sino que también porque permite ver, tanto en su guión como en su narrativa expandida, que la posibilidad de elegir que se nos ofrece constantemente constituye una creencia falsa de nuestros tiempos (muy neoliberal, por cierto).

Cada vez más, nuestras elecciones están siendo influenciadas por algoritmos que aprenden de la información que entregamos constantemente, de forma voluntaria, en nuestros paseos por internet. Cada clic constituye una información valiosa para el algoritmo, que construye una identidad digital de nosotros, sobre nuestros gustos y preferencias. Sin ir más lejos, esa información incluso sirve para influir en nuestras decisiones políticas, como ocurrió en el caso de Cambridge Analytica y las elecciones en Estados Unidos. Así, como ocurre en “Bandersnatch”, nos fascinamos con la libertad de elegir, pero ¿hasta qué punto estos caminos u opciones ya han sido trazadas por estos algoritmos?

La cuestión central, entonces, está en la posibilidad de posicionarnos conscientemente respecto de lo que nos imponen los sistemas tecnológicos. De pronto el problema de Black Mirror es que, en esta mutación de la condición humana y no humana, los escenarios catastróficos tienen que ver principalmente con la tecnología, donde queda la inquietante sensación de un camino sin salida. Considero que aquí está la diferencia con Years and years. Esta también presenta futuros inminentes en que la tecnología juega un papel central en el cambio en las condiciones de existencia humana. Pero comprendemos de inmediato que el problema no es la tecnología, sino la falta de conciencia política. El destino de las tecnologías está profundamente entrelazado con las decisiones de poderes políticos que nos recuerdan a Trump, Bolsonaro o Johnson. Aquí la falta de conciencia crítica humana no ocurre solo frente al desarrollo tecnológico; la serie recuerda que la sensación de pérdida de control tiene su eje central en lo político. A esta inconsciencia política es a lo que se refiere la abuela de la familia Lyons cuando declara que los cerebros han involucionado.

Más que centrarse en la tecnología misma, en Years and Years esta tiene una dimensión política, y, en ese sentido, no es neutra. En la serie, los dispositivos digitales son demonizados por los gobernantes, prohibiendo los celulares en los colegios y enfatizando los efectos nocivos de los videojuegos (¿les suena conocido?), pero, al mismo tiempo, son usados por ellos a nuestras espaldas, donde incluso la desconexión tecnológica constituye una fuerte arma de control de la población. Es probable que la cuestión no sea liberarnos de la tecnología emprendiendo acciones neoluditas, sino que la condición digital transita por un despliegue crítico que no pasa por la oposición a la tecnología, sino más bien por una distancia que facilite pensar las singularidades, tanto humanas como no humanas.

Palabras Claves