La mano invisible del tecnoliberalismo

Pensar la revolución digital en curso y los poderes que la mueven ha sido el trabajo del francés Éric Sadin, cuyos libros reflejan cómo se ha configurado una maquinaria a base de que algoritmos puedan tomar decisiones y hacer un sinnúmero de tareas mejor que nosotros mismos. Así, la inteligencia artificial sería una especie de “mano invisible” del actual sistema, donde la gestión automatizada de nuestras preferencias, deseos y acciones individuales y colectivas permite la imposición de un régimen de verdad, donde se vislumbra la posibilidad de gobernar sin fallas los asuntos humanos. ¿Dónde queda la autonomía? ¿Y la política?

por Carolina Gainza C. I 23 Marzo 2022

Compartir:

Relacionados

Las implicancias de las tecnologías digitales, los algoritmos y la inteligencia artificial son algunas de las preocupaciones del filósofo francés Éric Sadin (1972). En La humanidad aumentada (2017), La silicolonización del mundo (2018) y La inteligencia artificial o el desafío del siglo (2020), tres de sus libros que se encuentran en español, analiza lo que denomina “condición antrobológica”, el tecnoliberalismo y la construcción de un sistema de verdad algorítmica que se traduce en un antihumanismo radical, que adquiere toda su fuerza con el desarrollo de la inteligencia artificial. En el centro de su propuesta encontramos, entonces, una férrea defensa del humanismo.

En La humanidad aumentada, se pregunta por la relación que establecemos con las máquinas, un tipo de “condición humano-maquínica”. Las tecnologías siempre han extendido nuestras capacidades, y en ese proceso se transforman nuestras visiones de mundo y de la propia condición humana. En el marco de la revolución digital, asistimos a una nueva condición, “antrobológica”, donde se entrelazan organismos humanos y artificiales. Esta nueva presencia, esta entidad impersonal, corresponde a sistemas compuestos de algoritmos inteligentes que no solo imitan lo humano, sino que van más allá de lo que nosotros podemos hacer, generándose una existencia que adquiere cierta autonomía de lo humano. Estas entidades inteligentes, siguiendo a Sadin, cada vez toman más decisiones por nosotros, provocando un deslizamiento desde el sujeto humanista, autónomo y crítico de su condición, a individuos algorítmicamente asistidos, donde hemos perdido nuestra capacidad de obrar en libertad.

La humanidad aumentada sería el resultado de una ampliación de la experiencia y las formas de percepción provocadas por el uso de tecnologías digitales y, al mismo tiempo, una cesión de nuestra capacidad de decisión a los algoritmos.

Los algoritmos constituyen el lenguaje de las tecnologías digitales que hoy nos rodean. Interactuamos constantemente con ellos, como cuando Google ordena las respuestas a nuestras búsquedas, cuando Facebook sugiere amistades o cuando Netflix dice qué películas o series podrían gustarnos. Con cada clic que hacemos, con cada “me gusta”, entregamos información a los algoritmos respecto de nuestros gustos, preferencias y emociones. Seguramente, también pensamos en Alexa, Siri o el personaje de Samantha en la película Her. Sadin plantea que hoy nos encontramos “hibridados” con estos sistemas. La “antrobología” es, así, una condición mixta, humano/artificial, un entrelazamiento entre cuerpos orgánicos y agentes inmateriales digitales. Estas entidades algorítmicas ya no son prótesis de nuestros cuerpos, sino que están destinadas cada vez más a gestionar electrónicamente muchos campos de la sociedad y la vida, bajo la premisa de que lo hacen mejor que nosotros mismos, los humanos.

La humanidad aumentada sería el resultado de una ampliación de la experiencia y las formas de percepción provocadas por el uso de tecnologías digitales y, al mismo tiempo, una cesión de nuestra capacidad de decisión a los algoritmos.

Por supuesto, los algoritmos no se manejan solos, sino que actúan bajo una cierta visión de mundo. Esta visión proviene de lo que Sadin denomina “el espíritu de Silicon Valley”, en su libro La silicolonización del mundo. El manejo de datos a todo nivel representa la nueva fiebre del oro: todos los países quieren tener su propio Silicon Valley, a punta de startups, emprendimientos e innovación. Es el nuevo carro al que hay que subirse para no quedar abajo del tren —ahora digital— del progreso.

La propuesta de Sadin vincula el espíritu libertario del San Francisco de los años 60, aquella voluntad de crear otras formas de vida que se oponían a los valores tradicionales del trabajo, la familia y el consumo, con el desarrollo de la informática en Silicon Valley. El espíritu del informacionalismo tiene en su base, según Sadin, el utilitarismo libertario estadounidense. Este empuja una renovación del capitalismo a través de una ideología que promete ejercer la libertad de elegir modos de vida a través del acompañamiento algorítmico de esta. Los algoritmos ofrecerían a cada uno el mejor de los mundos posibles, liberándonos de la pesada carga de, por ejemplo, tener que ir a votar, como celebran algunos tecno-optimistas. En este ejemplo, que ya circula en algunas propuestas de “democracia digital”, los algoritmos podrían conocer las preferencias de los votantes e incluso votar, mientras los humanos podrían abandonarse a los placeres del ocio y… el consumo. El régimen liberal muta en un tecnoliberalismo, donde la gestión de la vida por algoritmos inteligentes es el límite que el capitalismo no había logrado cruzar, hasta ahora.

El proceso anterior abre una nueva forma de colonización: la silicolonización. Esta no se vive como violencia, sino como aspiración. En la alianza entre investigación tecnocientífica, capitalismo aventurero y gobiernos social-liberales, Sadin advierte el surgimiento de un antihumanismo radical, vinculado con el ensalzamiento de las posibilidades civilizatorias de la tecnología, que las sitúa por sobre lo humano, como una herramienta que es capaz de hacer las cosas mejor que nosotros.

En su libro La inteligencia artificial o el desafío del siglo, Sadin profundiza sus ideas sobre este antihumanismo presente en el desarrollo de algoritmos inteligentes y en lo que identifica la forma en que un nuevo régimen de verdad está asociado con estas tecnologías. Para el autor, nos encontramos en una era antropomórfica de la técnica, donde el desarrollo tecnológico busca simular nuestras capacidades cognitivas e ir más allá de ellas. La creación de inteligencias artificiales tiene como objetivo, así, que estas tengan cualidades humanas, que puedan evaluar situaciones y sacar conclusiones de ellas mejor que nosotros mismos.

El peligro que advierte Sadin es la delegación de nuestra capacidad de decidir y de asumir responsabilidades y, por ende, nuestro potencial crítico y político. ¿Para qué elegir presidentes, senadores, etc., si una inteligencia artificial puede hacerlo mejor? ¿Para qué discutir sobre el futuro si una inteligencia artificial podrá calcular y determinar lo que necesitamos, a través de operaciones automatizadas de las distintas probabilidades?

Nos hemos detenido poco a pensar sobre la sociedad que estamos construyendo y que queremos construir, desde Latinoamérica, lo cual implica analizar las nuevas formas de colonialismo, la relación humano-máquina desde una perspectiva situada y las formas de subjetividad que están surgiendo en este contexto.

Pero este sistema no funciona solo; es importante preguntarse a quién estamos delegando la creación de estas inteligencias, para qué y para quién. Y para Sadin, quienes están tomando esas decisiones son los poderes económicos, bajo una supuesta neutralidad de la tecnología, borrando toda huella de los intereses en juego y de las intenciones que existen tras su creación. La inteligencia artificial sería una especie de mano invisible del tecnoliberalismo, donde la gestión automatizada de nuestras preferencias, deseos y acciones individuales y colectivas, de acuerdo a las ambiciones hegemónicas de transnacionales tecnológicas, como Google, Facebook y otras, permite la imposición de un régimen de verdad, donde se vislumbra la posibilidad de gobernar sin fallas los asuntos humanos.

¿Qué posibilidades tenemos frente a este escenario que parece desolador?

Sadin apela a recuperar los valores del humanismo y nuestra capacidad crítica —que incluso han perdido los investigadores y científicos que se pliegan con entusiasmo a las supuestas bondades del desarrollo tecnológico—, para pensar sobre la dirección que está tomando la revolución digital e identificar los poderes que la mueven. Para el autor no basta la mera crítica, sino que hace un llamado a oponerse a estos supuestos avances y hacer emerger contra-imaginarios, que consideren nuestra imperfecta y diversa condición humana, así como la capacidad de juicio y deliberación frente a un régimen de verdad que impone un saber absoluto suprahumano, apoyado en cálculos algorítmicos. Esta forma de positivismo extremo tiene consecuencias no solo para el devenir humano, sino que también ampara nuevas formas de colonialismo que se escudan bajo nuevas ideologías del progreso.

Sadin presenta una distopía orwelliana, frente a la cual uno podría preguntarse hasta qué punto la solución es oponerse a estas tecnologías. ¿Es realmente productivo perpetuar una relación de binarismo con la tecnología: ellos o nosotros? No soy ingenua, por supuesto que todo lo que analiza Sadin constituye parte de la realidad que vivimos, y comparto que es importante develar los poderes y mecanismos hegemónicos que funcionan tras el desarrollo de las tecnologías. Lo que no comparto es su salida al problema, donde se puede extraer una especie de neoludismo digital, es decir, convertirse en destructores de las máquinas apelando a nuestra sobrevivencia como humanidad. Por otro lado, la búsqueda de contra-hegemonías que propone Sadin se enmarca en una recuperación de los valores del proyecto humanista occidental de la Ilustración. ¿No sería también una opción pensarse con la tecnología y no contra ella? ¿Es nuestra única posibilidad volvernos hacia un humanismo, europeo por cierto, anclado en los valores de la Ilustración?

Siguiendo a otro filósofo de la tecnología, Yuk Hui, las narrativas dominantes sobre las tecnologías no son más que una reelaboración del discurso del progreso occidental y moderno, que perpetúa una forma particular de comprender la relación humano-tecnología. Nos hemos detenido poco a pensar sobre la sociedad que estamos construyendo y que queremos construir, desde Latinoamérica, lo cual implica analizar las nuevas formas de colonialismo, la relación humano-máquina desde una perspectiva situada y las formas de subjetividad que están surgiendo en este contexto. El surgimiento de contra-hegemonías también tiene que ver con pensar las relaciones entre tecnologías, lo humano y el medioambiente fuera de la visión humanista occidental.

Qué es lo humano, a fin de cuentas. Esa es la pregunta que me parece interesante en relación con tecnologías digitales que nosotros mismos creamos pero que, de alguna manera, se autonomizan de nosotros y generan un sistema propio. La salida de Sadin al problema —pensar nuevos regímenes de convivencia, nuevas formas de vida, plurales, donde coexistan distintas visiones de mundo— es, por cierto, fundamental. Sin embargo, reducir esas posibilidades a la hegemonía humanista occidental, cierra las puertas a imaginar otras relaciones con formas de existencia no humanas. Esto último, pienso, es el desafío de nuestra época.

 

La inteligencia artificial o el desafío del siglo. Anatomía de un antihumanismo radical, Éric Sadin, Editorial Caja Negra, 2020, 328 páginas, $22.500.

La silicolonización del mundo. La irresistible expansión del liberalismo digital, Éric Sadin, Caja Negra, 2018, 320 páginas, $21.100.

La humanidad aumentada. La administración digital del mundo, Éric Sadin, Caja Negra, 2017, 160 páginas, $15.750.