Dos libros para navegar en el mundo de la IA

Ante la explosión de herramientas conversacionales como el ChatGPT y otros sistemas de inteligencia artificial al alcance del usuario común, repasamos dos obras publicadas recientemente que buscan echar luz sobre este fascinante y a la vez atemorizador fenómeno. ¿Estamos caminando al borde del abismo?

por Gonzalo Argandoña Lazo I 24 Noviembre 2023

Compartir:

Me hago preguntas sobre la condición humana que a veces se convierten en libros, neurociencia, charlas, documentales, arte o música”, es la presentación que hace de sí mismo el neurocientífico argentino Mariano Sigman, doctorado en Nueva York y posdoctorado en el College de France en París.

Mariano terminaba de preparar un libro sobre las palabras y la conversación, cuando recibió la sugerencia de agregar un capítulo sobre cómo conversar con una inteligencia artificial. Esa fue la semilla de una idea que creció de manera explosiva y vertiginosa: “¿Por qué no mejor un libro nuevo?”. Mariano levantó su teléfono (o más bien el celular) y se comunicó con el también divulgador, emprendedor y experto tecnológico Santiago Bilinkis, para invitarlo a la aventura de escribir una obra en conjunto. Debía hacerse en tiempo récord, dada la rapidez de los acontecimientos relacionados con la inteligencia artificial. Comenzaron entonces frenéticas conversaciones e intercambios de dos personas que vivían en distintas partes del mundo, con cinco horas de diferencia horaria. El resultado es Artificial. La nueva inteligencia y el contorno humano, que plantea un viaje por la historia, el presente y las posibles proyecciones de este campo.

Escrito a cuatro manos, el libro se viene a sumar a obras anteriores de Sigman, como La vida secreta de la mente —una suerte de bitácora de viaje recorriendo la neurociencia, el sueño, la memoria, el aprendizaje— o El poder de las palabras, que arrancaba de preguntas cotidianas, como por qué a veces nos enfadamos más de lo que queremos.

Es una obra que continúa en esa senda de ciencia y tecnología aterrizadas a la vida cotidiana, en un relato plagado de ejemplos sabrosos e ilustrativos, lleno de analogías, comparaciones y metáforas (a ratos, cayendo en un exceso de metáforas, como si se buscara llevar el formato de una charla TED a un libro de divulgación).

Agassi descubrió que Becker —sin darse cuenta— hacía un movimiento con la lengua que delataba el tipo de saque que estaba a punto de ejecutar: ‘Agassi tenía, en el mundo del tenis, una superinteligencia que le permitía detectar rasgos casi imperceptibles para predecir la dirección de un saque. Una red neuronal funciona de la misma manera: detecta atributos que le permiten identificar si una imagen es o no la de un gato, si hay un tumor en la imagen de un pulmón o qué emoción expresa la voz de una persona’.

La génesis de la inteligencia

El recorrido histórico de Mariano Sigman y Santiago Bilinkins comienza poco antes de la Segunda Guerra Mundial. En 1938, el Servicio de Inteligencia Británico compró una mansión conocida como Bletchley Park y recorrió las universidades más importantes de Reino Unido, para reclutar a un selecto grupo de investigadores para que trabajaran en una importante misión: ayudar a salvar el mundo occidental, descifrando los códigos de la máquina Enigma con que los alemanes encriptaban sus mensajes. No era una tarea sencilla, ya que Enigma encriptaba sus mensajes a través de un complejo sistema de engranajes, basado en tres rotores que transformaban cada letra en otra; y los nazis cambiaban a diario la posición inicial de los rotores, resultando en 159 trillones de combinaciones posibles. El equipo ultrasecreto era liderado por Alan Turing —uno de los trágicos padres de la IA— y Dillwyn Knox, a quienes se sumó Joan Clarke, quien era muy hábil resolviendo crucigramas.

Ya en pleno conflicto bélico, el equipo creó una máquina de cálculo a la que denominaron Bombe. Con su ayuda, fue posible determinar el contenido de los mensajes encriptados por Enigma, entregando una importante ventaja táctica.

Bombe no hubiese pasado una prueba de inteligencia. Ejecutaba apenas un cálculo demandante y sofisticado para descifrar un enigma. Pero este esbozo de pensamiento humano depositado en un dispositivo electrónico mostraba ya algunos rasgos de lo que identificamos como inteligencia. Podía hacer operaciones y tomar decisiones que hasta ese momento solo realizaban personas ‘inteligentes’. El programa que ideó Turing (…) fue una versión muy rudimentaria de una inteligencia artificial (IA)”, señalan los autores.

Hasta ahora las creaciones tecnológicas han alcanzado niveles sobrehumanos, pero para tareas específicas, como jugar ajedrez, traducir textos o escribir ensayos completos en cuatro segundos. A juicio de Sigman y Bilinkins, ninguno de estos programas presenta un peligro real. Pero distintas empresas de alcance global se han propuesto un objetivo mucho más ambicioso: construir una Inteligencia Artificial General (IAG), es decir, una máquina con una superinteligencia que albergue distintas capacidades humanas.

La lengua de Boris Becker

Décadas después de la Segunda Guerra Mundial, Sigman y Bilinkins acuden a la legendaria rivalidad tenística entre André Agassi y Boris Becker para acercarnos al mundo de las redes neuronales del presente.

Ambos jugadores tenían estilos muy distintos. El alemán se caracterizaba por su saque potente y habilidad en la red. Sin embargo, el famoso saque de Becker no era muy efectivo contra el norteamericano. El secreto: Agassi descubrió que Becker —sin darse cuenta— hacía un movimiento con la lengua que delataba el tipo de saque que estaba a punto de ejecutar: “Agassi tenía, en el mundo del tenis, una superinteligencia que le permitía detectar rasgos casi imperceptibles para predecir la dirección de un saque. Una red neuronal funciona de la misma manera: detecta atributos que le permiten identificar si una imagen es o no la de un gato, si hay un tumor en la imagen de un pulmón o qué emoción expresa la voz de una persona. Estos atributos permiten sacar conclusiones y tomar buenas decisiones en dominios muy específicos. Como a Agassi, nadie le enseña a una red neuronal cuál es el mejor atributo para poder predecir algo. Tiene que descubrirlo a partir de una pila abismal de datos”.

El libro no se queda solo en anécdotas y se sumerge también en aspectos más técnicos, como la arquitectura transformer de las redes neuronales artificiales, que están basadas en un mecanismo matemático llamado atención, que permite distinguir qué fragmentos de los datos evaluados son más importantes, así como identificar relaciones y dependencias más complejas entre ellos.

Ese mecanismo es el que está detrás de los hoy célebres modelos masivos de lenguaje (o LLM, Large Language Model), como ChatGPT, que son el resultado de entrenar una inteligencia artificial con miles de millones de textos y audios bajo dicha arquitectura transformer. Su tarea es leer o escuchar un mensaje y predecir cuáles deberían ser las siguientes palabras para que tengan el máximo sentido posible. No más ni menos que eso.

En los siguientes capítulos, los autores esbozan el impacto de estas herramientas en la educación, la creación artística y cultural, la economía y el mundo del trabajo, combinando ejemplos reales, recomendaciones y guías prácticas de uso, con reflexiones más generales acerca de la huella más profunda que estos desarrollos pueden tener en el porvenir de la humanidad.

Hasta ahora las creaciones tecnológicas han alcanzado niveles sobrehumanos, pero para tareas específicas, como jugar ajedrez, traducir textos o escribir ensayos completos en cuatro segundos. A juicio de Sigman y Bilinkins, ninguno de estos programas presenta un peligro real. Pero distintas empresas de alcance global se han propuesto un objetivo mucho más ambicioso: construir una Inteligencia Artificial General (IAG), es decir, una máquina con una superinteligencia que albergue distintas capacidades humanas, haciéndonos de esta manera caminar al borde del abismo.

De acuerdo con los autores, a los viejos temores de nuestra extinción por una guerra nuclear, después sumamos la crisis climática y ahora, más recientemente, hemos incorporado a la IAG como otro camino posible al despeñadero.

En 2018 fue autora del proyecto Anatomía de un Sistema de Inteligencia Artificial, que rastreó ese parlante inteligente desde la extracción de los minerales necesarios para construirlo, pasando por lo que sucede con las voces que recopila, hasta el final de su vida en vertederos de desechos electrónicos en Ghana o Pakistán. El proyecto forma parte hoy de las colecciones permanentes del Museo de Arte Moderno de Nueva York y del Museo Victoria and Albert de Londres.

El costo sobre el planeta

Una visión aún más oscura y preocupante es la que presenta Kate Crawford en su libro Atlas de inteligencia artificial, publicado también este año en español.

Crawford es una académica experta en las implicaciones sociales y políticas de la inteligencia artificial. Su trabajo se ha centrado en comprender los sistemas de datos a gran escala, el aprendizaje automático y la inteligencia artificial en contextos más amplios, como la historia, la política, el trabajo y el medio ambiente.

Kate Crawford llevaba 15 años investigando inteligencia artificial y sabía de los costos humanos y ambientales ocultos, pero no se dio cuenta de la magnitud real de esos costos hasta que se propuso rastrear el ciclo de vida completo de un solo producto de inteligencia artificial destinado al consumidor: un parlante “inteligente” de Amazon.

En 2018 fue autora del proyecto Anatomía de un Sistema de Inteligencia Artificial, que rastreó ese parlante inteligente desde la extracción de los minerales necesarios para construirlo, pasando por lo que sucede con las voces que recopila, hasta el final de su vida en vertederos de desechos electrónicos en Ghana o Pakistán. El proyecto forma parte hoy de las colecciones permanentes del Museo de Arte Moderno de Nueva York y del Museo Victoria and Albert de Londres.

Ese proceso, para mí, fue realmente abrir mis propios ojos para ver cuántas de estas elecciones que hacemos están alimentando realmente estos sistemas mucho más grandes de extracción”, ha contado Crawford. “Ese fue el momento en que me di cuenta de que quería ver eso a una escala más grande, verlo en toda la industria de la inteligencia artificial”.

Esta perspectiva a nivel global sobre cómo la inteligencia artificial extrae materias primas, tanto literales (litio para las baterías en dispositivos impulsados por IA, incluyendo automóviles eléctricos) como virtuales (los datos personales de miles de millones de personas), se convirtió en el tema de su último libro.

Atlas de la IA: poder, política y costos planetarios de la inteligencia artificial fue catalogado como “incisivo” por el New York Review of Books; “una fascinante historia de datos”, por el New Yorker; una “contribución oportuna y urgente”, por Science, y nombrado uno de los mejores libros sobre tecnología por el Financial Times.

Crawford profundiza en la intrincada red de asociaciones público-privadas que sustentan el desarrollo de la IA. Plantea cómo los gobiernos, incluido el de Estados Unidos, colaboran estratégicamente con el sector tecnológico privado para avanzar en sus agendas de seguridad nacional. Presenta ejemplos como In-Q-Tel, entidad de capital de riesgo que invierte en tecnologías de vanguardia que puedan servir a los intereses de la CIA, y la colaboración entre la Agencia de Seguridad Nacional y empresas tecnológicas privadas.

Ni artificial ni inteligente

A diferencia de la obra de la dupla de divulgadores latinoamericanos presentada en primer lugar en este artículo, aquí no hay consejos prácticos ni recomendaciones de cómo conversar con ChatGPT o crear un prompt (comando) más potente y útil. Es un viaje muy diferente.

Uno de los argumentos centrales gira en torno al poder e influencia. Crawford sostiene que la IA está inherentemente incrustada en ámbitos sociales, políticos, culturales y económicos, todos los cuales son moldeados por instituciones humanas. Partiendo de esta premisa, afirma que la búsqueda de capacidades de IA es esencialmente una búsqueda de poder e influencia. Crawford subraya repetidamente la noción de que la IA sirve principalmente a los intereses de aquellos que poseen el poder.

En este libro, sostengo que la IA no es artificial ni inteligente. Más bien existe de forma corpórea, como algo material, hecho de recursos naturales, combustible, mano de obra, infraestructura, logística, historias y clasificaciones. Los sistemas de IA no son autónomos, racionales ni capaces de discernir algo sin un entrenamiento extenso y computacionalmente intensivo, con enormes conjuntos de datos o reglas y recompensas predefinidas”, escribe la autora. “Debido al capital que se necesita para construir IA a gran escala y a las maneras de ver que optimiza, los sistemas de IA son, al fin y al cabo, diseñados para servir a intereses dominantes ya existentes. En ese sentido, la IA es un certificado de poder”.

Crawford profundiza en la intrincada red de asociaciones público-privadas que sustentan el desarrollo de la IA. Plantea cómo los gobiernos, incluido el de Estados Unidos, colaboran estratégicamente con el sector tecnológico privado para avanzar en sus agendas de seguridad nacional. Presenta ejemplos como In-Q-Tel, entidad de capital de riesgo que invierte en tecnologías de vanguardia que puedan servir a los intereses de la CIA, y la colaboración entre la Agencia de Seguridad Nacional y empresas tecnológicas privadas. Este examen revela hasta qué punto las entidades públicas y privadas se entrelazan para dar forma a la trayectoria de la IA.

En el primer capítulo, la autora viaja a oscuros lugares del planeta donde tiene lugar la “extracción computacional”, es decir, la obtención de materia prima que posibilita las técnicas y dispositivos del presente. Así es como llega hasta Silver Peak en Nevada, Estados Unidos, donde hay un enorme lago de litio, describiendo el peligro de daños ambientales, enfermedades de los mineros y comunidades desplazadas. Una advertencia para tener en cuenta para el triángulo del litio que conforman los salares del norte de Chile, Argentina y Bolivia.

En los siguientes capítulos, Crawford continúa confeccionando de manera exhaustiva y llena de ejemplos contundentes su atlas de la huella ecológica y humana detrás de la IA. Viajando a distintos lugares del mundo, explora el impacto sobre los trabajadores, los datos personales, los procesos de clasificación de información (y los sesgos ocultos bajo dichas etiquetas), los esfuerzos por interpretación automática de las emociones y el uso de la IA como herramienta militar de vigilancia y control, tanto por los Estados como en entornos civiles o comerciales.

El resultado global es un libro muy bien investigado, que aporta una necesaria mirada crítica sobre el fenómeno. Pero más que una obra sobre inteligencia artificial en sí, que explique el funcionamiento de los sistemas de IA, es un recuento desolador de su impacto sobre el planeta y sus habitantes.

 


Artificial. La nueva inteligencia y el contorno humano, Mariano Sigman y Santiago Bilinkins, Debate, 2023, 232 páginas, $16.000.


Atlas de inteligencia artificial, Kate Crawford, FCE, 2023, 444 páginas, $18.900.

Relacionados

Decidir

por Vicente Undurraga

Un pueblo que sufre

por Luis Felipe Alarcón