Vivimos rodeados de un sinfín de dispositivos digitales que requieren de un código y de algoritmos para poder ejecutar las tareas que les encomendamos. Nuestro día a día es inconcebible sin ellos: nos ayudan a escoger rutas eficientes, a elegir una película que se ajuste a nuestros gustos o entender enfermedades como el alzhéimer o el párkinson. Y a pesar de su importancia, sólo el 0,3% de la población sabe escribir e interpretar los códigos y algoritmos que conforman nuestro universo digital. Esta exposición explora el significado de estos dos conceptos e invita a reflexionar sobre su capacidad para impactar en nuestras vidas. Entender cómo funcionan y qué desafíos éticos plantean se vuelve imprescindible para que nuestra humanidad prevalezca.
1. LA NATURALEZA DEL CÓDIGO Y LOS ALGORITMOS. El código es el conjunto de líneas de texto escritas en un lenguaje de programación que una computadora es capaz de interpretar para poder ejecutar una determinada tarea. Por su parte, un algoritmo puede definirse como la serie de pasos que la máquina debe seguir para poder resolver dicha tarea. La muestra comienza con una cronología que resalta algunos de los hitos de la historia de la computación, de las investigaciones de Leibniz sobre código binario a principios del siglo XVIII al primer algoritmo informático formulado por Ada Lovelace en 1843, el desarrollo de la informática a lo largo del siglo XX y el auge actual de las supercomputadoras.
Karin Sander. Código XML-SVG, 2022. Los códigos ofrecen la posibilidad de crear mundos, de diseñar espacios virtuales. En un proceso inverso, la artista traduce el espacio físico de la sala de exposiciones a su equivalente en código y nos muestra el conjunto de líneas escritas en lenguaje de programación XML/SVG. El resultado es una réplica perfecta del espacio, pero en forma de innumerables letras de colores: es un lenguaje legible que, aunque indescifrable para la mayoría de nosotros, contiene una realidad física concreta.
Kyriaki Goni. Not allowed for algorithmic audiences, 2021. Los asistentes de voz escuchan y «aprenden» de la información que compartimos en el mundo digital. En esta vídeo instalación, un algoritmo en forma de asistente personal inteligente adquiere rasgos humanos. Tras escanear y recopilar toda la información contenida en Internet, el asistente entabla varios monólogos en los que reflexiona sobre su propia naturaleza y la de los humanos.
Foto: Vista de la exposición. Código y algoritmos. Sentido en un mundo calculado. Espacio Fundación Telefónica, 2022.
2. CLASIFICAR Y PREDECIR. En las últimas décadas, además de realizar cálculos, los algoritmos han logrado predecir fenómenos futuros. Dispositivos conectados a la red, con una enorme capacidad de computación y almacenamiento de datos, analizan, etiquetan y comparten un volumen de información sin precedentes con la que después pronostican resultados. El punto de vista de quienes programan y el sesgo que aplicamos a esos datos, pueden tener graves consecuencias y generar desigualdad y discriminación. Por este motivo, es fundamental entender cómo se diseñan los algoritmos, de qué datos aprenden y en qué decisiones se aplican, porque resulta crucial asegurar que las decisiones que delegamos en ellos sean éticas y justas.
«Los algoritmos son opiniones encerradas en fórmulas matemáticas». Cathy O´Neil
Clara Boj y Diego Díaz. Machine Biography, 2019-2022. Esta pareja de artistas ha generado una predicción sobre cómo podría ser su vida en el año 2050 entrenando para ello a una inteligencia artificial. Un software espía recopiló durante un año toda la actividad digital registrada en sus teléfonos móviles: llamadas, ubicaciones, visitas a páginas web... Del análisis de esos datos realizado por un algoritmo, surgen los 365 libros (uno por cada día del año) que recogen esta biografía futura y ficticia del 2050. Machine Biography cuestiona la capacidad predictiva de los algoritmos, explorando a la vez las posibilidades creativas de las inteligencias artificiales.
Foto: Clara Boj y Diego Díaz. Machine Biography, 2019-2022 © Código y algoritmos. Sentido en un mundo calculado. Espacio Fundación Telefónica, 2022.
Matthias Pitscher y Giacomo Piazzi. The Chiromancer, 2020. Los artistas presentan una inteligencia artificial que lee la palma de la mano a los visitantes y «predice» su futuro. Se ha entrenado con archivos de Internet sobre horóscopos y lectura de manos, y es capaz generar textos que construyen estas predicciones. Los últimos modelos lingüísticos computacionales pueden redactar información aparentemente coherente, pero a menudo es el usuario quien, a partir de esos textos, construye un significado en su mente. The Chiromancer invita a reflexionar sobre cómo depositamos confianza, esperanzas y deseos en máquinas que cada vez saben más de nosotros.
Mushon Zer-Aviv. Normalalizi.ng, 2021. Esta instalación interactiva hace referencia a los antiguos sistemas usados para categorizar el rostro humano, como el creado por Alphonse Bertillon en el siglo XIX. La obra invita al visitante a tomarse una fotografía de la cara y a escoger, entre los retratos de visitantes anteriores, aquellos rasgos faciales que identifique como más «normales». La máquina analiza las decisiones de los participantes y las incorpora al sistema, poniendo en evidencia cómo, en ocasiones, la acción aparentemente objetiva del aprendizaje automático reproduce y amplifica los prejuicios humanos.
Foto: Mushon Zer-Aviv. Normalalizi.ng, 2021 © Código y algoritmos. Sentido en un mundo calculado. Espacio Fundación Telefónica, 2022.
3. HUMANOS Y ALGORITMOS. Uno de los ámbitos donde los algoritmos han tenido mayor impacto es sin duda el laboral. La automatización reemplazará todavía muchos empleos, al tiempo que los avances tecnológicos provocarán la aparición de nuevos puestos de trabajo y el auge de otros muchos ya existentes. Por otro lado, cada vez es más habitual que las empresas usen algoritmos para tomar decisiones que afectan a los empleados en materia de contrataciones, rendimiento, ascensos o despidos. Y aunque la regulación sobre estas cuestiones avanza, resulta esencial la transparencia para saber cómo y sobre qué asuntos toman los algoritmos las decisiones.
Iosune Sarasate. PHC (Painfully Human Chatbot), 2021. PHC es un tipo de chatbot que tiene el cansancio integrado en su código y que a diferencia de lo que es habitual en este tipo de asistentes virtuales se resiste a trabajar fuera de lo que considera su horario de trabajo. A través de esta inteligencia artificial de actitudes humanas, la artista reflexiona sobre nuestra gestión del tiempo, la asimilación de procesos y capacidades mecánicas por parte de las personas y la reciente exigencia de estar disponibles en todo momento.
Kairus Art+Research (Linda Kronman, Andreas Zingerle). Suspicious Behavior, 2020. Esta obra interactiva muestra la labor manual que subyace en los sistemas «inteligentes» de visión por ordenador aplicados a la videovigilancia. En el espacio físico de una oficina, el visitante se adentra en la tediosa tarea de un etiquetador de imágenes para identificar comportamientos sospechosos. La instalación evidencia la facilidad con la que algunos sesgos y prejuicios pueden incorporarse a la visión artificial; aquello considerado sospechoso en un contexto cultural determinado puede pasar completamente inadvertido en otro.
Trevor Paglen. Faces of ImageNet, 2021. El reconocimiento facial y otras tecnologías de inteligencia artificial aprenden analizando grandes cantidades de datos. Esta obra parte de un enorme banco de imágenes llamado ImageNet, creado por un grupo de investigadores de las universidades de Princeton y Stanford en 2010, que sirvió para entrenar a los sistemas de inteligencia artificial. El proyecto inicial contaba con más de 14 millones de imágenes extraídas de Internet, pero entre ellas pueden encontrarse rostros clasificados manualmente según categorías racistas, misóginas u homófobas. Trevor Paglen evidencia con esta pieza de qué manera pueden interferir los diferentes puntos de vista y la opinión en los sistemas de inteligencia artificial.
4. UN MUNDO VISTO A TRAVÉS DE LAS MÁQUINAS. Por nuestra propia experiencia, sabemos que ver y reconocer implica un aprendizaje, un proceso de prueba y error. Del mismo modo que nuestro cerebro aprende de las señales del mundo exterior, los algoritmos se entrenan con grandes cantidades de datos que les permitan reconocer patrones compartidos. Esto implica clasificar objetos en un número específico de categorías o clases, pero convertir la información en conocimiento con sentido es un proceso muy complejo que requiere relacionar esta gran variedad de datos dispersos para llegar a una conclusión razonable. ¿Corremos el riesgo de reducir la riqueza, complejidad y matices de nuestro mundo a un conjunto de etiquetas que puedan comprender las máquinas?
Manu Luksch. Atlas of the Liminal, 2020-2022. (Investigación financiada por el Laboratory for Artificial Intelligence in Design (RP2-8) del InnoHK Research Clusters - Gobierno de Hong Kong). La artista presenta una serie de fotografías de gran formato generadas mediante algoritmos y visión artificial con vistas urbanas que muestran las brechas de espacios tensionados. Zonas de tránsito, terrenos contaminados, territorios de excepción o fronteras en conflicto que ponen en cuestión el concepto de Smart City y exploran las relaciones entre los algoritmos, las corporaciones y los gobiernos, así como las implicaciones sociales para la privacidad, la autonomía y la autodeterminación.
Foto: Manu Luksch. Atlas of the Liminal, 2020-2022 © Código y algoritmos. Sentido en un mundo calculado. Espacio Fundación Telefónica, 2022.
Shinseungback Kimyonghun. Cloud Face, 2012. La obra presenta una serie de fotografías de nubes que han sido realizadas por una visión artificial entrenada para detectar caras. El resultado pone en evidencia que estos algoritmos de detección facial pueden llegar a «imaginar» un rostro donde no lo hay. También nosotros identificamos figuras en las nubes, pero somos capaces de discernir que lo que estamos viendo son nubes y no caras. ¿Cómo puede determinar eso una máquina? Cloud Face indaga en los conceptos de error e imaginación aplicados a la inteligencia artificial.
Danja Vasiliev. WannaScry!, 2021. La obra ilustra la vulnerabilidad en un servicio de videotelefonía y demuestra hasta qué punto, de manera intencionada o no, los datos biométricos personales pueden ser interceptados y extraídos. La información recopilada incluye la edad, el estado de ánimo y la ubicación del usuario, así como una transcripción de la conversación que ha mantenido. A través de esta instalación interactiva, el artista pretende llamar la atención sobre la trascendencia de cuestiones como la ciberseguridad y la soberanía digital.
Foto: Danja Vasiliev. WannaScry!, 2021 © Código y algoritmos. Sentido en un mundo calculado. Espacio Fundación Telefónica, 2022.
5. UNA MIRADA AL FUTURO. Los algoritmos pueden ayudarnos a curar enfermedades, descubrir nuevos fármacos, reducir los accidentes en carretera o aportar soluciones que hagan frente a las grandes crisis que afrontamos. Sin embargo, también contienen el potencial para generar una sociedad dominada exclusivamente por la lógica, en la que el ser humano quede desplazado y a merced únicamente de la eficiencia y la productividad. Después de haber construido un mundo algorítmico, ¿cómo podemos entender y gestionar lo realizado hasta ahora para garantizar un futuro justo y sostenible? Es urgente que desarrollemos el conocimiento, el sentido ético y la capacidad para controlar este enorme potencial, con el fin de asegurar, en definitiva, que la sabiduría humana perdura en el centro de este mundo calculado.
Egor Kraft. Content-Aware Studies, 2018.¿Qué implicaría el uso de la inteligencia artificial en una investigación histórica? Esta obra explora la posibilidad de reconstruir fragmentos perdidos de esculturas antiguas, así como generar nuevas piezas gracias a un algoritmo de autoaprendizaje que analiza miles de modelos traducidos en datos en 3D. Las nuevas formas producidas parecen muy precisas, pero a la vez están llenas de errores y tienen cierto toque inquietante. El artista explora aquí las últimas tecnologías en materia de datos, autoaprendizaje y automatización, al tiempo que cuestiona la posibilidad de confiar a las máquinas la interpretación del pasado.
Foto: Egor Kraft. Content-Aware Studies, 2018 © Código y algoritmos. Sentido en un mundo calculado. Espacio Fundación Telefónica, 2022.
Grow Your Own Cloud (GYOC). Data Garden, 2020. Combinando los últimos avances en biotecnología, ciencia genética y ética ecológica, esta pieza especula sobre la posibilidad de crear una innovadora infraestructura de datos capaz de almacenar archivos digitales en el ADN de las plantas mediante tecnologías de secuenciación genética. Se trata de un proceso costoso y laborioso, pero con avances significativos, que actualmente permite almacenar hasta 200 petabytes por gramo. Traduciendo el código binario de las máquinas (1 y 0) al código genético (ACGT), surge la posibilidad de crear un Data Garden: un jardín de plantas codificadas donde la información digital contenida en archivos de texto, imágenes y sonido queda almacenada en el ADN de las plantas.
Foto: Grow Your Own Cloud (GYOC). Data Garden, 2020 © Código y algoritmos. Sentido en un mundo calculado. Espacio Fundación Telefónica, 2022.
«Un mundo en el que podamos almacenar datos y aumentar la capacidad de almacenaje con un impacto positivo en el planeta». Cyrus Clarke, artista, diseñador y miembro de GYOC
Barcelona Supercomputing Center-Centro Nacional de Supercomputación (BSC-CNS) y Fundación Telefónica. Billones de operaciones por segundo, 2022. La simulación es una herramienta poderosísima que nos permite comprender mejor el mundo que nos rodea; saber si un avión volará antes de fabricarlo, conocer los efectos de una medicina sin administrarla o anticipar el cambio climático antes de que sea tarde es hoy posible gracias a la supercomputación. La exposición finaliza con una instalación realizada en colaboración con el Barcelona Supercomputing Center-Centro Nacional de Supercomputación (BSC-CNS), en la que se muestra cómo el procesamiento de enormes cantidades de datos está acelerando la investigación científica. Con una capacidad para realizar 13 mil billones de operaciones por segundo, el supercomputador MareNostrum 4 es el eje sobre el que gira el corpus de investigación de más de 600 científicos, cuyo objetivo es facilitar el progreso en diversos ámbitos, como las Ciencias de la Computación, de la Vida, de la Tierra y las Ingenierías.