IMPACTO DE LOS ALGORITMOS
EN UNA SOCIEDAD PARAMETRIZADA
Texto: Fundación Telefónica España
¿Cómo podemos hacer prevalecer nuestra humanidad en un mundo calculado?
¿Cómo pueden complementarse la inteligencia humana y la inteligencia artificial?
Los algoritmos pueden predecir fenómenos futuros: qué tiempo va a hacer, qué probabilidad tenemos de padecer una enfermedad o quién va a ganar las elecciones.
Las tecnologías de visión artificial como el reconocimiento automático de objetos, rostros o emociones se utilizan cada vez más para convertir imágenes en información.
La capacidad de recopilar información a escala masiva y procesarla decenas de miles de veces más rápido que hace solo unas décadas, nos coloca ante oportunidades y desafíos capaces de reconfigurar radicalmente nuestro futuro.
A través de instalaciones interactivas de 13 artistas nacionales e internacionales, el Espacio Fundación Telefónica reflexiona en una exposición sobre la importancia y el impacto de los Algoritmos en una sociedad cada vez más parametrizada.
La exposición traza un recorrido por diferentes ámbitos en los que los algoritmos impactan en nuestra sociedad: la importancia de su neutralidad y eficiencia, los riesgos del sesgo algorítmico, herramientas para proteger la privacidad de los datos, la vinculación entre los seres humanos y la inteligencia artificial, y su contribución a encontrar soluciones que, de otro modo, tardaríamos años en resolver o descifrar.
En los últimos años, marcados por un mundo cada vez más cuantificable y parametrizado, las palabras “código” y “algoritmo” invaden nuestro día a día. Aunque invisibles e incomprensibles para la mayoría, es imprescindible entender cómo funcionan y qué desafíos éticos plantean, ya que sus usos vinculados al machine learning y el Big Data condicionan innumerables aspectos de nuestra vida como el trabajo, el ocio o la salud.
La exposición «Código y algoritmos, sentido en un mundo calculado«, busca hacer comprensible este fenómeno y sus implicaciones, generando preguntas y conocimiento que inviten a la reflexión y al debate. ¿Pueden garantizar los algoritmos una mayor neutralidad y eficiencia? ¿Están tan libres de los sesgos humanos como solemos pensar? ¿Cómo podemos hacer prevalecer nuestra humanidad en un mundo calculado?
La exposición, que podrá verse de manera gratuita en la planta 3 del 19 de octubre de 2022 al 16 de abril de 2023, está comisariada por Manuela Naveau, artista, comisaria y docente en la Universidad de Arte y Diseño de Linz, y cuenta además con el asesoramiento de diversos expertos. Reúne piezas de 13 artistas, junto a audiovisuales divulgativos protagonizados por Sergio Oslé, consejero delegado de Telefónica España; Gemma Galdón-Clavell, doctora en Políticas de Seguridad y Tecnología y directora de Eticas Consulting; Marta Peirano, periodista e investigadora especializada en tecnología, y Coral Calero, doctora en Ingeniería Informática y catedrática de Lenguajes y Sistemas Informáticos en la Escuela Superior de Informática de la Universidad de Castilla-La Mancha. Con ellos, se aborda el impacto de los algoritmos en nuestras vidas, cómo pueden complementarse la inteligencia humana y la inteligencia artificial, cuáles son los próximos avances en la materia, qué implica el sesgo algorítmico, cómo proteger la privacidad de los datos que se obtienen a través de ellos o cuál es el impacto ambiental que generan.
La naturaleza del Código y los Algoritmos
Esta sección introductoria nos adentra en los conceptos de código y algoritmo, recorriendo la historia de la computación mediante vídeos, ilustraciones y documentos, organizados en tres grandes paneles informativos.
En el primero de ellos, se explican el código y sus elementos, destacando la reproducción de un artículo del filósofo alemán Gottfried Leibniz sobre el funcionamiento de una proto-computadora aplicada hace más de trescientos años. A continuación, el panel central queda dedicado a las máquinas y su cronología, resumida en diez hitos clave como el ábaco neperiano (1617), la figura de Ada Lovelace, considerada la primera programadora de la historia o la actual supercomputadora (2022). El tercer y último panel recoge ejemplos de tres de los algoritmos más usados en la actualidad: ordenación, búsqueda y juego.
Asimismo, se presentan dos piezas que nos introducen en el mundo algorítmico. Por un lado, Código XML-SVG de Karin Sander, donde la artista traduce el espacio físico de la sala expositiva en su equivalente código fuente; por otro, Not Allowed for Algoritmic Audiences de Kyriaki Goni, en la que un asistente personal inteligente con rasgos humanos y creado mediante algoritmos reflexiona sobre su propia naturaleza y la de los humanos.
Clasificar y predecir
En las últimas décadas, se ha logrado que, además de realizar cálculos, los algoritmos puedan predecir fenómenos futuros: qué tiempo va a hacer, qué probabilidad tenemos de padecer una enfermedad o quién va a ganar las elecciones. Para ello, dispositivos conectados a la red, con una enorme capacidad de computación y almacenamiento, analizan, etiquetan y comparten un volumen de información sin precedentes en base a la cual pronostican resultados.
Dado que los algoritmos, poseen gran impacto en la vida de millones de personas, es fundamental entender cómo se diseñan, de qué datos se aprenden y en qué decisiones se aplican para que sus decisiones sean éticas y justas. En esta sección se aborda la importancia de asegurar que esa clasificación sea transparente, abierta, trazable y auditable, con el fin de evitar sesgos históricos, de raza, género o edad.
En la obra Machine Biography, los artistas Clara Boj y Diego Díaz entrenaron una inteligencia artificial con la recopilación de toda su actividad digital a lo largo de 2017 para predecir su vida en el futuro. El resultado se compiló en 365 libros, con los que cuestionan la capacidad predictiva de los algoritmos y la veracidad misma de la información.
Por su parte, Mushon Zer-Aviv presenta Normalizing.ng, una instalación interactiva fruto de una investigación experimental sobre los sesgos algorítmicos. Basada en el reconocimiento de rasgos faciales según metodologías históricas, hace patente cómo el aprendizaje automático mecaniza y amplifica nuestros prejuicios y de qué manera puede anularse el significado de lo “normal” con una máquina aparentemente objetiva.
¿Confiarías en una máquina igual que en un quiromante? The Chiromancer de Matthias Pitscher y Giacomo Piazzi muestra una inteligencia artificial que lee la palma de la mano del visitante para predecir su futuro, cuestionando así nuestra capacidad de proyectar confianza, esperanzas y deseos en máquinas, que llegan incluso a guiar nuestras vidas.
Humanos y Algoritmos
La empleabilidad es sin duda uno de los ámbitos en los que más han impactado los algoritmos. En algunos casos, el uso de sistemas inteligentes ha reemplazado el trabajo humano e incluso nos ha abocado a la precarización. Por el contrario, también ha generado nuevos campos de negocio y ha impulsado el auge o aparición de otros empleos.
Con su obra PHC (Painfully Human Chatbot, 2021), la artista Iosune Sarasate recrea un chatbot que muestra actitudes humanas como el cansancio o la pereza. Esto le permite visibilizar temas como la gestión del tiempo, la reciente exigencia de estar disponibles en todo momento y cómo el creciente uso de la tecnología ha propiciado nuevos valores que en el pasado se aplicaban sólo a las máquinas.
Por otro lado, las tecnologías de visión artificial como el reconocimiento automático de objetos, rostros o emociones se utilizan cada vez más para convertir imágenes en información. Pero a pesar de sus notables avances, muchos de estos procesos todavía requieren de intervención humana; tareas tediosas y repetitivas, a menudo realizadas en condiciones muy desfavorables, que provocan que la cuestión de quién o qué trabaja ya no resulte tan evidente.
Comportamiento sospechoso de Kairus Art+Research (Linda Kronman y Andreas Ingerele), muestra la labor manual que subyace en los sistemas inteligentes aplicados a la videovigilancia. A través de un tutorial ficticio, el visitante participa convirtiéndose en un etiquetador de imágenes entrenado para detectar comportamientos sospechosos. La obra evidencia así la facilidad con la que sesgos y prejuicios humanos pueden incorporarse a la visión artificial.
Un mundo visto a través de las máquinas
Los algoritmos son capaces de identificar patrones compartidos. Este reconocimiento implica clasificar objetos por categorías o clases; un proceso esencial sin el cual no sabríamos cómo decirle a la máquina qué está viendo. Pero convertir la información en conocimiento con sentido es un proceso complejo que requiere conectar una gran variedad de datos dispersos para llegar a una conclusión razonable. ¿Corremos el riesgo de reducir la riqueza, complejidad y matices de nuestro mundo a un conjunto de etiquetas que pueden comprender las máquinas?
La obra Cloud Face de Shinseungback Kimyonghun indaga en el concepto de error e imaginación en tecnologías y humanos. La pieza presenta una colección de imágenes de nubes que la inteligencia artificial identifica como rostros humanos. También nosotros podemos percibirlas, sabiendo realmente que solo son nubes. ¿Cómo puede determinar eso una máquina?
“Ciudad inteligente” es un término utilizado principalmente en el ámbito del marketing urbano para referirse al desarrollo sostenible y eficiente de las ciudades con la ayuda de la tecnología. A través de su obra Atlas of the Liminal, la artista Manu Luksch cuestiona estas ciudades y las relaciones entre los algoritmos, las corporaciones y los gobiernos, así como las implicaciones sociales para la privacidad, la autonomía y la autodeterminación.
La instalación audiovisual interactiva Faces of ImageNet de Trevor Paglen parte de un enorme banco de imágenes extraídas de Internet y etiquetadas manualmente según criterios arbitrarios, muchos de ellos racistas, misóginos y homófobos. Esto sirvió para entrenar sistemas artificiales que fueron después implementados en procesos laborales en todo el mundo.
Otra de las cuestiones trascendentales sobre los datos que recaban las inteligencias artificiales a través de distintas interfaces es la ciberseguridad y la soberanía digital. La instalación audiovisual WannaScry! de Danja Vasiliev ilustra la reciente vulnerabilidad en un servicio de videotelefonía y demuestra hasta qué punto, de manera intencionada o no, los datos biométricos personales pueden ser interceptados y extraídos.
Una mirada al futuro
La capacidad de recopilar información a escala masiva y procesarla decenas de miles de veces más rápido que hace solo unas décadas, nos coloca ante oportunidades y desafíos capaces de reconfigurar radicalmente nuestro futuro. Por un lado, los algoritmos pueden aportar soluciones que hagan frente a los grandes retos que afrontamos, pero también contienen el potencial para generar una sociedad dominada exclusivamente por la lógica; una sociedad en la que el ser humano quede desplazado y a merced únicamente de la eficiencia y la productividad. La cuestión es ¿cómo podemos entender y gestionar lo realizado hasta ahora para garantizar un futuro ético y sostenible y lograr así que la sabiduría humana perdure en el centro de este mundo calculado?
En esta sección, encontramos la pieza Content-Aware Studies de Egor Kraft, donde el artista indaga en los límites de la inteligencia artificial y en su uso como complemento del conocimiento humano. El objetivo es reconstruir fragmentos perdidos de esculturas griegas y romanas, así como generar nuevas piezas, gracias a un algoritmo de autoaprendizaje que analiza miles de modelos traducidos en datos en 3D.
Data Garden es obra del colectivo Grow Your Own Cloud, con la cual se propone un jardín de plantas codificadas, en cuyo ADN almacena los datos mediante las últimas tecnologías de secuenciación genética. Una innovadora infraestructura que fomenta la convivencia entre ecosistemas, tecnología y personas.
Para finalizar, una de las grandes aportaciones de los Algoritmos y la Inteligencia Artificial es la generación de conocimiento, al buscar soluciones que, de otro modo, tardaríamos años en resolver o descifrar. La simulación es una herramienta poderosísima que nos permite comprender mejor el mundo que nos rodea, desde conocer los efectos de una medicina sin administrar o anticipar el cambio climático. Esto es ya posible gracias a la supercomputación, que posee la capacidad de simular numéricamente realidades complejas para poder estudiarlas. En este sentido, se presenta una pieza final realizada en colaboración con el Barcelona Supercomputing Center-Centro Nacional de Supercomputación (BSC-CNS), que ilustra cómo el procesamiento de enormes cantidades de datos está acelerando la investigación científica. Con una capacidad para realizar 13 mil billones de operaciones por segundo, el supercomputador MareNostrum 4 es el eje sobre el que gira el corpus de investigación de más de 600 científicos, cuyo objetivo es facilitar el progreso en diversos ámbitos, con especial énfasis en las Ciencias de la Computación, de la Vida, de la Tierra y las Ingenierías.
Fuente: Fundación Telefónica España
