Inteligencia artificial y memoria queer


Las fotos prohibidas

Una consecuencia de la cultura heteronormativa es que la experiencia queer del pasado no pudo dejar registro ni archivo. El artista Felipe Rivas San Martín hace un ejercicio retrofuturista que utiliza algoritmos para re-imaginar ese pasado queer local y reivindicar un archivo que ni siquiera pudo existir. El resultado es un conjunto de imágenes extrañamente conmovedoras y afectivas, verosímiles a simple vista pero que tras una mirada más atenta develan las imperfecciones -profundamente queer- de una tecnología aún en proceso de desarrollo.

Lo que estás viendo es una imagen falsa. Estas parejas de homosexuales, lesbianas y personas queers y no binarias, que según el sepia datan del siglo XX y fueron tomadas en algún lugar de América Latina, no existieron. Se crearon en 2023 con Inteligencia Artificial, y no corresponden a personas reales.

Como explicó el crítico queer José Esteban Muñoz, una de las consecuencias de la cultura heteronormativa es que la experiencia queer del pasado no pudo dejar registro ni archivo. Esa negación del archivo es aún más dramática para las personas del Sur Global y de clases trabajadoras. Un archivo inexistente se constituye entonces como un ejercicio “retrofuturista” que utiliza algoritmos computacionales -tecnología habitualmente inmersa en narraciones de futuro- para re-imaginar nuestro pasado queer local y reivindicar un archivo que prácticamente no pudo existir. El resultado es un conjunto de imágenes extrañamente conmovedoras y afectivas, verosímiles a simple vista pero que tras una mirada más atenta develan las imperfecciones -profundamente queer- de una tecnología aún en proceso de desarrollo.

La temporalidad del activismo

Un primer aspecto de este proyecto, que provoca su voluntad de existencia, retoma mi experiencia activista en el Colectivo Universitario de Disidencia Sexual, CUDS. El activismo establece una compleja relación con el tiempo, pues podría afirmarse que la pulsión activista surge, en primera instancia, de una incomodidad con el presente; un presente cuya configuración nos molesta, hiere, expulsa, indigna, excluye, incluso asesina. Creo que la primera condición del activismo es la de una oposición al presente, que puede llevar a algunos colectivos a construir -hasta cierto punto- “realidades paralelas” donde se pueda habitar. O también, puede impulsar el deseo de transformación de esas condiciones que incomodan, en una modalidad de acción en el presente que se proyecta hacia el futuro. Las ideas-fuerza de que “otro mundo es posible” y en general las utopías se alimentan de esa proyección activista hacia el futuro. Pero al mismo tiempo, existen muchas experiencias minoritarias cuya invisibilización histórica obliga a los colectivos a establecer una mirada hacia el pasado para construir las memorias negadas o invisibilizadas.

Ficción técnica y archivo imposible

La simulación de una condición temporal pasada y una condición técnica analógica en las imágenes del archivo también es esencial. Para existir, todo archivo necesita de un soporte material y de un proceso técnico. Esto implica reconocer que la negación de la memoria y el archivo para las disidencias sexuales latinoamericanas es también una negación tecnológica. Negación tecnológica y de representación que en estas fotografías es triple: por disidencia sexual, por ubicación geográfica y racialidad, por clase. La experiencia de la disidencia sexual en América Latina estuvo marcada por la violencia, la precarización y la inseguridad, tanto a nivel cotidiano como estructural. La estructura heteronormativa hegemónica impidió la existencia de un activismo y voces legítimas en el pasado, lo que se refleja en la falta de archivos contados en primera persona y de manera positiva en el contexto local. Este proyecto busca llenar ese vacío al crear un archivo que dé visibilidad y validez a estas experiencias. 

Cuerpos extraños, el error como evidencia

Los cuerpos representados por la IA son cuerpos extraños, deformes, cuellos o piernas demasiado largas para ser reales, con manos de ocho dedos, que se difuminan extrañamente en una blusa o brazos que aparecen por donde no deben. Estos errores suelen describirse moralmente como faltas negativas y sancionables de la poca eficiencia técnica, pero aquí se perciben como una capa adicional de disidencia corporal. Aún más, su presencia es un límite ético-político pues demuestra claramente que estas imágenes no buscan suplantar la realidad de la violencia pasada y sustituirla por un pasado feliz, sino más bien evidenciar lo que no pudo quedar registrado en su momento. El error es la prueba, la evidencia radical de que estas imágenes no pudieron existir. Mientras Roland Barthes describía a la fotografía como un objeto material cuya potencia radicaba en ser huella del pasado, testimonio indicial de que “esto ha sido”, las fotografías del archivo inexistente demuestran su condición opuesta: “esto no ha sido”.

Un prompt minoritario

Uno de los desafíos técnicos en la producción de estas imágenes fue la elaboración de prompts adecuados. En sentido general, un "prompt" es cualquier estímulo que genere una respuesta. El término tiene un uso muy difundido en el ámbito de la programación, pues los prompts son señales o símbolos (por ejemplo, un carácter '>' seguido de un espacio en blanco), para indicar que se espera una instrucción en una línea de comandos. Con el tiempo y tras el desarrollo y popularización de las IA, el término “prompt” se extendió a lo que la informática llama “lenguaje natural”. La calidad y claridad del prompt influyen en la precisión y naturaleza de la salida del modelo.

Stable Diffusion es el modelo de IA con el que trabajo para producir estas imágenes. La interacción que puedo establecer con él y que es a la vez mi única incidencia en el resultado, son los prompts. Tanto la configuración algorítmica del modelo como su base de datos con la que se entrenó, vienen dados de antemano. Y sabemos que tanto esa configuración algorítmica como esa base de entrenamiento no son neutrales, por el contrario, expresan un peso técnico muy determinante. Por ejemplo, al indicar una “fotografía de dos hombres”, era usual que el resultado fuesen hombres blancos. Ese tipo de condiciones determinan lo que se ha denunciado como “sesgos algorítmicos”.

Propongo el concepto de "prompt minoritario" para referir a un tipo de instrucción o solicitud de datos diseñada específicamente para contrarrestar los sesgos inherentes presentes en las bases de datos utilizadas para entrenar modelos de lenguaje. Al proporcionar este tipo de instrucciones, se busca ampliar la comprensión del modelo y exponerlo a una variedad de voces y perspectivas, reduciendo así la tendencia a replicar sesgos existentes. En el caso de estas fotografías, el objetivo es que fuesen personas representativas del contexto latinoamericano o de Abya Yala, de clase trabajadora y disidentes sexuales, tres condiciones que implicar la exclusión de las bases de datos.