Raza y género, los “puntos ciegos” del arte con inteligencia artificial
Investigadores repasan las limitaciones de las obras creadas con algoritmos y sus consecuencias
- 5 minutos de lectura'
El PaísMontse Hidalgo Pérez
Desde hace unos años, es posible pintar un cuadro de Cézanne con el estilo de uno de Van Gogh. O, más que pintarlo, generarlo utilizando sistemas de inteligencia artificial como GoArt. También podemos convertir nuestros selfis en retratos renacentistas. Y hay quien se ha propuesto crear una obra póstuma de Rembrandt. La aplicación de la inteligencia artificial al arte abre debates parecidos a los que ya cuestionan su uso en otros sectores: ¿hasta qué punto puede una máquina reemplazar el ingenio del artista? ¿De verdad es posible reducir la Historia del Arte a un conjunto de datos que sirvan para entrenar a un algoritmo? ¿Cuáles son los riesgos de usar estas herramientas sin tener en cuenta sus limitaciones?
Esta demostración llevó a Ramya Srinivasan y Kanji Uchino, investigadores de los Laboratorios Fujitsu de América, a hacerse una pregunta: ¿hay otros tipos de sesgos en el cada vez más frecuente arte generado mediante el uso de estos sistemas? La respuesta corta es que sí. La larga es el estudio que acaban de publicar analizando diferentes herramientas de creación y las implicaciones de sus ángulos muertos. “Los sesgos más frecuentes son los relacionados con la raza, el género y otros atributos sensibles”, adelanta Srinivasan. En la mayoría de los casos no se trata, como con AIPortraits, de sesgos introducidos de forma intencional, sino de limitaciones ocultas cuyo alcance se desconoce.
Los riesgos
Además de discriminar por motivos raciales o de género, estos sistemas pueden representar eventos históricos y personajes de forma contraria a los tiempos originales, explica Srinivasan, “y contribuir a crear sesgos en la comprensión de la historia e interferir en la preservación de la herencia cultural”. Por otra parte, esperar que una máquina refleje el estilo de un artista en toda su profundidad y complejidad es quizás pedir peras al olmo. “Los algoritmos pueden estereotipar a los artistas y no reflejar sus verdaderas habilidades cognitivas. Esto puede hacer que se pasen por alto aspectos como su intención y emociones”, señala la investigadora. El resultado de esto es, por ejemplo, reducir el estilo de Van Gogh a sus pinceladas de Noche estrellada.
Herramientas como DeepArt prometen la capacidad de transferir el estilo de una obra a otra imagen. Srinivasan y Uchino pusieron a prueba esta plataforma con una obra del cubista Fernand Léger que debía traducirse según el estilo del futurista Gino Severini. “Los patrones de movimiento que son una característica distintiva del futurismo están ausentes en la imagen traducida”, concluyen. La plataforma también se queda corta al intentar transferir el estilo del impresionista Ernst Ludwig Kirchner al realismo de Mary Cassat. “La versión traducida es exactamente como la original, salvo por algunos cambios de color”, concluyen los autores del estudio. Lo mismo ocurre con GoArt, un sistema de características similares. Para reforzar su tesis, citan a Aristóteles: “El objetivo del arte no es representar la apariencia externa de las cosas, sino su significado interior”.
Arte zombi
Independientemente de a qué lado nos situemos en el debate de si una máquina puede crear arte, las piezas creadas por estos ingenios artificiales ya forman parte del mercado en el que antes solo participaban humanos. Ya en 2018, la popular casa de subastas Christie’s adjudicó por 435.000 dólares la pieza Retrato de Edmond Belamy, creada con inteligencia artificial. Los investigadores Tsila Hassine y Ziv Neeman bautizaron este ejemplo y los que salen de plataformas como DeepArt como la zombificación de la Historia del Arte. “Estas imágenes zombis están al mismo tiempo vivas y muertas. Aunque ciertamente puede considerarse un logro crear una nueva categoría artística como el arte zombie generado con inteligencia artificial, cuestionamos su significancia artística y su interés. ¿No son deepfakes? O, en términos más simples, ¿no son solo falsificaciones hechas a máquina?”, escriben.
Para ellos el mismo proceso por el que se crean estos sistemas desvirtúa la labor de los artistas. Ponen como ejemplo el proyecto Next Rembrandt, que analizó el estilo del pintor holandés en una gran muestra de obras para producir un nuevo retrato que tomaba en cuenta incluso el aspecto bidimensional de las pinceladas del autor. “La generación de nuevas pinturas de Rembrandt basada en la datificación de sus obras originales enfatiza las dimensiones repetitivas de su creatividad”.
La complejidad de los sistemas implicados en estas creaciones dificulta además que en su diseño se contemple la posibilidad de limitar el alcance de distintos sesgos. “Los desarrolladores pueden ser ingenieros que usan herramientas prefabricadas para construirlos. Así que pueden no ser conscientes de sus entresijos”, señala Ramya. Cuanto mayor es la distancia entre el creador del sistema y el que usa su sistema para crear, más difícil es rectificar la situación. Sin acceso a los datos de entrenamiento o a los detalles del funcionamiento de cada plataforma, no queda más remedio que creerse lo prometido. “La gente tiende a confiar en los resultados de sistemas automatizados, puesto que los consideran objetivos y a no tomar en cuenta las pruebas históricas, incluso aunque estas últimas sean ciertas. Por eso el riesgo se vuelve incluso mayor”.
EL PAÍS.
Temas
Conforme a los criterios de
Más leídas de Cultura
Un honor. Mónica Cahen D’Anvers recibió el diploma de la Academia de Periodismo en un emotivo acto con la voz de Sandra Mihanovich
Agenda. 7 recomendados de arte y cultura para esta semana
Alerta de PEN Internacional. Crecen los casos de escritores y periodistas perseguidos por razones políticas
“El temblor de lo inesperado”. Ana María Shua se despide de Inés Fernández Moreno: "Como a vos te gustaría, nada de lágrimas y un beso"
