La ficción supera a la realidad: los rostros generados por inteligencia artificial se asemejan más a los humanos que las fotografías verdaderas

Una de las tendencias tecnológicas que está de moda por estos días es la inteligencia artificial generativa, que consiste en la capacidad de los algoritmos para crear automáticamente textos, fotos y videos, entre otro tipo de contenido. En concreto, herramientas como DALL-E y Stable Diffusion permiten generar imágenes fotorrealistas con cualquier descripción hecha en texto. Así es como surgen los llamados rostros GAN, que son imágenes de apariencia realista de personas inexistentes generadas por computadora; GAN viene de las siglas de red generativa antagónica, un diseño que emula en forma digital el funcionamiento de ciertas partes del cerebro, y que se usa para “educar” a los algoritmos, es decir, para enseñarles a identificar y reproducir ciertos patrones en imágenes.

A partir de estas innovaciones, un estudio reciente realizado en Reino Unido descubrió que las personas que participaron de la investigación no podían distinguir de manera confiable entre fotos de rostros reales y caras generadas por la inteligencia artificial, un testimonio de la sofisticación que han alcanzado de estas herramientas, como muestra este video de Nvidia de 2019.

Por ejemplo, este sitio permite jugar a un juego sencillo: ante dos imágenes, hay que intentar adivinar cuál es un retrato de una persona real y cuál es un rostro sintético generado por una computadora.

Consecuencias sociales

Los rostros GAN se utilizan cada vez más en marketing y publicidad, pero también con fines maliciosos, ya que los ciberdelincuentes apelan a ellos para hacerse pasar por otra persona y construir un perfil verosímil. Por este motivo, el mismo equipo de investigadores demostró, en otro estudio, que es más probable que los participantes confíen en la información transmitida por rostros que previamente habían juzgado como reales, incluso si se generaron artificialmente.

Para comprender mejor el papel que puede desempeñar el conocimiento de la existencia de dicha tecnología en el comportamiento de las personas, los investigadores realizaron un tercer estudio, en el que a la mitad de los participantes se les informó sobre la existencia de caras GAN, mientras que a la otra mitad se les mantuvo en la ignorancia. En este caso, los resultados mostraron que los participantes informados mostraron niveles generales más bajos de confianza en su interacción virtual con todos los rostros que se les presentaron, independientemente de si estos eran reales o no.

El problema

Si bien los rostros GAN se pueden utilizar por muchos motivos lícitos, ya sea porque las empresas necesitan tener imágenes realistas para sus proyectos, o para la industria de videojuegos, entre otros, también se trata de un recurso cada vez más adoptado por los ciberdelincuentes para cometer actos ilícitos.

Frente esta amenaza, Sol González, Investigadora de Seguridad Informática de ESET Latinoamérica, señala que, para evitar caer en la trampa de personas malintencionadas, los usuarios deberían asegurarse de que la fuente de la imagen es confiable. Para eso se debe verificar la veracidad de dicha imagen. Para eso existen herramientas sin costo como Google Reverse Image Search, aunque no son infalibles: que una foto aparezca o no en otro sitio no puede tomarse como determinante.

“Debemos desconfiar de las caras que parecen demasiado perfectas. Mayormente, las imágenes generadas por este tipo de tecnología tienen un aspecto perfecto y sin defectos, es decir, que si una imagen parece sospechosa hay que buscar más información al respecto en otras fuentes confiables”, explica la especialista.

En cuanto al uso por parte de las marcas, González considera que las empresas deberían informar a los usuarios sobre el uso que se les da a estas imágenes. Asimismo, debería monitorear constantemente su uso de rostros GAN y estar alerta a cualquier mal uso. Por ejemplo, se podrían utilizar para hacer campañas de suplantación de identidad.

Tendencia

La problemática que plantean los rostros GAN para los usuarios deben evaluarse desde ahora y pensando en el futuro. Al respecto, David Laoun Schott, Head de Marketing para Latam del proveedor de soluciones de IT Stefanini, comenta que “la tecnología todavía está en su infancia y, aunque los resultados ya parezcan impresionantes, al nivel de calidad y realismo se le deben adicionar otros elementos de inteligencia artificial como voces, lo que dará lugar a creando entidades artificiales indistinguibles de personas reales”.

Dado el presente y futuro de esta tecnología, el especialista explica que la legislación relativa a Inteligencia Artificial apenas empieza a ser escrita, y hay muchas cuestiones a ser respondidas sobre derechos de imagen, responsabilidad civil y obligaciones financieras. “Definitivamente, estamos en los albores, y tenemos todo un camino, que ya está tomando forma“, concluye.

Conforme a los criterios de

Conocé más

Resúmenes de mails. Gmail se renueva con funciones de inteligencia artificial para simplificarte la vida

"¿Están trabajando horas extras?". Una cámara de seguridad captó el momento en el que un robot con IA convence a otros de “abandonar sus trabajos”

Para todos los gustos. 8 apps de creación de música para que la IA haga salir el artista que hay en vos