Engañoso y peligroso. Las fotos creadas con IA invaden las apps y asoma la pregunta: ¿falta menos para volver al amor analógico?

La foto del perfil sigue siendo el talón de Aquiles de las aplicaciones de citas: llevamos casi una década tragando sapos, swipeando decenas de imágenes dudosas (retocadas, cuando no desactualizadas) de hombres y mujeres que luego no resisten un encuentro offline porque no se parecen al individuo de la virtualidad. El desarrollo de la tecnología y los gurús del romance en línea - que aconsejan publicar imágenes reales y recientes para mejorar nuestra performance y aumentar la cantidad de matchs- han trabajado en vano porque ahora el nuevo virus del mercado son los usuarios creados con Inteligencia Artificial. No es casual que las apps se estén llenando de solteros en apariencia espléndidos, jóvenes y disponibles…

Pero, ¿hasta qué punto es posible distinguir un individuo vivo de otro diseñado por un generador de inteligencia artificial? Un estudio reciente elaborado por investigadores de la Universidad de Waterloo, en Canadá, detectó que el 40% de los voluntarios de un ensayo no fue capaz de diferenciar una foto auténtica de otra totalmente creada por la IA. Cada uno de los 260 participantes recibió una veintena de imágenes sabiendo que solo la mitad de ellas eran reales, mientras que la otra mitad había sido creada con herramientas como Dall-E o Stable Diffusion, publicaba el sitio Wired en un artículo. Y si tenemos en cuenta la velocidad con que se perfecciona la criatura, podríamos inferir que en breve será imposible confiarles nuestro corazón a las redes.

Detectar las fotos falsas: nada sencillo

Los científicos esperaban que el 85% de los participantes detectara correctamente las fotos falsas, pero la tasa de precisión apenas se situó por encima del 60% de acierto. Una confirmación más de la facilidad con la que la IA es capaz de engañar el ojo humano, ofreciendo una herramienta formidable para la desinformación y las fake news, en un momento en que los sistemas de marcas de agua siguen siendo fáciles de eliminar como medida para etiquetar el contenido sintético, completaba el texto de Wired. “La desinformación no es nada nuevo, pero sus herramientas han cambiado y evolucionado constantemente” comentó Andrea Pocol, estudiante de doctorado en Informática de la Universidad de Waterloo y una de las autoras citada en el artículo. “Llegará un momento en que las personas, por muy bien entrenadas que estén, seguirán teniendo dificultades para distinguir las imágenes reales de las falsas. Por eso necesitamos desarrollar instrumentos para identificar y contrarrestar este fenómeno. Es como una nueva carrera armamentística”.

Ante esta realidad, el desafío de erradicarlas obliga a los principales actores del negocio de las citas románticas a buscar estrategias para mitigar la polución de usuarios creados para concretar estafas mediante las plataformas. En el caso de Bumble, ha sido pionera en la implementación de un recurso para que los usuarios denuncien perfiles que podrían estar usando fotos y vídeos generados por inteligencia artificial, una iniciativa que forma parte de un plan para ofrecer mayor seguridad a quienes buscan pareja y que comenzó este año con la puesta en funciones de Deception Detector, una herramienta de IA que ayuda a identificar spam, estafas y perfiles falsos. Solo en los dos primeros meses de uso, la aplicación observó cómo las denuncias de spam, estafas y perfiles falsos se redujeron en un 45%.

En una encuesta reciente realizada entre 5000 usuarios de entre 18 y 42 años, el 71% de los millennials y generación Z consultados consideró que debería haber límites claros respecto del uso de fotos de perfil y biografías generadas por IA. Además, creen que quienes la utilizan para hacer imágenes de sí mismos haciendo cosas que nunca han hecho o visitando lugares en los que nunca han estado, podrían calificarse como catfishing, la otra pandemia del mercado romántico.

Sobre esta nueva funcionalidad, Risa Stein, vicepresidenta de producto de Bumble, aseguró que “una parte esencial en la creación de un espacio donde se puedan construir conexiones significativas es eliminar cualquier elemento que sea engañoso o peligroso. Estamos comprometidos a mejorar la tecnología para garantizar un entorno de citas seguro y de confianza. Al implementar esta nueva opción de denuncia podemos entender mejor cómo los malos actores y los perfiles falsos utilizan la IA de manera engañosa para que nuestra comunidad se sienta segura a la hora de establecer conexiones”.

De alguna manera, todo esto no hace sino devolvernos a la idea del amor analógico, o mejor: imaginemos un futuro en el que ya no nos elegiremos por la foto del perfil sino por el nivel de la conversación que seamos capaces de entablar con alguien de carne y hueso…

Conforme a los criterios de

Conocé más

Fotos rechazadas. Muecas exageradas, pose del tonto alegre y otros casos que ahuyentan al 40% de los usuarios de apps

“Love is blind”. O la actualidad de ‘El Principito’ y las citas a ciegas, el recurso más antiguo

Efecto ick. Cuando una relación entra en modo rechazo