Videos falsos. ¿Qué se puede hacer con los deepfakes?

¿Te imaginás que Barack Obama insulte a Donald Trump en cámara, o que Mark Zuckerberg admita que el único objetivo de Facebook es manipularnos? Nada de esto pasó realmente y, sin embargo, muchos usuarios vieron estos videos circular en las redes. ¿Por qué? Una explicación sencilla –y reiterativa–: debido a la inteligencia artificial.

A través del machine learning (aprendizaje automático), es posible generar videos falsos extremadamente realistas y hacer que una persona diga algo que nunca dijo o sobreimprimir su cara sobre otro cuerpo. El uso de esta tecnología tiene un nombre que probablemente hayas escuchado mencionar:deepfakes.

Benditos algoritmos

Según Cecilia Pastorino, experta en seguridad informática, para crear un deepfake es necesario programar un algoritmo que aprenda a armar la cara de una determinada persona sobre la base del análisis de muchas fotos y videos en las que aparezca su rostro. A partir de la compresión y la descompresión de esas imágenes, el algoritmo comprende las expresiones de esa persona y puede reproducirlas en cualquier video.

Aunque los deepfakes son recientes, la técnica se usa desde mucho antes de que la inteligencia artificial existiera. En el cine, por ejemplo, cuando un actor moría en medio de un rodaje se utilizaba el CGI (imágenes generadas por computadora) para reconstruir su personaje, tal como sucedió con Paul Walker en la película Rápidos y furiosos 7.

Sin embargo, el término deepfake fue utilizado por primera vez en 2017, en la plataforma Reddit, por un usuario que publicaba videos porno en los que reemplazaba la cara de la actriz original por la de una famosa de Hollywood. Celebridades como Emma Watson, Emilia Clarke y Jennifer Aniston fueron algunas de las que aparecieron en este tipo de videos sin su consentimiento. Scarlett Johansson –cuyo deepfake pornográfico fue visto más de un millón y medio de veces– incluso admitió públicamente que luchar contra este fenómeno "es una causa perdida".

El término

Si bien algunas plataformas como Pornhub prohíben y bloquean este tipo de contenido, otras empresas se aprovechan de los beneficios económicos que pueden traer. De hecho, los deepfakes ganaron popularidad cuando en 2018 la compañía Naughty America anunció un nuevo servicio por el cual el cliente podía pagar para poner su propio rostro en un video pornográfico con cualquier actriz o actor.

¿Debemos preocuparnos?

Aún hoy la gran mayoría de los deepfakes son videos porno, pero no son los únicos. Esta técnica también se utiliza para hacer parodias o contenido humorístico, y eventualmente, cree Pastorino, podría servir para manipular a la opinión pública. Sam Gregory, especialista en soluciones para deepfakes, afirma que algunos métodos de código abierto ya se están comercializando y monetizando, lo cual abarata los costos y reduce las barreras técnicas para producir estos videos. En 2019, incluso se lanzó una app china llamada ZAO que le permite a cualquier usuario realizar uno en pocos minutos.

Pero ¿qué conviene hacer ante esta situación en la cual una persona sin conocimientos técnicos puede utilizar el algoritmo a su antojo? Algunas empresas tecnológicas como Google, Facebook y Microsoft ya anunciaron grandes inversiones en el desarrollo de algoritmos para detectarlos y prohibirlos. A partir de esto, por ejemplo, se descubrió que el ritmo de pestañeo de las personas en un deepfake es más lento que en un video normal, lo cual puede servir para identificar aquel que haya sido manipulado.

Carolina Bertoni, especialista en transformaciones digitales, asegura que estas compañías "fueron las primeras en reaccionar porque están en el banquillo de los acusados como la principal fuente de desinformación". Si bien su intervención puede ayudar, opina: "Quizás demasiada regulación puede afectar los usos creativos de esta tecnología, que es su principal propósito". Lalo Zanoni, periodista y autor del libro Las máquinas no pueden soñar, va en la misma línea: "No podemos coquetear con la censura".

En este sentido, las dos expertas proponen una misma solución: educar a los ciudadanos para que desarrollen un pensamiento crítico. Bertoni cree que es fundamental que los usuarios entiendan el contexto de lo que leen y tengan el criterio suficiente para distinguir qué es información y qué no. "Hoy en día, un poco de escepticismo es sano, sin caer en el extremo de no creer en nada", concluye Pastorino.

Conforme a los criterios de

Conocé más

¿Sin conexión? Cinco objetos que debilitan la señal wifi en tu casa y no lo sabías

El nacimiento de una nueva era. Los 55 años de la red que nos cambió a todos

Tiembla Google. ChatGPT estrena su función para buscar información en la web