Qué pasa cuando los algoritmos vulneran tu intimidad

En el mundo real existe un superpoder al cual podemos acceder sin necesidad de que nos pique una araña radioactiva. El software se está comiendo el mundo y son quienes lo programan los que lo hacen posible. Aprendiendo a programar podemos convertirnos en el o la Tony Stark del siglo 21; y si no, pregúntenle a Elon Musk.

Pero como con todo gran poder, viene con un gran responsabilidad. Actualmente está pasando algo que nos hace cuestionar si realmente lo que estamos escuchando, lo que estamos viendo, es real. No es que no estuviera pasando antes: vivimos bombardeados por noticias en redes sociales, mensajes y videos que no sabemos si tienen un sustento real; ni podemos apreciar en un primer momento cuán tergiversada está la información.

Pero lo que está sucediendo ahora es mucho más grave. El pasado diciembre fue publicada por la web de noticias Motherboard la historia de un usuario de Reddit llamado "deepfakes" que aplicó algoritmos predictivos para crear contenido pornográfico sustituyendo caras de actrices triple X por las de conocidas celebridades. Usando una combinación de software de Inteligencia Artificial (IA) de código abierto, "deepfakes" creó GIFS triple X de Scarlett Johansson, Taylor Swift y un video con una escena pornográfica completa con la cara de Gal Gadot, la Mujer Maravilla de 2017.

Es un hecho que la edición digital para sustituir o editar rostros es posible hace muco tiemop con software como Photoshop, a lo que se suma los avances en distintas apps como Snapchat o Instagram que suman el filtro de "face swap", que hacen que el intercambio de rostro con otro individuo y o nuestra mascota sea muy sencillo.

Sin embargo, la creciente sofisticación de estas herramientas plantea una serie de interrogantes que obligan a pensar hacia dónde se dirige esta tecnología. Lo realmente importante en este contexto no es la facilidad en el uso de estas apps, sino el cruce de conocimiento técnico con Inteligencia Artificial para lograrlo: la introducción de IA en esta ecuación no solo ayuda a automatizar el proceso sino que lo hace más rápido y accesible.

Si deseáramos hacer un video falso usando Photoshop deberíamos editar cada fotograma individual, pero con el aprendizaje automático que posee la Inteligencia Artificial podemos lograr que gran parte de este arduo trabajo "se haga solo" y el software aprenda de sí mismo en el proceso. Cualquier persona con una base técnica puede acceder a esta tecnología de código abierto y usarla para lo que desee, bueno o malo.

En este caso, usuarios de Reddit están poniendo actrices famosas en películas para adultos existentes, pero el alcance puede ser inmenso. No se trata solo de los efectos que esto podría tener en las celebridades y otras figuras públicas -lo cual también abre el interrogante sobre cuestiones de consentimiento y violación de derechos- también es lo que el intercambio de rostros asistido por la IA podría significar para la política, el periodismo, el bullying, el crimen.

No se sabe qué objetos, acciones o escenas se pueden fabricar con suficientes datos fotográficos y de video. Como Samantha Cole, autora de la nota en Motherboard menciona, "al margen de la dificultad técnica para lograrlo, lo único que alguien necesitaría es suficientes imágenes de tu cara, y muchos de nosotros ya estamos creando grandes cantidades de bases de datos de ellas. No es difícil imaginarse un programador amateur corriendo su propio algoritmo para crear videos sexuales de alguien a quien quiere acosar".

Hoy es más fácil que nunca para los programadores entrenar computadoras para simular todo tipo de cosas para el disfrute, la educación y los negocios. Si bien estos desarrollos son muy ventajosos para la creación de contenido en general, la otra cara de la moneda es el poco consenso que hay sobre cómo, o incluso si, deberían estar regulados. Esta situación debería abrir un nuevo y necesario debate sobre el futuro de las imágenes digitales.

Debe existir un mejor entendimiento en la sociedad sobre lo que la tecnología puede lograr, hacia dónde nos estamos dirigiendo y qué nuevas restricciones, políticas y usos es necesario implementar para impedir situaciones en las que se violan nuestros derechos.

Conforme a los criterios de

Conocé más