El empleo de diversas técnicas de inteligencia artificial va desde las partidas de Go entre humanos y el sistema AlphaGo de Google hasta la detección de noticias falsas en Facebook. También fue una tecnología utilizada para crear falsos videos porno de celebridades que fueron creados mediante softwares conocidos como Deepfakes o FakeApp.
Estas producciones apócrifas utilizaban los rostros de actrices como Scarlett Johansson y Gal Gadot, cuyos rostros eran editados de forma digital con estos programas para ser insertados en el cuerpo de la protagonista de un film porno. El uso del software no solo generó preocupaciones entre las celebridades y también alcanzó a los políticos cuando el actor Jordan Peele logró sincronizar sus labios para crear un falso video de Barack Obama.
A diferencia de otras plataformas online como Pornhub, Twitter y Reddit, que prohibieron la publicación de estos contenidos creados sin el permiso de las celebridades, la productora de films para adultos Naughty America anunció el uso de esta tecnología para que los clientes puedan insertar sus rostros en los cuerpos de los actores de films pornográficos.
Mediante algunos ejemplos, la compañía asegura que el servicio de Custom Deepfakes permite crear una producción a medida mediante el uso del retoque digital con inteligencia artificial. De esta forma, Naughty America señala que un film porno se puede personalizar con cambios de escenario con un video provisto por el cliente, hasta el intercambio de un rostro con algunos de los protagonistas.
"Los deepfakes en sí no le hacen mal a nadie, es la manipulación de los deepfakes lo que lastima y humilla a las personas", dijo Andreas Hronopoulos, CEO de Naughty America, citado por Fast Company. A su vez, remarcó que esta tecnología tiene un gran potencial para la industria y no debería ser prohibida si se emplea para una producción de uso personal.
El pedido de Custom Deepfakes es personalizado, ya que requiere de una gran cantidad de clips y fotos del interesado. A su vez el equipo legal de Naughty America estará involucrado para evitar un uso indebido del servicio sin el consentimiento de terceros.