DeepFakes: la derivada peligrosa de la IA
Tiempo de lectura: 3 minutos La Inteligencia Artificial ha sido fundamental para el desarrollo de nuevas tecnologías e innovación, pero ¿Cuál es el límite ético de la utilización de vídeos e imágenes creadas a través de la IA?
La exalcaldesa de Maipú, Cathy Barriga y el actor nacional, Benjamín Vicuña, protagonizaron una nueva versión del tráiler de Barbie, de la directora Greta Gerwig, todo gracias a la Inteligencia Artificial utilizada por los creadores de este video, DeepMaster y NANO Videos. Pero, ¿sabemos cómo funciona realmente la tecnología en el cambio de caras en material audiovisual?
Ver esta publicación en Instagram
Los DeepFakes, como son conocidos en el mundo virtual, son imágenes, vídeos y/o audios modificados a través de algoritmos de aprendizaje no supervisados, más conocidos como RGA (Red Generativa Antagónica).
La primera parte del proceso, se basa en alimentar una base de datos de referencia visual, en la que se van sumando varias imágenes de lo que se quiere cambiar en la nueva versión. Es decir, los creadores del vídeo de Cathy Barriga, tuvieron que subir imagen por imagen, para lograr «mimetizar» la cara de la actriz original, Margot Robbie.
La segunda parte, se basa en modificar cada fotograma para poder mezclar amabas imágenes para luego pasarlas por un programa y poder lograr, con inteligencia artificial, no reconocer quién era la persona original de la imagen.
Es decir, los algoritmos de ambos procesos, compiten para generar una imagen cuya característica es que la IA no tenga posibilidad de distinguir cuál es la original y cuál es la inventada.
Su uso en la cotidianidad
Tanto en el cine, como en la internet, los DeepFakes son más comunes de lo que se piensa. Por ejemplo, en una de las últimas películas de Star Wars: Rogue One, se utilizó la imagen de Carrie Fisher joven, quién hacía de Princesa Leia en el inicio de la franquicia, en la cara de Ingrild Delia, la nueva Leia en la película. La idea era lograr «mimetizar» a ambas actrices en distintas escenas donde se muestra a la personaje principal, mucho más joven de lo que era en la vida real.
Otro caso donde son utilizados, es en la pornografía. Según una investigación de la Universidad de Northwestern, se estima que todos los contenidos de DeepFakes, se doblan cada 6 meses y su crecimiento en cuanto a la pornografía sin consentimiento, cuenta con más de 134 millones de reproducciones en los distintos sitios de contenido para adultos.
Últimamente, uno de los casos más conocidos ha sido el del streamer Atrioc. En una de sus transmisiones vía Twitch, el influencer tenía una pestaña abierta, donde se estaba reproduciendo un vídeo pornográfico de carácter DeepFake, de una de sus compañeras de plataforma, Pokimane.
Luego de ser descubierto, decidió realizar una transmisión en vivo para disculparse por la falta ética que había cometido, al ser personas con quienes interactúa en el día a día, por ser parte de Twitch.
Twitch streamer Atrioc issued an apology after accidentally revealing that he watched deepfake videos of streamers Pokimane and Maya pic.twitter.com/oEjHnGS3Ax
— Dexerto (@Dexerto) January 30, 2023
Pero no son sólo influencers quienes han sido replicadas en este estilo de vídeos, sino también actrices como Emma Watson y Scarlett Johansson, quienes son constantemente utilizadas en el ediciones DeepFakes.
El panorama en Chile
«Hoy en día, no se han registrado incidentes críticos en el país que empleen el uso de Deepfakes. Los casos más conocidos, a nivel nacional, corresponden sólo a algunas parodias que realizan conocidas productoras, con algunas celebridades y gente conocida» comenta Camilo Mix, asesor de Ciberinteligencia de CronUp Ciberseguridad.
Según el experto, el panorama en el país, es tranquilo, pero eso no significa que será así para siempre. A la vez, recalca que: «La desinformación con noticias falsas, la falta de objetividad en las redes sociales y el mal uso de estas mismas, pueden dar pie a que se utilicen Deepfakes para generar revuelo».
