La tecnología crece a pasos agigantados. Cada día despertamos con noticias de nuevas actualizaciones, programas, vehículos capaces de ir a Marte y aplicaciones. Estas últimas han tenido gran auge entre los jóvenes debido a la pandemia y las restricciones que esta conlleva.
Actualmente, TikTok es la app de la que todos hablan. A finales de febrero, la cuenta deeptomcruise hizo algunos extraños videos en los que se puede ver al actor Tom Cruise, que ya tienen más de 10 millones de visitas.
Deep fakes are getting scary good and taking over TikTok. Every public figure should just be on there with a verified account – even if they don’t want to make content – to make it easier to identify their fakes. Here’s Tom Cruise: https://t.co/XGvbGboU2x
— Nur's_Az (@DREAMING_R0B0T) February 26, 2021
En estos videos aparece el actor jugando golf, haciendo trucos de magia y recordando la vez que conoció en carne propia al expresidente de la Unión Soviética, Mikhail Gorbachev, pero al parecer quien aparece en los metrajes realmente no es el artista, sino una copia hiperrealista creada a partir de redes neuronales y con la ayuda de tecnología deepfake.
Si vemos los videos, nos podrán parecer bastante aterradores, pero se trata de una tendencia viral que usa el rostro del actor en uno de los videos. El supuesto Cruise lleva a cabo un truco de magia mientras insinúa que no es real, pues al iniciar con este truco repite muchas veces que todo es real, denotando tácitamente que se trata de algo totalmente falso.
The Tom Cruise deep fake TikToks are 🤯 pic.twitter.com/oVbw8tz6sM
— Greg Swan (@gregswan) February 26, 2021
Tal vez estos videos puedan resultar totalmente inofensivos, pero los expertos han comenzado a externar su preocupación por este tipo de videos y les concedemos razón, ya que el dicho “ver para creer” se está convirtiendo en un “ver ya no es creer”.
Hay aplicaciones como Bionic, fundada por Mckay Wrigley, quien compartió algunos de estos videos y al hacerlo dijo que no se trata de Tom Cruise, sino de medios sintéticos que han sido generados a partir de una inteligencia artificial, replicando el rostro del actor en un usuario que lo usa para generar deepfakes. Wigley piensa que no estamos preparados para un uso correcto de este tipo de aplicaciones, por lo que considera de lo mas necesario aumentar la seguridad de este tipo de inteligencia artificial.
La tecnología generada y manipulada por la inteligencia artificial crea deepfakes, cambiando la cabeza y rostro de una persona por los de otra. En cuanto a los videos, las imágenes que se presenten podrían haber sido obtenidas de diferentes fuentes como películas, mostrando cómo se vería su rostro desde distintos ángulos bajo diferentes tipos de luces y con movimientos muy variados para lograr una falsificación animada completa.
De hecho, los directivos de la plataforma no permiten falsificaciones digitales que engañen a los usuarios al distorsionar la verdad de los eventos y causar daño al sujeto del video, a otras personas o a la sociedad. A pesar de esto, la cuenta deeptomcruise sigue activa por la simple y extraña razón de que el nombre de usuario deja muy en claro que de ninguna forma se trataba de engañar a quienes lo ven.
Sam Gregory, el director de Witness.org, una empresa que se vale del video y la tecnología para defender y proteger los derechos humanos, hizo una publicación en la que cuestiona el uso de este tipo de aplicaciones, así como dejar en claro que las mujeres pueden ser mucho más afectadas por su mal uso.
Así que has visto a Tom Cruise en deepfakes, pero ¿qué nos DEBERÍA preocupar con deepfakes? Las mujeres ya están siendo atacadas por deepfakes.
-Sam Gregory
Otros expertos señalaron que a parte de los problemas relacionados con las pornovenganzas falsas, el deepfake puede usarse perfectamente para suplantar identidad. Esto es un fraude que puede llevar a cometer más fraudes, además de que hay una creciente preocupación por los videos falsos de líderes religiosos, médicos, profesionistas o personas de nuestra entera confianza que pudieran ser utilizados para difundir información de lo más dañina.
Hay que tener cuidado con todo lo que nos topamos en la red, las deepfakes impactan directamente la confianza pública, proporcionan encubrimiento y negación bastante admisible para la delincuencia, proporcionándoles todas las herramientas que necesitan para manipular, humillar y lastimar a las personas.
