'Deepfakes', videos falsos e inteligencia artificial

En las redes sociales y cuando navegas en internet circulan videos que parecen muy reales y auténticos, aunque estos han sido cambiados o manipulados, pues son videos falsos, generados por inteligencia artificial (IA), que imitan la apariencia y el sonido de una persona (seon).

Estos videos tan convincentes, que nos pueden engañar, se conocen como “Deepfakes” o “ultrafalsos”, y es un anglicismo que es una combinación de las palabras “deep” (“profundo”) de “Deep learning”, y “fake” (“falso”).

Los “deepfakes”, también llamados “falsedades profundas”, tienen su origen en los años 1990, aunque logran su auge a partir de 2017, y de estos no han escapado ni políticos ni celebridades. Así, en abril de 2018, tenemos el video de Obama publicado por Buzzfeed que se basó en un Barack Obama sintético y un Jordan Peele auténtico. De igual forma, podemos mencionar, que esta técnica ha sido empleada en el cine en la guerra de las Galaxias, Princesa Lea más joven con cara de Carrie Fischer, cuando en realidad es la actriz Inguild Deila.

Se pueden diferenciar dos tipos de “deepfakes”: “deepfaces” y “deepvoices.” En el caso de los primeros, se crea la imagen de una persona desde la inteligencia artificial, que nunca ha existido; es decir, es una imagen falsa o ficticia. Las fotos ficticias se crean para usarlas para animaciones o videos, y así aparecen como totalmente reales.

Con el “deepvoice” o “deepfake” de audio, por el contrario se falsifica la voz de una persona para suplantarla o emplearla en un audio, y con ello lograr, por ejemplo, con una llamada telefónica hacer que se transfiera fraudulentamente dinero, como ya ha sucedido (Peco, 2019). En sentido contrario, se edita el rostro de la persona para videos pornográficos, de lo cual han sido víctimas todo tipo de mujeres, incluyendo celebridades.

Y por supuesto, que si alguien quiere crear un “deepfake” puede acceder a diversos sitios en internet donde hay variedad de aplicaciones”, así se puede reemplazar una cara por una falsificación de aspecto similar, así como se pueden clonar voces en cuestión de segundos, siendo accesible tanto a principiantes como expertos, a la vez que se han creado herramientas y previsto recomendaciones de como detectar un “deepfake”, aunque esto es un verdadero reto.

Ahora bien, los videos falsos aparentemente reales en principio quizás parezcan inofensivos, graciosos y se haga solo por bromas o diversión, pero esta tecnología no deja también de provocar intranquilidad y desasosiego, dado que tienen una alta capacidad de desinformación, propagan noticias falsas, son una forma de “fake news” o bulos, que desestabilizan las relaciones internacionales, las decisiones políticas influyendo en los votantes, afectan el honor y la imagen de las personas, manipulan los mercados o dañan la reputación de las empresas corporativas (Gómez, 2022), y son una herramienta peligrosa para facilitar la cibercriminalidad con fraudes, “ciberbullying”, “phishing”, robo de identidad y pornografía, entre otros (Europol, 2021).

En resumen, ante los riegos asociados a esta tecnología los países como China (2022) ya empezaron a regular los “deepfakes”, seguido de Estados Unidos, mientras que, desde 2021, la Unesco ha efectuado recomendaciones sobre la Ética de la Inteligencia Artificial, y por el momento solo nos queda dejarles esta frase muy acertada: “no te fíes de todo lo que ves” (García Silva, 2021).