Los deepfakes, hijos inquietantes del matrimonio entre la inteligencia artificial y la falsedad, encarnan una amenaza desasosegante en nuestra era digital.
A través de técnicas avanzadas de inteligencia artificial (IA), los deepfakes permiten la creación de videos, audios e imágenes falsificados con un realismo tan sorprendente que, en muchos casos, es prácticamente imposible distinguirlos de los originales.
Lo que empezó como un juego perturbador, colocando rostros de celebridades en cuerpos ajenos, ha mutado en algo más oscuro y peligroso: una herramienta con el poder de manipular la realidad misma. Lo alarmante no es solo la sofisticación técnica de los deepfakes, sino también la velocidad con la que han penetrado en distintos ámbitos sociales. Los primeros deepfakes que ganaron notoriedad pública estaban vinculados al entretenimiento y, en particular, al uso no consensuado de rostros de celebridades en contenido pornográfico. A medida que la tecnología ha avanzado, su alcance ha crecido exponencialmente.
Hoy en día, los deepfakes han sido empleados para manipular discursos de políticos, simular entrevistas con personalidades famosas o crear incidentes ficticios que nunca ocurrieron, pero que parecen haber sucedido frente a nuestras pantallas.
La capacidad de generar deepfakes de alta calidad con relativa facilidad ha desatado una ola de preocupación en torno a su potencial para la desinformación. En un mundo donde las noticias falsas ya circulan con una alarmante velocidad, la posibilidad de que se utilicen deepfakes para sembrar confusión política, manipular elecciones o arruinar reputaciones personales ha levantado alarmas en todo el espectro político y mediático; el miedo a su potencial para difundir desinformación y sembrar caos está bien fundado.
Los Deep Fakes son contenidos audiovisuales sintéticos, como videos, imágenes o audios, creados mediante técnicas de inteligencia artificial que manipulan o generan representaciones muy realistas de personas, haciendo que parezca que están diciendo o haciendo algo que en realidad no hicieron
El término "Deep Fake" es una combinación de "deep learning" y "fake" (falso en inglés). Fue acuñado en 2017 por un usuario de Reddit que utilizaba esta tecnología para crear videos pornográficos falsos con rostros de famosos y celebridades.
Tipos de Deep Fakes
Podemos hacer una clasificación somera de los tipos de deep fakes que, en resumidas líneas, quedaría así:
- Intercambio de rostros (face swapping): Reemplazar el rostro de una persona por el de otra en un video o imagen.
- Síntesis de voz (voice cloning): Se crea una voz sintética que imita a la de una persona real con técnicas de clonaje de voz.
- Manipulación de labios (lip-syncing): Modificar el movimiento de los labios para que coincida con un audio diferente, o en un idioma distinto.
- Generación de personas inexistentes: Crear rostros y perfiles completos de personas ficticias, indistinguibles de las reales
- Manipulación de cuerpo completo: Alterar o generar movimientos corporales completos.
ejemplo face swapping Obama / Merkel (FB Face swap)
Tecnologías básicas subyacentes de los Deep Fakes
La generación de Deep Fakes se fundamenta en tres tecnologías principales:
- Las redes generativas antagónicas (GANs): Son dos redes neuronales que compiten entre sí, una generando contenido y otra intentando detectar si es falso.
- Autoencoders: Son redes neuronales que aprenden a codificar y decodificar información, tremendamente útiles para la compresión y reconstrucción de imágenes.
- Modelos de síntesis de voz: Utilizan técnicas de procesamiento de lenguaje natural y síntesis de audio para generar e imitar cualquier sonido o tono de voz.