Recientemente, Reddit ha vuelto a ser noticia con un subreddit en el que la gente usa una herramienta de aprendizaje automático llamada "Deep Fake" para reemplazar automáticamente la cara de una persona con otra en un video. Obviamente, dado que esto es Internet, la gente lo usa para dos cosas: falso porno de celebridades e insertar a Nicolas Cage en películas al azar.
Mientras que intercambiar la cara de alguien en una fotografía siempre ha sido relativamente fácil , intercambiar la cara de alguien en un video solía llevar mucho tiempo y ser difícil. Hasta ahora, los estudios de efectos visuales lo hacían principalmente para películas de Hollywood de gran presupuesto, donde la cara de un actor se cambia a su doble de riesgo. Pero ahora, con Deep Fake, cualquiera que tenga una computadora puede hacerlo de forma rápida y automática.
Antes de continuar, necesita saber cómo es un Deep Fake. Mira el video de SFW a continuación, que es una compilación de diferentes intercambios de rostros de celebridades, que involucran principalmente a Nic Cage.
El software Deep Fake funciona mediante aprendizaje automático. Primero se entrena con una cara objetivo. Las imágenes distorsionadas del objetivo se ejecutan a través del algoritmo y aprende cómo corregirlas para que se parezcan a la cara del objetivo inalterada. Cuando el algoritmo recibe imágenes de una persona diferente, asume que son imágenes distorsionadas del objetivo e intenta corregirlas. Para obtener video, el software Deep Fake opera en cada cuadro individualmente.
La razón por la que Deep Fakes solo involucró a actores es que hay muchas imágenes de ellos disponibles desde diferentes ángulos, lo que hace que el entrenamiento sea más efectivo (Nicolas Cage ha 91 créditos de actuación en IMDB ). Sin embargo, dada la cantidad de fotos y videos que las personas publican en línea y que realmente solo necesita alrededor de 500 imágenes para entrenar el algoritmo, no hay ninguna razón por la que las personas comunes no puedan ser dirigidas también, aunque probablemente con un poco menos de éxito.
Cómo detectar una falsificación profunda
En este momento, Deep Fakes es bastante fácil de detectar, pero se volverá más difícil a medida que la tecnología mejore. Éstos son algunos de los obsequios.
Caras de aspecto extraño. En muchos Deep Fakes, las caras se ven raras. Las funciones no se alinean perfectamente y todo parece un poco ceroso como en la imagen de abajo. Si todo lo demás parece normal, pero la cara parece extraña, probablemente sea un Deep Fake.
Parpadeando . Una característica común de los videos malos de Deep Fake es que la cara parece parpadear y las características originales aparecen ocasionalmente a la vista. Normalmente es más obvio en los bordes de la cara o cuando algo pasa frente a ella. Si ocurre un parpadeo extraño, estás viendo un Deep Fake.
Cuerpos diferentes. Las falsificaciones profundas son solo intercambios de caras. La mayoría de la gente intenta conseguir un buen cuerpo, pero no siempre es posible. Si la persona parece ser notablemente más pesada, más liviana, más alta, más baja o tiene tatuajes que no tiene en la vida real (o no tiene tatuajes que tiene en la vida real), es muy probable que sea falso. Puede ver un ejemplo realmente obvio a continuación, donde la cara de Patrick Stewart ha estado intercambiado con J.K. Simmons en una escena de la película Whiplash. Simmons es significativamente más pequeño que Stewart, por lo que parece extraño.
Clips cortos. En este momento, incluso cuando el software Deep Fake funciona perfectamente y crea un cambio de rostro casi indistinguible, solo puede hacerlo durante un corto período de tiempo. En poco tiempo, comenzará a ocurrir uno de los problemas anteriores. Es por eso que la mayoría de los clips de Deep Fake que la gente comparte duran solo un par de segundos, el resto del metraje no se puede utilizar. Si te muestran un clip muy corto de una celebridad haciendo algo, y no hay una buena razón para que sea tan corto, es una pista de que es una Deep Fake.
Sin sonido o con mala sincronización de labios. El software Deep Fake solo ajusta los rasgos faciales; mágicamente no hace que una persona suene como otra. Si no hay sonido con el clip, y no hay razón para que no lo sean, es otra pista de que estás viendo un Deep Fake. Del mismo modo, incluso si hay sonido, si las palabras habladas no coinciden correctamente con los labios en movimiento (o los labios se ven extraños mientras la persona habla como en el clip a continuación), es posible que tenga un Deep Fake.
Clips increíbles . Esto es evidente, pero, si te muestran un clip realmente increíble, es muy probable que no lo creas. Nicolas Cage nunca ha interpretado a Loki en una película de Marvel. Sin embargo, sería genial.
Fuentes dudosas. Al igual que con las fotos falsas, de dónde supuestamente proviene el video a menudo es una gran pista sobre su autenticidad. Si el New York Times publica una historia al respecto, es mucho más probable que sea cierto que algo que descubras en un rincón aleatorio de Reddit.
Por el momento, Deep Fakes es más una curiosidad horrible que un problema mayor. Los resultados son fáciles de detectar y, aunque es imposible tolerar lo que se está haciendo, nadie intenta hacer pasar las falsificaciones profundas como videos genuinos.
Sin embargo, a medida que la tecnología mejora, es probable que se conviertan en un problema mucho mayor. Por ejemplo, una grabación falsa y convincente de Kim Jong Un declarando la guerra a Estados Unidos podría causar un gran pánico.
