Tendemos a confiar en el contenido de las grabaciones de audio y video. Pero con la IA, la cara o la voz de cualquier persona se pueden recrear con una precisión milimétrica. El producto es un deepfake, una suplantación de identidad que se puede utilizar para memes, desinformación o pornografía.
Una mirada al Nicholas Cage deepfakes o de Jordan Peele PSA de deepfake deja claro que estamos tratando con una nueva tecnología extraña. Estos ejemplos, aunque relativamente inofensivos, plantean interrogantes sobre el futuro. ¿Podemos confiar en el video y el audio? ¿Podemos responsabilizar a las personas por sus acciones en pantalla? ¿Estamos preparados para los deepfakes?
Los deepfakes son nuevos, fáciles de hacer y crecen rápidamente
La tecnología Deepfake tiene solo unos años, pero ya se ha convertido en algo cautivador e inquietante a la vez. El término "deepfake", que se acuñó en un hilo de Reddit en 2017, se utiliza para describir la recreación de la apariencia o la voz de un humano a través de la inteligencia artificial. Sorprendentemente, casi cualquier persona puede crear un deepfake con una PC de mala calidad, algo de software y unas pocas horas de trabajo.
Al igual que con cualquier tecnología nueva, existe cierta confusión en torno a los deepfakes. El video de "Pelosi borracha" es un excelente ejemplo de esta confusión. Los deepfakes son construidos por IA y están hechos para hacerse pasar por personas. El video de "clavar Pelosi", al que se ha hecho referencia como deepfake, es en realidad solo un video de Nancy Pelosi que ha sido ralentizado y corregido de tono para agregar un efecto de habla arrastrada.
Esto es también lo que hace que deepfakery sea diferente de, digamos, el CGI Carrie Fisher en Star Wars: Rogue One. Mientras Disney gastó montones de dinero en estudiar el rostro de Carrie Fisher y recrearlo a mano, un nerd con algún software deepfake puede hacer el mismo trabajo gratis en un solo día. La IA hace que el trabajo sea increíblemente simple, económico y convincente.
Cómo hacer un deepfake
Como un estudiante en un salón de clases, la IA tiene que "aprender" cómo realizar su tarea prevista. Lo hace a través de un proceso de prueba y error de fuerza bruta, generalmente denominado aprendizaje automático o aprendizaje profundo . Una IA que está diseñada para completar el primer nivel de Super Mario Bros, por ejemplo, jugará el juego una y otra vez hasta que descubra la mejor manera de ganar. La persona que diseña la IA debe proporcionar algunos datos para comenzar, junto con algunas "reglas" cuando las cosas van mal en el camino. Aparte de eso, la IA hace todo el trabajo.
Lo mismo ocurre con la recreación facial deepfake. Pero, por supuesto, recrear caras no es lo mismo que vencer a un videojuego. Si tuviéramos que crear una deepfake de Nicholas Cage presentando el programa de Wendy Williams, esto es lo que necesitaríamos:
- Un video de destino : A partir de ahora, los deepfakes funcionan mejor con videos de destino claros y limpios. Es por eso que algunos de los deepfakes más convincentes son los de los políticos; tienden a quedarse quietos en un podio bajo una iluminación constante. Entonces, solo necesitamos un video de Wendy sentada y hablando.
- Dos conjuntos de datos : Para que los movimientos de la boca y la cabeza parezcan precisos, necesitamos un conjunto de datos del rostro de Wendy Williams y un conjunto de datos del rostro de Nicholas Cage. Si Wendy mira a la derecha, necesitamos una foto de Nicholas Cage mirando a la derecha. Si Wendy abre la boca, necesitamos una foto de Cage abriendo la boca.
Después de eso, dejamos que la IA haga su trabajo. Intenta crear el deepfake una y otra vez, aprendiendo de sus errores en el camino. Simple, ¿verdad? Bueno, un video de la cara de Cage en el cuerpo de Wendy William no engañará a nadie, así que ¿cómo podemos ir un poco más lejos?
Los deepfakes más convincentes (y potencialmente dañinos) son las imitaciones totales. Popular Obama deepfake de Jordan Peele es un buen ejemplo. Así que hagamos una de estas suplantaciones. Creemos un deepfake de Mark Zuckerberg declarando su odio por las hormigas, eso suena convincente, ¿verdad? Esto es lo que necesitaremos:
- Un video de destino : Esto podría ser un video del propio Zuckerberg o un actor que se parece a Zuckerberg. Si nuestro video de destino es de un actor, simplemente pegaremos la cara de Zuckerberg en el actor.
- Datos de la foto : Necesitamos fotos de Zuckerberg hablando, parpadeando y moviendo la cabeza. Si superponemos su rostro a un actor, también necesitaremos un conjunto de datos de los movimientos faciales del actor.
- La voz de Zuck : Nuestro deepfake necesita sonar como The Zuck. Podemos hacer esto grabando a un imitador o recreando la voz de Zuckerberg con IA. Para recrear su voz, simplemente ejecutamos muestras de audio de Zuckerberg a través de una IA como Ave lira y luego escriba lo que queremos que diga.
- Una IA de sincronización de labios : Ya que estamos agregando la voz del falso Zuckerberg en nuestro video, una IA de sincronización de labios necesita asegurarse de que los movimientos faciales deepfake coincidan con lo que se dice.
No estamos tratando de restar importancia al trabajo y la experiencia que implica la deepfakery. Pero en comparación con el trabajo CGI de un millón de dólares que trajo Audrey Hepburn de entre los muertos , los deepfakes son un paseo por el parque. Y aunque todavía no nos hemos enamorado de un deepfake político o de una celebridad, incluso los deepfakes más horribles y obvios han causado un daño real.
RELACIONADO: El problema con la inteligencia artificial: las máquinas están aprendiendo cosas, pero no pueden entenderlas
Los deepfakes ya han causado daños en el mundo real
En este momento, la mayoría de los deepfakes son solo memes de Nicholas Cage, anuncios de servicio público y espeluznante pornografía de celebridades. Estos medios son relativamente inofensivos y fáciles de identificar, pero en algunos casos, los deepfakes se utilizan con éxito para difundir información errónea y dañar la vida de otras personas.
En India, los nacionalistas hindúes emplean deepfakes para desacreditar e incitar a la violencia contra las mujeres periodistas. En 2018, un periodista llamado Rana Ayyub fue víctima a tal campaña de desinformación, que incluía un video deepfake de su rostro superpuesto a un video pornográfico. Esto llevó a otras formas de acoso en línea y amenaza de violencia física .
En Estados Unidos, la tecnología deepfake se usa a menudo para crear pornografía de venganza no consensuada. Como reportado por Vice , muchos usuarios en el foro Reddit de deepfakes ahora prohibido preguntaron cómo crear deepfakes de ex novias, enamoramientos, amigos y compañeros de clase (sí, pornografía infantil). El problema es tan grande que Virginia ahora prohíbe todas las formas de pornografía no consensuada, incluyendo deepfakes .
A medida que los deepfakes se vuelvan cada vez más convincentes, la tecnología sin duda se utilizará para fines más dudosos. Pero existe la posibilidad de que estemos exagerando, ¿verdad? ¿No es este el paso más natural después de Photoshop?
Los deepfakes son una extensión natural de las imágenes manipuladas
Incluso en su nivel más básico, los deepfakes son inquietantes. Confiamos en las grabaciones de audio y video para capturar las palabras y acciones de las personas sin prejuicios ni información errónea. Pero, en cierto modo, la amenaza de los deepfakes no es nueva en absoluto. Ha existido desde que empezamos a utilizar la fotografía.
Tomemos, por ejemplo, las pocas fotografías que existen de Abraham Lincoln. La mayoría de estas fotografías (incluidos los retratos en el centavo y el billete de cinco dólares) fueron manipulados por un fotógrafo llamado Mathew Brady para mejorar la apariencia delgada de Lincoln (específicamente su cuello delgado). Algunos de estos retratos se editaron de una manera que recuerda a los deepfakes, con la cabeza de Lincoln superpuesta a los cuerpos de hombres "fuertes" como Calhoun (el ejemplo siguiente es un grabado, no una fotografía).
Esto suena como una publicidad extraña, pero durante la década de 1860, la fotografía contenía una cierta cantidad de “verdad” que ahora reservamos para grabaciones de audio y video. Se consideró que era el polo opuesto del arte: una ciencia . Estas fotos fueron manipuladas para desacreditar intencionalmente a los periódicos que criticaron a Lincoln por su cuerpo débil. Al final, funcionó. Los estadounidenses quedaron impresionados con la figura de Lincoln, y el propio Lincoln afirmó que las fotos de Brady " me hizo presidente .”
La conexión entre deepfakes y la edición de fotos del siglo XIX es extrañamente reconfortante. Nos ofrece la narrativa de que, si bien esta tecnología tiene consecuencias graves, no es algo que esté completamente fuera de nuestro control. Pero, lamentablemente, esa narrativa puede no durar mucho tiempo.
No seremos capaces de detectar deepfakes para siempre
Estamos acostumbrados a detectar imágenes y videos falsos con nuestros ojos. Es fácil mirar un Retrato de familia de Joseph Goebbels y decir , "Hay algo extraño en ese tipo de atrás". Un vistazo a Fotos de propaganda de Corea del Norte hace evidente que, sin los tutoriales de YouTube, la gente apesta en Photoshop. Y tan impresionantes como son los deepfakes, todavía es posible para detectar un deepfake solo a la vista.
Pero no podremos detectar deepfakes por mucho más tiempo. Cada año, los deepfakes se vuelven más convincentes e incluso más fáciles de crear. Puedes hacer un deepfake con una sola foto , y puedes usar IA como Ave lira para clonar voces en menos de un minuto. Los deepfakes de alta tecnología que combinan vídeo y audio falsos son increíblemente convincentes, incluso cuando están hechos para imitar figuras reconocibles como Mark Zuckerberg .
En el futuro, es posible que utilicemos IA, algoritmos y tecnología blockchain para luchar contra los deepfakes. En teoría, la IA podría escanear videos para buscar deepfake " huellas dactilares , ”Y la tecnología blockchain instalada en todos los sistemas operativos podría marcar a los usuarios o archivos que han tocado software deepfake.
Si estos métodos anti-deepfake te suenan estúpidos, únete al club. Incluso los investigadores de IA dudan de que exista una verdadera solución para los deepfakes. A medida que el software de detección mejore, también lo harán los deepfakes. Eventualmente, llegaremos a un punto en el que los deepfakes serán imposibles de detectar y tendremos mucho más de qué preocuparnos que el porno de celebridades falsas y los videos de Nicolas Cage.
