Tendiamo a fidarci del contenuto delle registrazioni video e audio. Ma con l'intelligenza artificiale, il volto o la voce di chiunque può essere ricreato con precisione millimetrica. Il prodotto è un deepfake, un'imitazione che può essere utilizzata per meme, disinformazione o pornografia.
Uno sguardo al Nicholas Cage deepfakes o Jordan Peele's deepfake PSA chiarisce che abbiamo a che fare con una strana nuova tecnologia. Questi esempi, sebbene relativamente innocui, sollevano interrogativi sul futuro. Possiamo fidarci di video e audio? Possiamo ritenere le persone responsabili delle loro azioni sullo schermo? Siamo pronti per i deepfake?
I deepfake sono nuovi, facili da realizzare e in rapida crescita
La tecnologia Deepfake ha solo pochi anni, ma è già esplosa in qualcosa che è allo stesso tempo accattivante e inquietante. Il termine "deepfake", che è stato coniato su un thread di Reddit nel 2017, viene utilizzato per descrivere la ricreazione dell'aspetto o della voce di un essere umano attraverso l'intelligenza artificiale. Sorprendentemente, quasi chiunque può creare un deepfake con un PC scadente, alcuni software e poche ore di lavoro.
Come con qualsiasi nuova tecnologia, c'è una certa confusione intorno ai deepfake. Il video di "Drunk Pelosi" è un ottimo esempio di questa confusione. I deepfake sono costruiti dall'intelligenza artificiale e sono fatti per impersonare le persone. Il video "dunk Pelosi", che è stato definito deepfake, è in realtà solo un video di Nancy Pelosi che è stato rallentato e intonazione corretta per aggiungere un effetto di discorso confuso.
Questo è anche ciò che rende il deepfakery diverso, ad esempio, dalla CGI Carrie Fisher in Star Wars: Rogue One. Mentre la Disney ha speso una gran quantità di denaro studiando il volto di Carrie Fisher e ricreandolo a mano, un nerd con un software deepfake può fai lo stesso lavoro gratuitamente in un solo giorno. L'intelligenza artificiale rende il lavoro incredibilmente semplice, economico e convincente.
Come fare un deepfake
Come uno studente in una classe, l'intelligenza artificiale deve "imparare" come svolgere il compito previsto. Lo fa attraverso un processo di tentativi ed errori di forza bruta, di solito denominato machine learning o deep learning . Un'intelligenza artificiale progettata per completare il primo livello di Super Mario Bros, ad esempio, giocherà ancora e ancora finché non troverà il modo migliore per vincere. La persona che progetta l'IA deve fornire alcuni dati per avviare le cose, insieme ad alcune "regole" quando le cose vanno storte lungo il percorso. A parte questo, l'IA fa tutto il lavoro.
Lo stesso vale per la ricreazione facciale deepfake. Ma, ovviamente, ricreare i volti non è la stessa cosa che battere un videogioco. Se dovessimo creare un deepfake di Nicholas Cage che ospita lo spettacolo di Wendy Williams, ecco di cosa avremmo bisogno:
- Un video di destinazione : Al momento, i deepfake funzionano meglio con video di destinazione chiari e puliti. Ecco perché alcuni dei deepfake più convincenti riguardano i politici; tendono a stare fermi su un podio sotto un'illuminazione costante. Quindi, abbiamo solo bisogno di un video di Wendy seduta immobile e parlando.
- Due set di dati : Affinché i movimenti della bocca e della testa siano accurati, abbiamo bisogno di un set di dati del viso di Wendy Williams e di un set di dati del viso di Nicholas Cage. Se Wendy guarda a destra, abbiamo bisogno di una foto di Nicholas Cage che guarda a destra. Se Wendy apre la bocca, abbiamo bisogno di una foto di Cage che apre la bocca.
Dopodiché, lasciamo che l'IA faccia il suo lavoro. Cerca di creare il deepfake più e più volte, imparando dai suoi errori lungo la strada. Semplice, vero? Bene, un video della faccia di Cage sul corpo di Wendy William non ingannerà nessuno, quindi come possiamo andare un po 'oltre?
I deepfake più convincenti (e potenzialmente dannosi) sono le imitazioni a tutto campo. Il popolare Obama deepfake di Jordan Peele è un buon esempio. Quindi facciamo una di queste imitazioni. Creiamo un deepfake di Mark Zuckerberg che dichiara il suo odio per le formiche: sembra convincente, giusto? Ecco di cosa avremo bisogno:
- Un video di destinazione : Questo potrebbe essere un video dello stesso Zuckerberg o di un attore che assomiglia a Zuckerberg. Se il nostro video di destinazione è di un attore, incolleremo semplicemente la faccia di Zuckerberg sull'attore.
- Dati foto : Abbiamo bisogno di foto di Zuckerberg che parla, sbatte le palpebre e muove la testa. Se stiamo sovrapponendo la sua faccia a un attore, avremo anche bisogno di un set di dati dei movimenti facciali dell'attore.
- La voce di Zuck : Il nostro deepfake deve suonare come The Zuck. Possiamo farlo registrando un sosia o ricreando la voce di Zuckerberg con l'intelligenza artificiale. Per ricreare la sua voce, eseguiamo semplicemente campioni audio di Zuckerberg attraverso un'intelligenza artificiale simile Lyrebird , quindi digita quello che vogliamo che dica.
- Un'IA con sincronizzazione labiale : Dal momento che siamo aggiungendo la voce del finto Zuckerberg al nostro video, un'intelligenza artificiale con sincronizzazione labiale deve assicurarsi che i movimenti facciali deepfake corrispondano a ciò che viene detto.
Non stiamo cercando di minimizzare il lavoro e le competenze che vanno in deepfakery. Ma se paragonato al lavoro CGI da un milione di dollari che ha portato Audrey Hepburn è tornata dalla morte , i deepfake sono una passeggiata nel parco. E anche se non ci siamo ancora innamorati di un deepfake politico o di celebrità, anche i deepfake più schifosi e più evidenti hanno causato danni reali.
RELAZIONATO: Il problema con l'IA: le macchine stanno imparando cose, ma non riescono a capirle
I deepfake hanno già causato danni nel mondo reale
Al momento, la maggior parte dei deepfake sono solo meme di Nicholas Cage, annunci di servizio pubblico e raccapricciante porno di celebrità. Questi sbocchi sono relativamente innocui e facili da identificare, ma in alcuni casi i deepfake vengono utilizzati con successo per diffondere disinformazione e danneggiare la vita degli altri.
In India, i deepfake sono impiegati dai nazionalisti indù per screditare e incitare alla violenza contro le giornaliste. Nel 2018, un giornalista di nome Rana Ayyub è caduta vittima a una tale campagna di disinformazione, che includeva un video deepfake del suo viso sovrapposto a un video pornografico. Ciò ha portato ad altre forme di molestie online e al minaccia di violenza fisica .
Negli Stati Uniti, la tecnologia deepfake viene spesso utilizzata per creare revenge porn non consensuali. Come segnalato da Vice , molti utenti del forum Reddit deepfakes ora vietato hanno chiesto come creare deepfake di ex fidanzate, cotte, amici e compagni di classe (sì, pornografia infantile). Il problema è così enorme che la Virginia ora mette fuorilegge tutte le forme di pornografia non consensuale, compresi i deepfake .
Man mano che i deepfake diventano sempre più convincenti, la tecnologia sarà senza dubbio utilizzata per scopi più dubbi. Ma c'è la possibilità che stiamo reagendo in modo eccessivo, giusto? Non è questo il passaggio più naturale dopo Photoshop?
I deepfake sono un'estensione naturale delle immagini documentate
Anche al loro livello più elementare, i deepfake sono inquietanti. Ci fidiamo delle registrazioni video e audio per catturare le parole e le azioni delle persone senza pregiudizi o disinformazione. Ma in un certo senso, la minaccia dei deepfake non è affatto nuova. Esiste da quando abbiamo iniziato a utilizzare la fotografia.
Prendiamo, ad esempio, le poche fotografie che esistono di Abraham Lincoln. La maggior parte di queste fotografie (compresi i ritratti sul penny e la banconota da cinque dollari) sono stati falsificati da un fotografo di nome Mathew Brady per migliorare l'aspetto snello di Lincoln (in particolare il suo collo sottile). Alcuni di questi ritratti sono stati modificati in un modo che ricorda i deepfake, con la testa di Lincoln sovrapposta ai corpi di uomini "forti" come Calhoun (l'esempio sotto è un'acquaforte, non una fotografia).
Sembra una pubblicità bizzarra, ma durante gli anni '60 dell'Ottocento, la fotografia trasportava una certa quantità di "verità" che ora riserviamo alle registrazioni video e audio. Era considerato l'esatto opposto dell'arte - una scienza . Queste foto sono state modificate per screditare intenzionalmente i giornali che hanno criticato Lincoln per il suo corpo debole. Alla fine, ha funzionato. Gli americani sono rimasti colpiti dalla figura di Lincoln, e lo stesso Lincoln ha affermato che le foto di Brady " mi ha nominato presidente .”
La connessione tra i deepfake e il fotoritocco del XIX secolo è stranamente confortante. Ci offre la narrativa che, sebbene questa tecnologia abbia gravi conseguenze, non è qualcosa che è completamente fuori dal nostro controllo. Ma, purtroppo, quella narrazione potrebbe non reggere a lungo.
Non saremo in grado di individuare i deepfakes per sempre
Siamo abituati a individuare immagini e video falsi con i nostri occhi. È facile guardare a Joseph Goebbels ritratto di famiglia e dire , "C'è qualcosa di strano in quel ragazzo nella parte posteriore." Uno sguardo a Foto di propaganda nordcoreana rende evidente che, senza i tutorial di YouTube, le persone fanno schifo con Photoshop. E per quanto impressionanti siano i deepfake, è ancora possibile per individuare un deepfake a vista da solo.
Ma non saremo in grado di individuare i deepfake per molto più tempo. Ogni anno, i deepfake diventano più convincenti e ancora più facili da creare. Puoi fare un deepfake con una sola foto e puoi usare l'IA come Lyrebird per clonare le voci in meno di un minuto. I deepfake high-tech che uniscono video e audio falsi sono incredibilmente convincenti, anche quando sono fatti per imitare figure riconoscibili come Mark Zuckerberg .
In futuro, potremmo utilizzare l'intelligenza artificiale, gli algoritmi e la tecnologia blockchain per combattere i deepfake. Teoricamente, l'IA potrebbe scansionare i video per cercare deepfake " impronte digitali , "E la tecnologia blockchain installata sui sistemi operativi potrebbe segnalare utenti o file che hanno toccato software deepfake.
Se questi metodi anti-deepfake ti sembrano stupidi, allora unisciti al club. Anche i ricercatori di intelligenza artificiale dubitano che esista una vera soluzione ai deepfake. Man mano che il software di rilevamento migliora, anche i deepfake. Alla fine, raggiungeremo un punto in cui i deepfake saranno impossibili da rilevare e avremo molto di più di cui preoccuparci oltre al falso porno di celebrità e ai video di Nicolas Cage.
