For nylig har Reddit lavet nyheder igen med en underredit, hvor folk bruger et maskinlæringsværktøj kaldet "Deep Fake" til automatisk at erstatte en persons ansigt med en anden i en video. Da dette er internettet, bruger folk åbenbart det til to ting: falsk berømthedsporno og indsættelse af Nicolas Cage i tilfældige film.
Mens du bytter andres ansigt på et fotografi har altid været relativt let at bytte andres ansigt i en video plejede at være tidskrævende og vanskelig. Indtil nu er det hovedsageligt netop blevet gjort af VFX-studios til store budget Hollywood-film, hvor en skuespillers ansigt byttes på deres stunt-double. Men nu, med Deep Fake, kan alle med en computer gøre det hurtigt og automatisk.
Inden du går videre, skal du vide, hvordan en Deep Fake ser ud. Tjek SFW-videoen nedenfor, som er en samling af forskellige berømthedsansigtsbytter, primært involverende Nic Cage.
Deep Fake-softwaren fungerer ved hjælp af maskinindlæring. Det trænes først med et målansigt. Forvrængede billeder af målet køres gennem algoritmen, og det lærer, hvordan man retter dem for at ligne det uændrede målflade. Når algoritmen derefter tilføres billeder af en anden person, antager den, at de er forvrængede billeder af målet og forsøger at rette dem. For at få video fungerer Deep Fake-softwaren individuelt på hver ramme.
Årsagen til, at Deep Fakes stort set bare har involveret aktører, er, at der er mange optagelser af dem tilgængelige fra forskellige vinkler, hvilket gør træning mere effektiv (Nicolas Cage har 91 skuespil på IMDB ). I betragtning af det beløb, som fotos og video folk poster online, og at du virkelig kun har brug for omkring 500 billeder for at træne algoritmen, er der ingen grund til, at almindelige mennesker ikke også kan målrettes, selvom sandsynligvis med lidt mindre succes.
Sådan finder du en dyb falsk
Lige nu er Deep Fakes ret lette at få øje på, men det bliver sværere, efterhånden som teknologien bliver bedre. Her er nogle af gaverne.
Underlige ansigter. I mange dybe forfalskninger ser ansigterne bare underlige ud. Funktionerne stemmer ikke perfekt sammen, og alt ser bare lidt voksagtigt ud som på billedet nedenfor. Hvis alt andet ser normalt ud, men ansigtet ser underligt ud, er det sandsynligvis en dyb falsk.
Blinkende . Et fælles træk ved dårlige dybe falske videoer er, at ansigtet ser ud til at flimre, og de originale træk lejlighedsvis frem. Det er normalt mere tydeligt ved ansigtets kanter, eller når noget passerer foran det. Hvis der sker underligt flimring, ser du på en dyb falsk.
Forskellige kroppe. Deep Fakes er kun ansigtsbytter. De fleste mennesker prøver at få en god kropsmatch, men det er ikke altid muligt. Hvis personen synes at være mærkbart tungere, lettere, højere, kortere eller har tatoveringer, de ikke har i det virkelige liv (eller ikke har tatoveringer, de har i det virkelige liv), er der en god chance for, at det er falsk. Du kan se et virkelig indlysende eksempel nedenfor, hvor Patrick Stewarts ansigt har været byttet med J.K. Simmons i en scene fra filmen Whiplash. Simmons er betydeligt mindre end Stewart, så det ser bare underligt ud.
Korte klip. Lige nu, selv når Deep Fake-softwaren fungerer perfekt og skaber en næsten uadskillelig ansigtsbytte, kan den kun virkelig gøre det i en kort periode. Inden for længe begynder et af ovenstående problemer at ske. Derfor er de fleste dybe falske klip, som folk deler, kun et par sekunder lange, resten af optagelserne er ubrugelige. Hvis du får vist et meget kort klip af en berømthed, der laver noget, og der ikke er nogen god grund til, at det er så kort, er det en anelse om, at det er en dyb falsk.
Ingen lyd eller dårlig læbesynkronisering. Deep Fake-softwaren justerer kun ansigtsegenskaber; det får ikke magisk en person til at lyde som en anden. Hvis der ikke er nogen lyd med klippet, og der ikke er nogen grund til, at de ikke er lyd, er det et andet spor, du ser på en dyb falsk. Tilsvarende, selvom der er lyd, hvis de talte ord ikke stemmer overens korrekt med de bevægelige læber (eller læberne ser underlige ud, mens personen taler som i klippet nedenfor), har du muligvis en dyb falsk.
Utrolige klip . Denne ene slags siger sig selv, men hvis du får vist et virkelig utroligt klip, er der en god chance for, at du faktisk ikke skulle tro det. Nicolas Cage har aldrig spillet som Loki i en Marvel-film. Det ville dog være sejt.
Tvivlsomme kilder. Som med falske fotos, hvor videoen angiveligt kommer fra, er ofte en stor anelse om dens ægthed. Hvis New York Times kører en historie om det, er det langt mere sandsynligt, at det er sandt, at noget du opdager i et tilfældigt hjørne af Reddit.
Foreløbigt er Deep Fakes mere af en skræmmende nysgerrighed end et stort problem. Resultaterne er lette at få øje på, og selvom det er umuligt at tolerere det, der gøres, prøver ingen endnu at give Deep Fakes ud som ægte videoer.
Efterhånden som teknologien bliver bedre, er de sandsynligvis et meget større problem. For eksempel kan overbevisende falske optagelser af Kim Jong Un, der erklærer krig mod USA, forårsage stor panik.
