Nyligen har Reddit gjort nyheter igen med en subreddit där människor använder ett maskininlärningsverktyg som heter “Deep Fake” för att automatiskt ersätta en persons ansikte med en annan i en video. Uppenbarligen, eftersom det här är internet, använder människor det för två saker: falsk kändisporr och infoga Nicolas Cage i slumpmässiga filmer.
När du byter någons ansikte på ett fotografi har alltid varit relativt lätt att byta någons ansikte i en video brukade vara tidskrävande och svårt. Fram till nu har det huvudsakligen bara gjorts av VFX-studior för stora budgetfilmer i Hollywood, där en skådespelares ansikte byts ut mot deras stunt-dubbel. Men nu, med Deep Fake, kan alla med en dator göra det snabbt och automatiskt.
Innan du går vidare måste du veta hur en Deep Fake ser ut. Kolla in SFW-videon nedan som är en sammanställning av olika kändisbytesbyten, främst involverande Nic Cage.
Programvaran Deep Fake fungerar med maskininlärning. Det tränas först med ett målansikte. Förvrängda bilder av målet körs genom algoritmen och det lär sig hur man korrigerar dem för att likna det oförändrade målsidan. När algoritmen sedan matas bilder av en annan person antar den att de är förvrängda bilder av målet och försöker korrigera dem. För att få video fungerar Deep Fake-programvaran på varje ram individuellt.
Anledningen till att Deep Fakes i stort sett bara har involverat skådespelare är att det finns mycket bilder av dem tillgängliga från olika vinklar vilket gör träningen mer effektiv (Nicolas Cage har 91 skådespel på IMDB ). Men med tanke på mängden bilder och video som folk lägger ut online och att du egentligen bara behöver cirka 500 bilder för att träna algoritmen, finns det ingen anledning att vanliga människor inte kan riktas mot, även om det antagligen med lite mindre framgång.
Hur man upptäcker en djup falsk
Just nu är Deep Fakes ganska lätt att upptäcka men det kommer att bli svårare när tekniken blir bättre. Här är några av giveawaysna.
Konstiga ansikten. I många Deep Fakes ser ansiktena bara konstigt ut. Funktionerna stämmer inte perfekt och allt verkar bara lite vaxartat som i bilden nedan. Om allt annat ser normalt ut, men ansiktet ser konstigt ut, är det förmodligen en Deep Fake.
Flimrande . Ett vanligt inslag i dåliga Deep Fake-videor är att ansiktet verkar flimra och de ursprungliga funktionerna ibland dyker upp. Det är normalt mer uppenbart vid ansiktskanterna eller när något passerar framför det. Om konstigt flimmer händer tittar du på en djupfake.
Olika organ. Deep Fakes är bara ansiktsbyten. De flesta försöker få en bra kroppsmatch, men det är inte alltid möjligt. Om personen verkar vara märkbart tyngre, lättare, högre, kortare eller har tatueringar som de inte har i verkliga livet (eller inte har tatueringar som de har i verkliga livet) finns det en god chans att det är falskt. Du kan se ett riktigt uppenbart exempel nedan, där Patrick Stewarts ansikte har varit bytte med J.K. Simmons i en scen från filmen Whiplash. Simmons är betydligt mindre än Stewart, så det ser bara konstigt ut.
Korta klipp. Just nu, även när Deep Fake-programvaran fungerar perfekt och skapar en nästan oskiljbar ansiktsbyte, kan den bara göra det under en kort tid. Innan för länge kommer ett av problemen ovan att börja hända. Det är därför de flesta Deep Fake-klipp som människor delar bara är några sekunder långa, resten av filmen är oanvändbar. Om du får ett mycket kort klipp av en kändis som gör något, och det inte finns någon anledning att det är så kort, är det en aning om att det är en Deep Fake.
Inget ljud eller dålig läppsynkronisering. Programvaran Deep Fake justerar endast ansiktsegenskaper; det får inte magiskt en person att låta som en annan. Om det inte finns något ljud med klippet och det inte finns någon anledning för att de inte ska vara ljud, är det en annan ledtråd att du tittar på en Deep Fake. På samma sätt, även om det finns ljud, om de talade orden inte stämmer överens med de rörliga läpparna (eller läpparna ser konstiga ut medan personen pratar som i klippet nedan), kan du ha en djup falsk.
Otroliga klipp . Den här typen säger sig självklart, men om du får ett riktigt otroligt klipp finns det en stor chans att du inte borde tro det. Nicolas Cage har aldrig spelat som Loki i en Marvel-film. Det skulle dock vara coolt.
Tvivelaktiga källor. Som med falska foton, där videon förmodligen kommer ifrån, är det ofta en stor aning om dess äkthet. Om New York Times kör en berättelse om det är det mycket mer troligt att det är sant att något du upptäcker i ett slumpmässigt hörn av Reddit.
För närvarande är Deep Fakes mer en skrämmande nyfikenhet än ett stort problem. Resultaten är lätta att upptäcka, och även om det är omöjligt att tolerera vad som görs, försöker ingen ännu förmedla Deep Fakes som äkta videor.
När tekniken blir bättre är de dock troligen en mycket större fråga. Till exempel kan övertygande falska bilder av Kim Jong Un som förklarar krig mot USA orsaka stor panik.
