Viime aikoina Reddit on tehnyt uutisia uudestaan subbredditillä, jossa ihmiset käyttävät "Deep Fake" -nimistä koneoppimistyökalua korvaamaan automaattisesti yhden henkilön kasvot videolla. Koska tämä on Internet, ihmiset käyttävät sitä tietysti kahteen asiaan: väärennettyyn julkkis pornoon ja Nicolas Cagen sijoittamiseen satunnaisiin elokuviin.
Kun vaihdat jonkun kasvoja valokuvassa, on aina ollut suhteellisen helppoa , jonkun kasvojen vaihtaminen videossa oli aiemmin aikaa vievää ja vaikeaa. Tähän asti VFX-studiot ovat tehneet sitä pääasiassa suurille budjettihollywood-elokuville, joissa näyttelijän kasvot vaihdetaan heidän kaksoisstunttiinsa. Mutta nyt Deep Fake -palvelun avulla kuka tahansa, jolla on tietokone, voi tehdä sen nopeasti ja automaattisesti.
Ennen kuin jatkat, sinun on tiedettävä miltä Deep Fake näyttää. Katso alla oleva SFW-video, joka on kooste erilaisista julkkisten kasvojen vaihdoista, pääasiassa Nic Cagen kanssa.
Deep Fake -ohjelmisto toimii koneoppimisen avulla. Se on ensin koulutettu kohdekasvoilla. Kohteen vääristyneet kuvat ajetaan algoritmin läpi, ja se oppii korjaamaan ne muistuttamaan muuttumattomia kohdepintoja. Kun algoritmille syötetään sitten kuvia toisesta henkilöstä, se olettaa, että he ovat vääristyneitä kuvia kohteesta, ja yrittää korjata niitä. Videon saamiseksi Deep Fake -ohjelmisto toimii jokaisella kehyksellä erikseen.
Syy siihen, että Deep Fakes on osallistunut suurelta osin juuri toimijoihin, on se, että heistä on saatavilla paljon kuvamateriaalia eri näkökulmista, mikä tekee koulutuksesta tehokkaampaa (Nicolas Cage 91 luottoluokitusta IMDB: lle ). Ottaen kuitenkin huomioon valokuvien ja videoiden määrän, jonka ihmiset julkaisevat verkkoon, ja että algoritmin kouluttamiseen tarvitaan todellakin vain noin 500 kuvaa, ei ole mitään syytä myöskään tavallisiin ihmisiin, vaikkakin todennäköisesti hieman vähemmän menestyksekkäästi.
Kuinka havaita syvä väärennös
Tällä hetkellä Deep Fakes on melko helppo havaita, mutta se vaikeutuu, kun tekniikka paranee. Tässä on joitain lahjoja.
Outo näköiset kasvot. Monissa syvissä väärennöksissä kasvot näyttävät vain oudolta. Ominaisuudet eivät ole linjassa täydellisesti, ja kaikki näyttää vain hieman vahamaiselta kuin alla olevassa kuvassa. Jos kaikki muu näyttää normaalilta, mutta kasvot näyttävät oudolta, se on todennäköisesti Deep Fake.
Välkkyvä . Huonojen Deep Fake -videoiden yleinen piirre on kasvojen välkkyminen ja alkuperäiset ominaisuudet satunnaisesti näkyviin. Se on yleensä selvempää kasvojen reunoilla tai kun jokin kulkee sen edessä. Jos tapahtuu outoa välkkymistä, katsot Deep Fake -tapahtumaa.
Eri elimet. Deep Fakes ovat vain kasvojenvaihtoa. Useimmat ihmiset yrittävät saada hyvän kehon ottelun, mutta se ei ole aina mahdollista. Jos henkilö näyttää olevan huomattavasti painavampi, kevyempi, pitempi, lyhyempi tai hänellä on tatuointeja, joita hänellä ei ole tosielämässä (tai jolla ei ole tatuointeja, joita heillä on tosielämässä), on suuri mahdollisuus, että se on väärennös. Alla on todella ilmeinen esimerkki, jossa Patrick Stewartin kasvot ovat olleet vaihdettu J.K. Simmons kohtauksessa elokuvasta Whiplash. Simmons on huomattavasti pienempi kuin Stewart, joten se näyttää vain oudolta.
Lyhyet leikkeet. Juuri nyt, vaikka Deep Fake -ohjelmisto toimii täydellisesti ja luo melkein erottamattoman kasvojen vaihdon, se voi todella tehdä sen vain lyhyen ajan. Liian kauan yksi yllä mainituista ongelmista alkaa esiintyä. Siksi useimmat ihmisten jakamat Deep Fake -leikkeet ovat vain muutaman sekunnin pituisia, loput materiaalista ovat käyttökelvottomia. Jos sinulle näytetään hyvin lyhyt katsaus julkkiksesta, joka tekee jotain, eikä ole mitään syytä, että se olisi niin lyhyt, se on vihje siitä, että se on Deep Fake.
Ei ääntä tai huono huulten synkronointi. Deep Fake -ohjelmisto säätää vain kasvojen ominaisuuksia; se ei maagisesti saa yhtä ihmistä kuulostamaan toiselta. Jos leikkeessä ei ole ääntä, eikä ole mitään syytä sille, että ne eivät ole ääniä, se on toinen vihje, jota tarkastelet Deep Fake -tapahtumassa. Vastaavasti, vaikka ääntä onkin, jos puhutut sanat eivät sovi yhteen liikkuvien huulten kanssa (tai huulet näyttävät oudoilta, kun henkilö puhuu kuten alla olevassa leikkeessä), sinulla saattaa olla syvä väärennös.
Uskomaton leikkeet . Tämä on itsestään selvää, mutta jos sinulle näytetään todella uskomaton leike, on hyvät mahdollisuudet, ettet itse asiassa usko sitä. Nicolas Cage ei ole koskaan esiintynyt Lokina Marvel-elokuvassa. Se olisi kuitenkin siistiä.
Epäilyttävät lähteet. Kuten väärennettyjen valokuvien kohdalla, video, jonka oletettavasti tulee, on usein iso vihje sen aitoudesta. Jos New York Times kertoo tarinan siitä, on paljon todennäköisempää, että jotain, jonka löydät Redditin satunnaisesta kulmasta.
Toistaiseksi Deep Fakes on enemmän kauhistuttava uteliaisuus kuin suuri ongelma. Tulokset on helppo havaita, ja vaikka on mahdotonta suvaita sitä, mitä tehdään, kukaan ei vielä yritä siirtää Deep Fakes aitoja videoita.
Kun tekniikka paranee, ne ovat todennäköisesti paljon suurempi ongelma. Esimerkiksi vakuuttava väärennetty kuva Kim Jong Unista, joka julistaa sodan USA: lle, voi aiheuttaa suuren paniikin.
