A közelmúltban a Reddit ismét egy olyan szubréddittel készített híreket, amelyekben az emberek a „Deep Fake” elnevezésű gépi tanulási eszközt használják, hogy a videóban az egyik ember arcát automatikusan másra cseréljék. Nyilvánvaló, hogy mivel ez az internet, az emberek két dologra használják: hamis celeb pornó és Nicolas Cage beillesztése véletlenszerű filmekbe.
Miközben valakinek az arcát kicserélte egy fényképen, megtette mindig viszonylag könnyű volt , valakinek az arcának felcserélése egy videóban régen időigényes és nehéz volt. Eddig főleg a VFX stúdiói készítették nagy költségvetésű hollywoodi filmekért, ahol egy színész arcát cserélték be a mutatványukra. De most a Deep Fake segítségével bárki, aki rendelkezik számítógéppel, gyorsan és automatikusan megteheti.
Mielőtt tovább megy, tudnia kell, hogy néz ki egy Deep Fake. Nézze meg az alábbi SFW videót, amely különböző hírességek arccseréinek összeállítását tartalmazza, főként Nic Cage bevonásával.
A Deep Fake szoftver gépi tanulással működik. Először célarccal edzik. A célpont torz képeit az algoritmus futtatja, és megtanulja, hogyan kell azokat korrigálni, hogy hasonlítsanak a változatlan cél arcra. Amikor az algoritmust egy másik személy képeivel látják el, akkor feltételezi, hogy azok a célpont torz képei, és megpróbálja kijavítani őket. A videó megszerzéséhez a Deep Fake szoftver minden képkockán külön működik.
Az az oka, hogy a Deep Fakes nagyrészt csak színészeket vonultatott be, az az, hogy rengeteg felvétel áll rendelkezésre róluk különböző szögekből, ami hatékonyabbá teszi az edzést (Nicolas Cage 91 eljáró kredit az IMDB-n ). Tekintettel azonban arra, hogy az emberek mennyi fotót és videót tesznek közzé az interneten, és hogy az algoritmus kiképzéséhez valóban csak körülbelül 500 képre van szükség, nincs ok arra, hogy a hétköznapi embereket sem lehet megcélozni, bár valószínűleg valamivel kevesebb sikerrel.
Hogyan lehet észrevenni egy mély hamisítványt
Jelenleg a Deep Fakes-et meglehetősen könnyű észlelni, de a technológia javulásával egyre nehezebb lesz. Íme néhány ajándék.
Furcsa kinézetű arcok. Sok Deep Fake-ben az arcok csak furcsának tűnnek. A funkciók nem sorakoznak tökéletesen, és minden csak kissé viaszosnak tűnik, mint az alábbi képen. Ha minden más normálisnak tűnik, de az arc furcsának tűnik, akkor valószínűleg Deep Fake.
Pislákoló . A rossz Deep Fake videók közös jellemzője, hogy az arc villódzni látszik, és az eredeti funkciók időnként felbukkannak. Általában nyilvánvalóbb az arc széleinél, vagy amikor valami elhalad előtte. Ha furcsa villódzás történik, akkor egy Deep Fake-et néz.
Különböző testek. A Deep Fakes csak arccsere. A legtöbb ember megpróbál jó testmérkőzést szerezni, de ez nem mindig lehetséges. Ha úgy tűnik, hogy az illető észrevehetően nehezebb, könnyebb, magasabb, alacsonyabb, vagy olyan tetoválásai vannak, amelyek a való életben nincsenek (vagy nincsenek olyan tetoválásai, amelyek a való életben vannak), jó eséllyel hamis. Az alábbiakban egy igazán kézenfekvő példát láthat, ahol Patrick Stewart arca volt felcserélték J.K. Simmons a Whiplash című film egyik jelenetében. Simmons lényegesen kisebb, mint Stewart, ezért csak furcsának tűnik.
Rövid klipek. Jelenleg, még akkor is, amikor a Deep Fake szoftver tökéletesen működik, és szinte megkülönböztethetetlen arccserét hoz létre, csak rövid ideig képes igazán megtenni. Túl sokáig elkezdődik a fenti problémák egyike. Ezért a legtöbb Deep Fake klip, amelyet az emberek megosztanak, csak néhány másodperc hosszúak, a többi felvétel felhasználhatatlan. Ha egy nagyon rövid klipet mutatnak be egy hírességről, aki valamit csinál, és nincs semmi jó oka annak, hogy ez olyan rövid, az egy nyom, hogy ez egy Deep Fake.
Nincs hang vagy rossz ajak szinkronizálás. A Deep Fake szoftver csak az arcvonásokat állítja be; nem varázslatosan váltja ki az egyik ember hangját. Ha nincs hang a klipnél, és nincs ok arra, hogy ne legyenek hangosak, ez egy újabb nyom, amelyet egy Deep Fake-re nézel. Hasonlóképpen, még akkor is, ha van hang, ha a kimondott szavak nem egyeznek megfelelően a mozgó ajkakkal (vagy az ajkak furcsának tűnnek, miközben az illető úgy beszél, mint az alábbi klipben), akkor lehet, hogy van egy mély hamisítványod.
Hihetetlen klipek . Ez az egyfajta magától értetődik, de ha valóban hihetetlen klipet mutatnak neked, akkor jó eséllyel nem kéne elhinni. Nicolas Cage soha nem szerepelt Lokiként egy Marvel-filmben. Pedig jó lenne.
Kétes források. A hamis fotókhoz hasonlóan, ahol a videó állítólag származik, gyakran nagy a hitelessége. Ha a New York Times egy történetet futtat rajta, sokkal valószínűbb, hogy valami igazabb dolog, amit a Reddit véletlenszerű sarkában fedez fel.
A Deep Fakes egyelőre inkább borzalmas kíváncsiság, mint fő probléma. Az eredményeket könnyű észrevenni, és bár lehetetlen elnézni a tetteket, még senki nem próbálja átadni a Deep Fakes-et eredeti videóként.
A technológia javulásával azonban valószínűleg sokkal nagyobb probléma lesz. Például meggyőző hamis felvételek Kim Dzsong Unról, amely hadat üzen az USA ellen, komoly pánikot kelthet.
