Internet byl vždy naplněn dezinformací, ale alespoň nebylo těžké oddělit fakta od fikce s trochou úsilí. Vzestup sofistikovaných nástrojů pro umělou inteligenci to navždy změnil, takže skepticismus byl důležitější než kdy jindy.
Deepfakes
Slovo " Deepfake „Zahrnuje celou rodinu technologií, které všechny sdílejí používání neuronových sítí s hlubokým učením k dosažení svých individuálních cílů. Deepfakes se stal pozorností veřejnosti, když nahrazení něčí tváře ve videu bylo snadné. Takže někdo mohl nahradit herce, který čelí předsedou amerického prezidenta nebo nahradit ústa prezidenta sama a přimět je, aby říkali věci, které se nikdy nestaly.
Chvíli by člověk musel hlasovat hlas, ale technologie Deepfake může také replikovat hlasy. Technologii Deepfake lze nyní použít v reálném čase, což otevírá možnost, že hacker nebo jiný herec špatné víry by mohl někoho vydávat za videohovory nebo vysílání v reálném čase. Žádný Video „Důkazy“, které vidíte na internetu, musí být zacházeno jako s potenciálním hlubokým výkonem, dokud nebude ověřena.
Generování obrázků AI
Generátory obrázků AI způsobily Zamíchejte komunitu umělce Pro všechny důsledky, které má pro ty, kteří se živí jako umělec a zda jsou komerční umělci v nebezpečí nahrazení. Díky této technologii nezpůsobuje téměř tolik debaty potenciál pro dezinformace.
Systémy generace AI obrazu mohou vytvářet fotorealistické obrazy celé křechy pomocí textových výzev, příkladů a originálních obrázků za účelem manipulace. Například můžete vymazat určité části původního obrázku a poté použít techniku známou jako „vstup“, aby AI nahradila vymazanou část obrázku všeho, co byste chtěli. Je to snadné Generujte obrázky na svém vlastním počítači se softwarem, jako je stabilní difúze .
Pokud jste chtěli, aby to vypadalo, jako by někdo místo hračky držel skutečnou zbraň, je to pro AI triviální. Chcete vytvořit skandální fotografii celebrity? Generování obrázků AI (a v této věci Deepfakes) může být zneužívána právě tímto způsobem. Můžete dokonce generovat fotorealistické tváře lidí, kteří neexistují .
Generování videa AI
Generování obrázků AI a deepfakes jsou jen začátek. Meta (mateřská společnost Facebooku) již prokázala Generování videa AI , a ačkoliv lze v průběhu času generovat jen několik sekund záběrů, očekáváme, že délka videa a množství kontrolních uživatelů bude mít nad tím, co je ve videu, exponenciálně rozšíří.
Prozatím je zcela možné nechat AI generovat zrnitý klip Bigfoot nebo Nessie, aniž by se někdo dostal do kostýmu nebo létal do Skotska s kamerou a malým dřevěným modelem. Video bylo vždy snadné manipulovat, než bylo možné generování videa AI. Nyní však nemůžete důvěřovat žádnému videu, které vidíte vůbec.
AI chat roboti
Když naskočíte na chatu se zákaznickou podporou, mluvíte spíše se strojem než s lidskou bytostí. Technologie AI (a tradiční metody programování) jsou dost dobré na to, aby stroje vedly sofistikované rozhovory s námi, zejména pokud je v úzké doméně, jako je získání výměny záruky nebo pokud máte o něčem technickou otázku.
Rozpoznávání a syntéza hlasu jsou také v pokročilém stavu, a pokud sledujete Dema pro systémy, jako je Google Duplex , získáte skutečný pocit, kam s tím jdeme. Jakmile uvolníte roboty poháněné AI na platformy sociálních médií, potenciál pro společné dezinformační kampaně s následky v reálném světě se stává vysokým.
Abychom byli spravedliví, platformy sociálních médií, jako je Twitter, měly vždy problém s robotem, ale obecně byly tyto roboty neofilizované. Nyní je možné si představit, že byste mohli vytvořit vytvořenou osobu na sociálních médiích, která bude oklamat téměř kohokoli. Mohli by dokonce použít jiné technologie v tomto seznamu k vytvoření obrázků, zvuku a videa, aby „dokázali“, že jsou skutečné.
Spisovatelé AI
Jdeme na internet, abychom se dozvěděli o světě a zjistili, co se děje po celém světě. Lidské spisovatelé (to jsme my!) Jsou klíčovým zdrojem těchto informací, ale spisovatelé AI se stávají dostatečně dobří, aby vydali podobnou kvalitní práci.
Stejně jako u umělců AI existuje debata o tom, zda takový software nahradí lidi, kteří píšou pro život, ale opět existuje dezinformační úhel, který je do značné míry ignorován.
Pokud můžete vytvořit originální obličej, vytvořit bot na sociálních médiích, vytvořte video a hlas s vaší vytvořenou osobou, je možné vykouzlit celou publikaci přes noc. Klousivé webové stránky „zpravodajství“ jsou již zdrojem přesvědčivých dezinformací pro mnoho uživatelů internetu, ale taková technologie AI může tento problém doplnit.
Problém detekce
Tyto technologie nejsou jen problémem, protože otevírají nové cesty pro zneužívání, jsou také problémem, protože detekce Fakery může být těžké. Deepfakes již dosahují bodu, kdy i odborníci těžko říkají, co je falešné a co není. Proto bojují s ohněm a používají Technologie AI pro detekci generovaných nebo manipulovaných obrázků , tím, že hledáte vyprávění znamení neviditelné pro lidské oko.
To bude chvíli fungovat, ale může to také vytvořit nezamýšlený závod zbrojení AI, který by mohl ironicky tlačit technologie, které vytvářejí falešný obsah na vyšší úroveň věrnosti. Jedinou zdravou strategií pro nás jako lidské bytosti je předpokládat, že cokoli, co vidíme na internetu, pokud není z ověřeného zdroje s transparentními procesy a politikami, by se mělo zacházet jako s falešnou, dokud není prokázáno jinak. (I když pochybujeme, že váš konspirační teoretik strýc bude věřit, že videa UFO, která vám stále posílá, nejsou skutečná.)
- › Vaše další inteligentní domácí zařízení může mít 5G
- › Microsoft Edge získává chatu AI a nový pohled na Windows
- › OnePlus 11 je tady, ale s hrubým startem
- › Wyze je dole, nejste to jen vy
- › Přestaňte používat klávesnici a myš, která byla dodána s vaším počítačem
- › Bose tiché ušní sluchátka
