Internet zawsze był wypełniony dezinformacją, ale przynajmniej nie było trudno oddzielić fakty od fikcji. Wzrost wyrafinowanych narzędzi sztucznej inteligencji zmienił to na zawsze, dzięki czemu sceptycyzm jest ważniejszy niż kiedykolwiek.
Deepokakes
Słowo " DeepFake ”Obejmuje całą rodzinę technologii, które wszystkie dzielą wykorzystanie sieci neuronowych głębokiego uczenia się w celu osiągnięcia swoich indywidualnych celów. Deepokakes stał się opinią publiczną, gdy zastępowanie czyjąś twarzy w filmie stała się łatwa. Więc ktoś mógłby zastąpić twarz aktorów straty prezydenta USA lub zastąpić usta prezydenta samotnie i sprawić, że powiedzą rzeczy, które nigdy się nie wydarzyły.
Przez pewien czas człowiek musiałby podszywać się pod głos, ale technologia DeepFake może również replikować głosy. Technologię DeepFake można teraz wykorzystać w czasie rzeczywistym, co otwiera możliwość, że haker lub inny aktor złych wieków może podszywać się pod kogoś w rozmowie wideo lub transmisji w czasie rzeczywistym. Każdy „Dowody” wideo, które widzisz w Internecie, należy traktować jako potencjalne głębokie polecenie, dopóki nie zostanie zweryfikowane.
Generowanie obrazu AI
Generatory obrazu AI spowodowało Wymieszaj społeczność artystów Mimo wszystkich implikacji, jakie mają dla osób zarabiających jako artysta i to, czy artyści komercyjni są zagrożone zastąpieniem. To, co nie powoduje tak dużej debaty, jest potencjał dezinformacji dzięki tej technologii.
Systemy generowania obrazu AI mogą wytwarzać fotorealistyczne obrazy na całość za pomocą podpowiedzi tekstowych, przykładowych obrazów i oryginalnych obrazów w celu manipulacji. Na przykład możesz usunąć niektóre części oryginalnego obrazu, a następnie użyć techniki znanej jako „Inpainting”, aby AI zastąpiła usuniętą część obrazu wszystkim, co chcesz. To łatwo Generuj obrazy na własnym komputerze z oprogramowaniem, takie jak stabilna dyfuzja .
Jeśli chcesz, aby wyglądało to, jakby ktoś trzymał prawdziwy pistolet zamiast zabawki, jest to trywialne dla sztucznej inteligencji. Chcesz stworzyć skandaliczne zdjęcie celebryty? Generowanie obrazu AI (i głębokie szafki) można nadużywać w ten sposób. Możesz nawet wygenerować fotorealistyczne twarze ludzi, którzy nie istnieją .
Generowanie wideo AI
Generowanie obrazu AI i głębokie szafki to dopiero początek. Meta (spółka macierzysta na Facebooku) już pokazała Generowanie wideo AI , i chociaż z czasem można wygenerować tylko kilka sekund materiału, oczekujemy długości filmu i ilości użytkowników kontrolnych nad tym, co jest w filmie, rozszerzy się wykładniczo.
Na razie jest całkowicie możliwe, aby po prostu sztuczna inteligencja wygenerowała ziarnisty klip z Bigfoot lub Nessie, nie dostanie się do kostiumu lub latania do Szkocji z aparatem i małym drewnianym modelem. Wideo zawsze było łatwe do manipulowania, zanim generowanie wideo AI było możliwe. Jednak teraz nie możesz zaufać żadnemu filmowi, które widzisz.
Boty czatu AI
Kiedy wskoczysz na rozmowę z obsługą klienta, rozmawiasz z maszyną, a nie z ludźmi. Technologia sztucznej inteligencji (i tradycyjne metody programowania) są wystarczające, aby maszyny mogły prowadzić z nami wyrafinowane rozmowy, zwłaszcza jeśli znajduje się w wąskiej dziedzinie, takiej jak uzyskanie wymiany gwarancji lub jeśli masz pytanie techniczne.
Rozpoznawanie głosu i synteza są również w stanie zaawansowanym, a jeśli oglądasz Dane dla systemów takich jak Google Duplex , masz prawdziwe poczucie, dokąd zmierzamy. Po uwolnieniu botów napędzanych AI na platformach mediów społecznościowych potencjał skoordynowanych kampanii dezinformacyjnych o realnych konsekwencjach staje się wysoki.
Szczerze mówiąc, platformy mediów społecznościowych, takie jak Twitter, zawsze miały problem z botem, ale ogólnie boty te były niewyszukane. Można sobie wyobrazić, że możesz stworzyć wymyśloną osobę w mediach społecznościowych, która oszuknie tylko każdego. Mogliby nawet użyć innych technologii na tej liście do tworzenia obrazów, dźwięku i wideo, aby „udowodnić”, że są prawdziwe.
AI pisarzy
Idziemy do Internetu po informacje, aby dowiedzieć się o świecie i dowiedzieć się, co się dzieje na całym świecie. Ludzie pisarze (to my!) Są kluczowym źródłem tych informacji, ale pisarze AI stają się wystarczająco dobrzy, aby wydać podobną jakość pracy.
Podobnie jak w przypadku artystów AI, toczy się debata na temat tego, czy takie oprogramowanie zastąpi ludzi, którzy piszą na życie, ale znowu istnieje kąt dezinformacji, który jest w dużej mierze zignorowany.
Jeśli potrafisz stworzyć oryginalną twarz, stworzyć bot w mediach społecznościowych, utwórz wideo i głos z wytworzoną osobę, możliwe jest wyczarowanie całej publikacji z dnia na dzień. Wątpliwe witryny „wiadomości” są już źródłem przekonania dezinformacji dla wielu użytkowników Internetu, ale taka technologia sztucznej inteligencji może wyładować ten problem.
Problem wykrywania
Technologie te stanowią nie tylko problem, ponieważ otwierają nowe możliwości nadużycia, są również problemem, ponieważ wykrywanie Fakery może być trudne. Głębokie szafki już osiągają punkt, w którym nawet eksperci mają trudności z opowiadaniem, co jest fałszywe, a co nie. Dlatego walczą z ogniem z ogniem i używają Technologia AI do wykrywania wygenerowanych lub zmanipulowanych obrazów , szukając znaków niewidocznych dla ludzkiego oka.
Będzie to działać przez jakiś czas, ale może również stworzyć niezamierzony wyścig zbrojeń AI, który może ironicznie popchnąć technologie, które tworzą fałszywe treści na wyższy poziom wierności. Jedyną rozsądną strategią dla nas jako ludzi jest założenie, że wszystko, co widzimy w Internecie, chyba że pochodzi z zweryfikowanego źródła z przejrzystymi procesami i zasadami, powinno być traktowane jako fałszywe, dopóki nie zostanie udowodnione inaczej. (Choć wątpimy, aby twój teoretyk spisku wujek uwierzy, że filmy UFO, które ciągle wysyła, nie są prawdziwe.)
- › Twoje następne inteligentne urządzenie domowe może mieć 5G
- › Microsoft Edge ma czat AI i nowy wygląd w systemie Windows
- › OnePlus 11 jest tutaj, ale z trudnym startem
- › Wyze jest przygnębiony, to nie tylko ty
- › Przestań używać klawiatury i myszy, które są dostarczane z komputerem
- › Bose Quietcomfort Earbuds 2 Recenzja: krok naprzód w celu anulowania hałasu audio
