Internettet har altid været fyldt med forkert information, men det var i det mindste ikke svært at adskille fakta fra fiktion med en lille indsats. Fremkomsten af sofistikerede kunstige intelligensværktøjer har ændret dette for evigt, hvilket gør skepsisen vigtigere end nogensinde.
Deepfakes
Ordet " Deepfake ”Inkluderer en hel familie af teknologier, der alle deler brugen af dybe læring af neurale netværk for at nå deres individuelle mål. Deepfakes blev offentlig opmærksomhed, da de erstattede nogens ansigt i en video blev let. Så nogen kunne erstatte et skuespillere ansigt med den amerikanske præsident eller erstatte præsidentens mund alene og få dem til at sige ting, der aldrig skete.
I et stykke tid skulle et menneske være nødt til at efterligne stemmen, men DeepFake -teknologi kan også gentage stemmer. Deepfake-teknologi kan nu bruges i realtid, hvilket åbner muligheden for, at en hacker eller anden dårlig tro-skuespiller kunne efterligne nogen i et realtidsvideoopkald eller udsendelse. Nogen Video "bevis", du ser på Internettet, skal behandles som en potentiel dybfake, indtil den er verificeret.
AI -billedgenerering
AI -billedgeneratorer har forårsaget en Rør kunstnersamfundet For alle de implikationer, det har for dem, der tjener til livets ophold som kunstner, og om kommercielle kunstnere er i fare for at blive udskiftet. Det, der ikke forårsager næsten lige så meget debat, er potentialet for forkert information takket være denne teknologi.
AI-billedgenerationssystemer kan producere fotorealistiske billeder i hele klud ved hjælp af tekstbaserede prompter, eksempelbilleder og originale billeder med henblik på manipulation. For eksempel kan du slette visse dele af et originalt billede og derefter bruge en teknik, der kaldes "maling" for at få AI til at erstatte den slettede del af billedet med alt, hvad du vil. Det er let at Generer billeder på din egen pc med software som stabil diffusion .
Hvis du ville få det til at se ud som om nogen havde en rigtig pistol i stedet for et legetøj, er det trivielt for AI. Vil du oprette et skandaløst foto af en berømthed? AI -billedgenerering (og Deepfakes for den sags skyld) kan misbruges på netop denne måde. Du kan endda generere fotorealistiske ansigter fra mennesker, der ikke findes .
AI Video Generation
AI -billedgenerering og Deepfakes er bare starten. Meta (moderselskabet til Facebook) har allerede vist AI Video Generation , og selvom kun få sekunders optagelser kan genereres over tid, forventer vi, at længden af videoen, og mængden af kontrolbrugere vil have over, hvad der er i videoen, vil udvide eksponentielt.
For tiden er det fuldstændigt muligt at blot få et AI til at generere et kornet klip af Bigfoot eller Nessie, uden at nogen kommer i et kostume eller flyver til Skotland med et kamera og en lille træmodel. Video har altid været let at manipulere, før AI -videorenerering var mulig. Men nu kan du ikke stole på nogen video, du overhovedet ser.
Ai chat bots
Når du hopper på en chat med kundesupport, taler du med en maskine snarere end et menneske. AI -teknologi (og traditionelle programmeringsmetoder) er gode nok til, at maskiner kan holde sofistikerede samtaler med os, især hvis det er i et snævert domæne, såsom at få en garantiudskiftning, eller hvis du har et teknisk spørgsmål om noget.
Stemmegenkendelse og syntese er også i en avanceret tilstand, og hvis du ser Demoer til systemer som Google Duplex , du får en reel fornemmelse af, hvor vi skal hen med dette. Når du slipper AI-drevne bots på sociale medieplatforme, bliver potentialet for samordnede fejlinformationskampagner med konsekvenser i den virkelige verden høje.
For at være fair har sociale medieplatforme som Twitter altid haft et botproblem, men generelt var disse bots usofistikerede. Det kan nu tænkes, at du kan skabe en sammensat person på sociale medier, der vil narre næsten enhver. De kunne endda bruge andre teknologier på denne liste til at oprette billeder, lyd og video til at "bevise", at de er reelle.
AI -forfattere
Vi går på internettet for at få oplysninger om at lære om verden og lære, hvad der foregår over hele kloden. Menneskelige forfattere (det er os!) Er en vigtig kilde til disse oplysninger, men AI -forfattere bliver gode nok til at lægge lignende kvalitetsarbejde.
Ligesom med AI -kunstnere er der en debat om, hvorvidt en sådan software vil erstatte mennesker, der skriver for at leve, men igen er der en forkert informationsvinkel, der stort set ignoreres.
Hvis du kan oprette et originalt ansigt, oprette en persona bot på sociale medier, oprette video og stemme med din sammensatte person, bliver det muligt at trylle frem en hel publikation natten over. Taglige "nyheder" -websteder er allerede en kilde til overbevisende forkert information for mange internetbrugere, men AI -teknologi som dette kan supercharge dette problem.
Problemet med detektion
Disse teknologier er ikke kun et problem, fordi de åbner nye muligheder for misbrug, de er også et problem, fordi detektering af fakery kan være svært. Deepfakes når allerede det punkt, hvor selv eksperter har svært ved at fortælle, hvad der er falsk, og hvad der ikke er. Derfor kæmper de ild med ild og bruger AI -teknologi til at detektere genererede eller manipulerede billeder , ved at lede efter fortællende tegn, der er usynlige for det menneskelige øje.
Dette fungerer i et stykke tid, men det kan også skabe et utilsigtet AI -våbenløb, som ironisk nok kan skubbe teknologier, der skaber falske indhold til højere niveauer af troværdighed. Den eneste fornuftige strategi for os som mennesker er at antage, at alt, hvad vi ser på Internettet, medmindre det er fra en verificeret kilde med gennemsigtige processer og politikker, skal behandles som falske, indtil de er bevist på anden måde. (Selvom vi tvivler på, at din konspirationsteoretiker onkel vil tro, at UFO -videoer, han fortsætter med at sende dig, ikke er ægte.)
- › Din næste smarte hjemmeenhed har muligvis 5G
- › Microsoft Edge får AI -chat og et nyt look på Windows
- › OnePlus 11 er her, men med en hård start
- › Wyze er nede, det er ikke kun dig
- › Stop med at bruge tastaturet og musen, der fulgte med din pc
- › Bose Quietcomfort ørepropper 2 Gennemgang: Et skridt fremad til støjdæmpende lyd
