Internett har alltid vært fylt med feilinformasjon, men det var i det minste ikke vanskelig å skille fakta fra fiksjon med litt innsats. Fremveksten av sofistikerte kunstige intelligensverktøy har endret dette for alltid, noe som gjør skepsis viktigere enn noen gang.
Deepfakes
Ordet " Deepfake ”Inkluderer en hel familie av teknologier som alle deler bruken av dype læringsnettverk for å oppnå sine individuelle mål. Deepfakes ble offentlig oppmerksomhet når erstatning av noens ansikt i en video ble lett. Så noen kunne erstatte en aktører ansikt med den amerikanske presidenten eller erstatte presidentens munn alene og få dem til å si ting som aldri skjedde.
For en stund vil et menneske måtte etterligne stemmen, men Deepfake -teknologien kan også gjenskape stemmer. DeepFake-teknologi kan nå brukes i sanntid, noe som åpner for muligheten for at en hacker eller annen dårlig tro skuespiller kan etterligne noen i en sanntids videosamtale eller kringkasting. Noen Video “Evidence” du ser på Internett må behandles som en potensiell dypfake til det er bekreftet.
AI -bildegenerering
AI -bildegeneratorer har forårsaket en Rør inn kunstnersamfunnet For alle implikasjonene det har for de som lever av seg som kunstner og om kommersielle kunstnere står i fare for å bli erstattet. Det som ikke forårsaker nesten like mye debatt, er potensialet for feilinformasjon takket være denne teknologien.
AI-bildegenerasjonssystemer kan produsere fotorealistiske bilder hele klut ved hjelp av tekstbaserte spørsmål, eksempel på bilder og originale bilder med tanke på manipulering. For eksempel kan du slette visse deler av et originalt bilde og deretter bruke en teknikk som er kjent som "inpainting" for å få AI til å erstatte den slettede delen av bildet med alt du vil ha. Det er lett å generere bilder på din egen PC med programvare som stabil diffusjon .
Hvis du ønsket å få det til å se ut som om noen holdt en ekte pistol i stedet for en leketøy, er det trivielt for AI. Vil du lage et skandaløst bilde av en kjendis? AI -bildegenerering (og dypfakes for den saks skyld) kan misbrukes på akkurat denne måten. Du kan til og med generere Fotorealistiske ansikter til mennesker som ikke eksisterer .
AI Video Generation
AI -bildegenerering og dypfakes er bare starten. Meta (morselskapet til Facebook) har allerede demonstrert AI Video Generation , og selv om bare noen få sekunder med opptak kan genereres over tid, forventer vi at lengden på videoen og mengden kontrollbrukere vil ha over det som er i videoen vil utvide eksponentielt.
Foreløpig er det fullt mulig å bare ha en AI til å generere et kornete klipp av Bigfoot eller Nessie uten at noen kommer inn i et kostyme eller flyr til Skottland med et kamera og en liten tremodell. Video har alltid vært lett å manipulere før AI -videogenerering var mulig. Nå kan du imidlertid ikke stole på noen video du ser i det hele tatt.
AI chat roboter
Når du hopper på en prat med kundesupport, snakker du med en maskin i stedet for et menneske. AI -teknologi (og tradisjonelle programmeringsmetoder) er gode nok til at maskiner holder sofistikerte samtaler med oss, spesielt hvis det er i et smalt domene som å få en garantibytte eller hvis du har et teknisk spørsmål om noe.
Stemmegjenkjenning og syntese er også i avansert tilstand, og hvis du ser på Demoer for systemer som Google duplex , får du en virkelig følelse av hvor vi skal med dette. Når du slipper løs AI-drevne roboter på sosiale medieplattformer, blir potensialet for samordnede feilinformasjonskampanjer med virkelige konsekvenser høyt.
For å være rettferdig har plattformer på sosiale medier som Twitter alltid hatt et botproblem, men generelt var disse robotene usofistiserte. Det kan nå tenkes at du kan opprette en sammensatt person på sosiale medier som vil lure omtrent hvem som helst. De kan til og med bruke andre teknologier i denne listen for å lage bilder, lyd og video for å "bevise" at de er ekte.
AI -forfattere
Vi går til Internett for informasjon for å lære om verden og lære hva som skjer rundt hele kloden. Menneskelige forfattere (det er oss!) Er en sentral kilde til den informasjonen, men AI -forfattere blir gode nok til å legge ut lignende kvalitetsarbeid.
Akkurat som med AI -artister, er det en debatt om slik programvare vil erstatte folk som skriver for å leve, men igjen er det en feilinformasjonsvinkel som i stor grad blir ignorert.
Hvis du kan lage et originalt ansikt, lage en persona-bot, lage video og stemme med din sammensatte person, blir det mulig å trylle frem en hel publikasjon over natten. Tvilsomme "nyheter" nettsteder er allerede en kilde til å overbevise feilinformasjon for mange internettbrukere, men AI -teknologi som dette kan overlate dette problemet.
Problemet med deteksjon
Disse teknologiene er ikke bare et problem fordi de åpner nye veier for overgrep, de er også et problem fordi det å oppdage fakery kan være vanskelig. Deepfakes når allerede det punktet der selv eksperter har vanskelig for å fortelle hva som er falskt og hva som ikke er. Dette er grunnen til at de kjemper mot ild med ild og bruker AI -teknologi for å oppdage genererte eller manipulerte bilder , ved å lete etter Telltale -tegn usynlige for det menneskelige øyet.
Dette vil fungere en stund, men det kan også skape et utilsiktet AI -våpenløp som ironisk nok kan skyve teknologier som skaper falskt innhold til høyere nivåer av troskap. Den eneste tilregnelige strategien for oss som mennesker er å anta at alt vi ser på Internett med mindre det er fra en bekreftet kilde med gjennomsiktige prosesser og retningslinjer, bør behandles som falske inntil det er bevist noe annet. (Selv om vi tviler på at din konspirasjonsteoretiker onkel vil tro at UFO -videoene han fortsetter å sende deg ikke er ekte.)
- › Den neste smarte hjemmeenheten din kan ha 5G
- › Microsoft Edge får AI -chat og et nytt utseende på Windows
- › OnePlus 11 er her, men med en grov start
- › Wyze er nede, det er ikke bare deg
- › Slutt å bruke tastaturet og musen som fulgte med PCen din
- › Bose Quietcomfort Earbuds 2 anmeldelse: et skritt fremover for støydempende lyd
