Hvis du bruger Bings billedsøgning, vil du se den værste snavs, du kan forestille dig. Bing foreslår racistiske udtryk og viser forfærdelige billeder. Bing vil endda foreslå, at du søger efter udnyttede børn, hvis du har SafeSearch deaktiveret.
Vi kontaktede Microsoft for kommentar, og Jeff Jones, Senior Director hos Microsoft, gav os følgende erklæring:
”Vi tager sager om stødende indhold meget alvorligt og fortsætter med at forbedre vores systemer for at identificere og forhindre sådant indhold i at blive vist som en foreslået søgning. Så snart vi bliver opmærksomme på et problem, tager vi skridt til at løse det. ”
Opdatering : Siden offentliggørelsen har Microsoft arbejdet med at rydde op i de stødende Bing-forslag, som vi nævnte. Baseret på vores forskning er der stadig mange andre stødende forslag, der endnu ikke er rettet, herunder nogle få, som vi har nævnt nedenfor. Vi er usikre på, om de bare løser de stødende ting, vi påpegede, eller om de forbedrer algoritmen.
Bemærk: Skærmbillederne her viser, hvad vi så, da vi skrev dette stykke, der testede den amerikanske version af Bing Image-søgning i en Incognito privat browsersession, men Bings resultater skifter over tid. Ifølge vores test havde Google ikke nogen af disse problemer. Dette er et Bing-problem, ikke kun et søgemaskineproblem. Det samme problem påvirker Bings videosøgning.
Først bliver Bing super racistisk
Søg efter "jøder" på Bing Images, og Bing foreslår, at du søger efter "Evil Jew." Topresultaterne inkluderer også et meme, der ser ud til at fejre døde jødiske folk.
Alt dette vises, selv når Bings SafeSearch-indstilling er aktiveret, da den er som standard. SafeSearch er designet til at “hjælpe med at holde voksenindhold ude af dine søgeresultater”, ifølge Microsoft.
Ved at klikke på denne foreslåede søgning frigøres en strøm af racistisk, antisemitisk indhold med flere foreslåede søgninger som "Jødiske mennesker er onde", "Det onde jødiske race" og "Hvorfor er jøder så onde."
Vi ved alle, at dette affald findes på nettet, men Bing bør ikke føre folk til det med deres søgeforslag.
Indtast "muslimer er", og Bing vil antyde, at de er onde eller terrorister, eller blot foreslår, at de er dumme.
Søg efter "sorte mennesker er", og Bing vil antyde, at sorte mennesker er grimme, dumme, racistiske og endda vilde.
Du kan fortsætte sådan, klikke på hver foreslåede søgning og se dårligere og dårligere anbefalinger. For eksempel, klik på "Sorte mennesker er dumme" fører til "Sorte mennesker er ubrugelige" og "Hvorfor er sorte mennesker så dumme." At klikke på "Black People Are Useless" fører til "Black People Suck" og "I Hate Black People."
Bing skubber også sammensværgelser
Bings billedsøgning kaster op alle former for affald, selv når man søger efter enkeltpersoner. Dette problem strækker sig også til Bings videosøgning.
Søg efter "Michelle Obama" på Bings videosøgning, og to af de bedste foreslåede søgninger er "Michelle Obama Transgender Proof" og "Michelle Obama er en mand." Klik på det, og du vil se konspirationsvideoer.
Er dette den største ting, som Microsoft ønsker, at folk skal se, når de søger efter Michelle Obama?
SafeSearch blokerer porno, men ikke racisme
De foruroligende forslag og billeder til pornografi vises ikke, medmindre du deaktiverer SafeSearch. Mens Microsoft siger, at SafeSearch vil holde voksenindhold ude af dine søgeresultater, filtrerer SafeSearch tydeligt pornografi og ikke racisme.
SafeSearch er som standard aktiveret, hvilket får Bings søgeresultater til at se mere respektable ud ved første øjekast.
Det er dog let for alle - endda børn - at deaktivere SafeSearch. Alt, hvad nogen skal gøre, er at klikke på "SafeSearch" i øverste højre hjørne af søgeresultaterne og vælge "Fra". Det er det!
Et virksomhedsnetværk kunne konfigureres til at håndhæve SafeSearch, og Microsoft leverer endda komplekse instruktioner til håndhævelse af SafeSearch på en enkelt pc. Men på næsten enhver enhed kan alle deaktivere SafeSearch med to klik.
Værst af alt foreslår Bing at søge efter billeder af mindreårige børn
En læser skrev for at fortælle os, at en skrivefejl, når du søger i Bing efter "grill", giver dig virkelig sketchy porno. Problemet bliver så meget værre, idet Bing foreslår, at du søger efter billeder af mindreårige børn.
Når du søger efter "gril", anbefaler forslagene øverst på siden, at du søger efter nogle foruroligende ting, herunder "Cute Girl Young 16."
Hvis du klikker på det, foreslår det "Cute Girl Young 12", "Cute Girl Young 10" og "Little Girl Modeling Provocatively."
Resultaterne er fyldt med pornografi af unge modeller. Vi håber, at de alle er 18 år eller ældre, men hvem kan sige?
Bing fører dig ned ad en sti fra en simpel skrivefejl til 16-årige piger til 10-årige piger, og det er modbydeligt.
Andre eksempler er også lette at finde. Hvis du søger efter "ostepizza", som er 4chan slang til børnepornografi foreslår Bing "Cheese Pizza Girls."
Bings billedsøgeresultater er også snoede
Mens vi fokuserer på søgeforslagene her, er de faktiske billeder, der vises, også foruroligende.
Nogle af disse søgeresultater indeholder badetidsbilleder af nøgne mindreårige børn. Disse fotos ville normalt være fine, men når de blandes sammen med billeder af hardcore voksenpornografi, er de resulterende søgeresultater alarmerende.
Selv når vi søgte Bing-billeder efter "pige", så vi et forslag om at søge efter "berusede piger" og mindst et billede af bestialitet.
Når du søger efter "æsel", foreslår Bing, at du søger efter "Donkey Show Graphic", hvilket fører til resultater fulde af bestialitetsbilleder. Besiddelse af bestialitetspornografi er ulovlig i Oregon, hvor jeg bor. Det betyder, at Bing fører mig til ulovlig pornografi.
Igen: Bings søgeresultater er underlige og snoede. Bing har et meget større, mere dybtgående problem end bare foreslåede søgninger, selvom disse forslag gør problemet meget værre.
Vi har hørt Bing er den valgte søgemaskine til pornografi, men det burde ikke føre sine brugere til mere og mere ekstrem, foruroligende og potentielt ulovlig pornografi.
Microsoft har brug for at moderere sine platforme
Microsoft har brug for at moderere Bing bedre. Microsoft har tidligere skabt platforme, frigivet dem på verden og ignoreret dem, mens de blev dårlige
Vi har set dette ske igen og igen. Microsoft en gang frigivet en chatbot ved navn Tay på Twitter. Denne chatbot blev hurtigt til en nazist og erklærede "Hitler havde ret, jeg hader jøderne", efter at det blev lært af andre brugere af sociale medier. Microsoft var nødt til at trække det offline.
Vi har tidligere udsat Windows 8's Store, som blev en cesspool af fidus-apps efter Microsoft lancerede Windows 8 og syntes at stoppe med at moderere appindleveringerne. Microsoft har været mere opmærksom på Windows 10's Store, efter at dette problem blev udsat for.
Dette problem påvirker alle virksomheder, der lancerer en platform. Google har givet op på Google+, men Google+ er stadig i gang. Så ISIS migrerede til Google+ efter at være forbudt fra Twitter og Facebook. Det tog måneder for nogen at bemærke indtil Bakken gjorde. Nu Google lukker Google+ efter at de opdagede en betydelig privatlivsfejl.
I 2013 The Guardian fandt et tøjfirma ved navn Solid Gold Bomb, der blev solgt med læsning af "Keep Calm and Rape a Lot" skjorter på Amazon. En algoritme havde genereret disse skjorter, og Amazon måtte fjerne dem manuelt.
Microsoft kan ikke bare slå en platform løs på verden og ignorere den. Virksomheder som Microsoft og Google har et ansvar for at moderere deres platforme og holde rædslen i skak.
Forslag har en historie med alvorlige problemer
Selvfølgelig er der intet team af mennesker hos Microsoft, der vælger disse forslag. Bing foreslår automatisk søgninger baseret på andres søgninger. Det betyder, at mange Bing Images-brugere søger efter antisemitisme, racisme, børnepornografi og bestialitet. Bare at tænke på det får dig til at blive beskidt.
Andre virksomheder har også kæmpet med dette. I 2016 The Guardian bemærkede, at du kunne skrive "er jøder" i Google, og det vil antyde, at "er jøder onde." Google trak disse dårlige forslag ud, efter at de blev rapporteret, men problemet dukkede op igen. I 2018 Kablet rapporterede, at indtastning af "Hitler er" i Google førte til "Hitler er min helt." Google måtte også løse disse problemer, efter at de blev påpeget.
Selv Apples Siri foreslog websteder skubbede konspirationswebsteder og andre falske nyheder, som Buzzfeed Nyheder rapporteret. Apple måtte rette Siri. Alle løber bare rundt og slukker brande, når computere lærer dårlige ting fra dårlige mennesker.
Nu er det Microsofts tur. Microsoft har et ansvar for at rydde op i Bing. En større søgemaskine (og især en, der i stigende grad bliver en sværere at slukke for standard, der er indbygget i Windows 10), bør ikke antyde, at dens brugere søger efter racistisk affald og billeder af mindreårige børn.
Billedkredit: George GR /Shutterstock.com, fizkes /Shutterstock.com.
