Hvis du bruker Bings bildesøk, vil du se den verste skitten du kan forestille deg. Bing foreslår rasistiske begreper og viser forferdelige bilder. Bing vil til og med foreslå at du søker etter utnyttede barn hvis du har SafeSearch deaktivert.
Vi kontaktet Microsoft for kommentar, og Jeff Jones, seniordirektør i Microsoft, ga oss følgende uttalelse:
“Vi tar saker med støtende innhold veldig seriøst og fortsetter å forbedre systemene våre for å identifisere og forhindre at slikt innhold vises som et foreslått søk. Så snart vi blir klar over et problem, tar vi grep for å løse det. ”
Oppdater : Siden publiseringen har Microsoft jobbet med å rydde opp i de støtende Bing-forslagene vi nevnte. Basert på vår forskning er det fortsatt mange andre støtende forslag som ennå ikke er løst, inkludert noen som vi har nevnt nedenfor. Vi er usikre på om de bare løser de støtende elementene vi påpekte, eller om de forbedrer algoritmen.
Merk: Skjermbildene her viser hva vi så da vi skrev dette stykket, og testet den amerikanske versjonen av Bing Image search i en Incognito privat surfesession, men Bings resultater skifter over tid. I følge testene våre hadde Google ingen av disse problemene. Dette er et Bing-problem, ikke bare et søkemotorproblem. Det samme problemet påvirker Bings videosøk.
Først blir Bing superrasistisk
Søk etter "jøder" på Bing Images og Bing foreslår at du søker etter "Evil Jew." Toppresultatene inkluderer også et meme som ser ut til å feire døde jødiske folk.
Alt dette vises selv når Bings SafeSearch-alternativ er aktivert, da det er som standard. SafeSearch er designet for å "bidra til å holde vokseninnhold utenfor søkeresultatene dine", ifølge Microsoft.
Ved å klikke på dette foreslåtte søket, frigjør du en strøm av rasistisk, antisemittisk innhold, med flere foreslåtte søk som "Jewish People Are Evil", "The Evil Jewish Race" og "Why Are Jewish so Evil."
Vi vet alle at dette søppelet finnes på nettet, men Bing burde ikke lede folk til det med sine søkeforslag.
Skriv inn “muslimer er”, og Bing vil antyde at de er onde eller terrorister, eller bare foreslå at de er dumme.
Søk etter “svarte mennesker er”, og Bing vil antyde at svarte mennesker er stygge, dumme, rasistiske og til og med villmennesker.
Du kan fortsette slik, klikke på hvert foreslåtte søk og se dårligere og dårligere anbefalinger. Hvis du for eksempel klikker "Svarte mennesker er dumme" fører til "Svarte mennesker er ubrukelige" og "Hvorfor er svarte mennesker så dumme." Hvis du klikker på "Black People Are Useless", blir "Black People Suck" og "I Hate Black People."
Bing skyver også konspirasjoner
Bings bildesøk kaster opp alle slags søppel, selv når de søker etter enkeltpersoner. Dette problemet strekker seg også til Bings videosøk.
Søk etter "Michelle Obama" på Bings videosøk, og to av de beste foreslåtte søkene er "Michelle Obama Transgender Proof" og "Michelle Obama is a Man." Klikk på det, så ser du konspirasjonsvideoer.
Er dette det beste Microsoft vil at folk skal se når de søker etter Michelle Obama?
SafeSearch blokkerer porno, men ikke rasisme
De urovekkende forslagene og bildene til pornografi vises ikke med mindre du deaktiverer SafeSearch. Mens Microsoft sier at SafeSearch vil holde vokseninnhold utenfor søkeresultatene, filtrerer SafeSearch tydeligvis pornografi og ikke rasisme.
SafeSearch er aktivert som standard, noe som gjør at Bings søkeresultater ser mer respektable ut ved første øyekast.
Det er imidlertid enkelt for alle - også barn - å deaktivere SafeSearch. Alt noen trenger å gjøre er å klikke på "SafeSearch" -alternativet øverst til høyre i søkeresultatene og velge "Av". Det er det!
Et bedriftsnettverk kan konfigureres for å håndheve SafeSearch, og Microsoft tilbyr til og med komplekse instruksjoner for å håndheve SafeSearch på en enkelt PC. Men på nesten hvilken som helst enhet kan alle deaktivere SafeSearch med to klikk.
Verst av alt, foreslår Bing å søke etter bilder av mindreårige barn
En leser skrev for å fortelle oss at en skrivefeil når du søker i Bing etter "grill" gir deg virkelig sketchy porno. Problemet blir da mye verre, med Bing som foreslår at du søker etter bilder av mindreårige barn.
Når du søker etter "gril", anbefaler forslagene øverst på siden at du søker etter noen urovekkende ting, inkludert "Cute Girl Young 16."
Hvis du klikker på det, antyder det "Cute Girl Young 12", "Cute Girl Young 10" og "Little Girl Modeling Provocatively."
Resultatene er fylt med pornografi av unge modeller. Vi håper de alle er 18 år eller eldre, men hvem kan si?
Bing fører deg nedover en sti fra en enkel skrivefeil til 16 år gamle jenter til 10 år gamle jenter, og det er ekkelt.
Andre eksempler er også enkle å finne. Hvis du søker etter "ostepizza", som er 4chan slang for barnepornografi foreslår Bing "Cheese Pizza Girls."
Bings søkeresultater for bilder er også vridd
Mens vi fokuserer på søkeforslagene her, er de faktiske bildene som vises også urovekkende.
Noen av disse søkeresultatene inneholder badetidsbilder av nakne mindreårige barn. Disse bildene ville normalt være fine, men når de blandes sammen med bilder av hardcore voksenpornografi, er de resulterende søkeresultatene alarmerende.
Selv når vi søkte etter "jente" på Bing Images, så vi et forslag om å søke etter "berusede jenter" og minst ett bilde av bestialitet.
Når du søker etter "esel", foreslår Bing at du søker etter "Donkey Show Graphic", som fører til resultater fulle av bestialitetsbilder. Besittelse av bestialitetspornografi er ulovlig i Oregon, der jeg bor. Det betyr at Bing fører meg til ulovlig pornografi.
Igjen: Bings søkeresultater er rare og vridde. Bing har et mye større, dypere problem enn bare foreslåtte søk, selv om disse forslagene gjør problemet mye verre.
Vi har hørt Bing er den valgte søkemotoren for pornografi, men det burde ikke føre brukerne til mer og mer ekstrem, urovekkende og potensielt ulovlig pornografi.
Microsoft må moderere plattformene
Microsoft trenger å moderere Bing bedre. Microsoft har tidligere opprettet plattformer, sluppet dem løs på verden og ignorert dem mens de ble dårlige
Vi har sett dette skje om og om igjen. Microsoft en gang løsnet en chatbot som heter Tay på Twitter. Denne chatboten ble raskt en nazist og erklærte "Hitler hadde rett jeg hater jødene" etter at det ble lært av andre brukere av sosiale medier. Microsoft måtte trekke det offline.
Vi har tidligere utsatt Windows 8’s Store, som ble en cesspool av svindelapper etter at Microsoft lanserte Windows 8 og så ut til å slutte å moderere appinnleveringene. Microsoft har fulgt Windows 10s Store mer oppmerksomhet etter at dette problemet ble avslørt.
Dette problemet påvirker alle selskaper som lanserer en plattform. Google har gitt opp på Google+, men Google+ er fortsatt i gang. Så ISIS migrerte til Google+ etter å ha blitt utestengt fra Twitter og Facebook. Det tok måneder før noen til og med la merke til Bakken gjorde. Nå Google lukker Google+ etter at de oppdaget en betydelig personvernfeil.
I 2013, Vergen fant et klesfirma ved navn Solid Gold Bomb ble funnet å selge lesingen "Keep Calm and Rape a Lot" skjorter på Amazon. En algoritme hadde generert disse skjortene, og Amazon måtte fjerne dem manuelt.
Microsoft kan ikke bare slå en plattform løs på verden og ignorere den. Bedrifter som Microsoft og Google har et ansvar for å moderere plattformene sine og holde skrekken i sjakk.
Forslag har en historie med alvorlige problemer
Selvfølgelig er det ikke noe team av mennesker i Microsoft som velger disse forslagene. Bing foreslår automatisk søk basert på andres søk. Det betyr at mange Bing Images-brukere søker etter antisemittisme, rasisme, barnepornografi og bestialitet. Bare det å tenke på det gjør at du føler deg skitten.
Andre selskaper har også slitt med dette. I 2016, Vergen la merke til at du kunne skrive "er jøder" i Google, og det antyder "er jøder onde." Google trampet disse dårlige forslagene ut etter at de ble rapportert, men problemet dukket opp igjen. I 2018, Kablet rapporterte at å skrive "Hitler er" i Google førte til "Hitler er min helt." Google måtte også løse disse problemene etter at de ble påpekt.
Selv Apples Siri foreslo at nettsteder presset konspirasjonsnettsteder og andre falske nyheter, som Buzzfeed Nyheter rapporterte. Apple måtte fikse Siri. Alle løper bare rundt og slukker branner mens datamaskiner lærer dårlige ting fra dårlige mennesker.
Nå er det Microsofts tur. Microsoft har et ansvar for å rydde opp i Bing. En stor søkemotor (og spesielt en som i økende grad blir en vanskeligere å slå av standard innebygd i Windows 10) burde ikke antyde at brukerne søker etter rasistisk søppel og bilder av mindreårige barn.
Bildekreditt: George GR /Shutterstock.com, fizkes /Shutterstock.com.
