Als je de zoekfunctie voor afbeeldingen van Bing gebruikt, zul je het ergste vuil zien dat je je kunt voorstellen. Bing suggereert racistische termen en toont gruwelijke beelden. Bing zal u zelfs aanraden te zoeken naar uitgebuite kinderen als SafeSearch is uitgeschakeld.
We namen contact op met Microsoft voor commentaar en Jeff Jones, Senior Director bij Microsoft, gaf ons de volgende verklaring:
“We nemen aanstootgevende inhoud zeer serieus en blijven onze systemen verbeteren om dergelijke inhoud te identificeren en te voorkomen dat deze wordt weergegeven als een voorgestelde zoekopdracht. Zodra we ons bewust worden van een probleem, ondernemen we actie om het aan te pakken. "
Bijwerken : Sinds publicatie heeft Microsoft gewerkt aan het opschonen van de aanstootgevende Bing-suggesties die we noemden. Op basis van ons onderzoek zijn er nog veel andere aanstootgevende suggesties die nog niet zijn opgelost, waaronder enkele die we hieronder hebben genoemd. We weten niet zeker of ze gewoon de aanstootgevende items repareren die we hebben aangegeven, of dat ze het algoritme verbeteren.
Notitie: De schermafbeeldingen hier laten zien wat we zagen toen we dit stuk schreven door de Amerikaanse versie van Bing Image Search te testen in een incognito privé-browsesessie, maar de resultaten van Bing verschuiven in de loop van de tijd. Volgens onze tests had Google geen van deze problemen. Dit is een Bing-probleem, niet alleen een zoekmachineprobleem. Hetzelfde probleem is van invloed op het zoeken naar video's van Bing.
Ten eerste wordt Bing superracistisch
Zoek naar "joden" op Bing Images en Bing stelt voor om te zoeken naar "Evil Jew". De beste resultaten bevatten ook een meme die dode Joodse mensen lijkt te vieren.
Dit alles wordt weergegeven, zelfs als de SafeSearch-optie van Bing is ingeschakeld, zoals dit standaard is. SafeSearch is ontworpen om "inhoud voor volwassenen uit uw zoekresultaten te houden", aldus Microsoft.
Als u op deze voorgestelde zoekopdracht klikt, wordt een stortvloed aan racistische, antisemitische inhoud ontketend, met meer voorgestelde zoekopdrachten zoals "Joodse mensen zijn kwaadaardig", "Het kwaadaardige Joodse ras" en "Waarom zijn de joden zo kwaadaardig".
We weten allemaal dat deze rotzooi op internet bestaat, maar Bing zou mensen er niet naartoe moeten leiden met hun zoeksuggesties.
Typ "moslims zijn" in en Bing zal suggereren dat ze slecht of terroristen zijn, of simpelweg suggereren dat ze dom zijn.
Zoek naar "zwarte mensen zijn" en Bing zal suggereren dat zwarte mensen lelijk, dom, racistisch en zelfs wilden zijn.
U kunt zo doorgaan, door op elke voorgestelde zoekopdracht te klikken en slechtere en slechtere aanbevelingen te zien. Als u bijvoorbeeld op 'Zwarte mensen zijn dom' klikt, leidt dit tot 'Zwarte mensen zijn nutteloos' en 'Waarom zijn zwarte mensen zo dom'. Als u op 'Black People Are Useless' klikt, leidt dit tot 'Black People Suck' en 'I Hate Black People'.
Bing duwt ook samenzweringen
Bing's zoekactie naar afbeeldingen braakt allerlei soorten afval uit, zelfs bij het zoeken naar individuen. Dit probleem geldt ook voor het zoeken naar video's van Bing.
Zoek naar 'Michelle Obama' in de videozoekopdracht van Bing en twee van de meest aanbevolen zoekopdrachten zijn 'Michelle Obama Transgender Proof' en 'Michelle Obama is a Man'. Klik erop en je ziet samenzweringsvideo's.
Is dit het belangrijkste dat Microsoft wil dat mensen zien wanneer ze naar Michelle Obama zoeken?
SafeSearch blokkeert de porno, maar niet het racisme
De verontrustende pornografische suggesties en afbeeldingen worden niet weergegeven tenzij u SafeSearch uitschakelt. Hoewel Microsoft zegt dat SafeSearch inhoud voor volwassenen uit uw zoekresultaten houdt, filtert SafeSearch duidelijk pornografie en niet racisme.
SafeSearch is standaard ingeschakeld, waardoor de zoekresultaten van Bing er op het eerste gezicht respectabeler uitzien.
Het is echter voor iedereen gemakkelijk, zelfs voor kinderen, om SafeSearch uit te schakelen. Het enige dat iemand hoeft te doen, is op de optie "SafeSearch" in de rechterbovenhoek van de zoekresultaten klikken en "Uit" selecteren. Dat is het!
Een bedrijfsnetwerk kan worden geconfigureerd om SafeSearch af te dwingen, en Microsoft biedt dit zelfs complexe instructies voor het afdwingen van SafeSearch op een enkele pc. Maar op bijna elk apparaat kan iedereen SafeSearch met twee klikken uitschakelen.
Het ergste van alles is dat Bing stelt voor te zoeken naar afbeeldingen van minderjarige kinderen
Een lezer schreef ons te vertellen dat een typefout bij het zoeken naar Bing op "grill" je echt vage porno geeft. Het probleem wordt dan veel erger: Bing stelt voor dat u naar afbeeldingen van minderjarige kinderen zoekt.
Als je zoekt naar 'gril', raden de suggesties boven aan de pagina je aan naar een aantal verontrustende dingen te zoeken, waaronder 'Cute Girl Young 16.'
Als je daarop klikt, suggereert het 'Cute Girl Young 12', 'Cute Girl Young 10' en 'Little Girl Modelling Provocative.'
De resultaten zijn gevuld met pornografie van jong uitziende modellen. We hopen dat ze allemaal 18 jaar of ouder zijn, maar wie kan dat zeggen?
Bing leidt je van een simpele typefout naar 16-jarige meisjes naar 10-jarige meisjes, en het is walgelijk.
Andere voorbeelden zijn ook gemakkelijk te vinden. Als u zoekt naar "kaaspizza", dat is 4chan slang voor kinderpornografie stelt Bing 'Cheese Pizza Girls' voor.
De zoekresultaten voor afbeeldingen van Bing zijn ook verwrongen
Hoewel we ons hier concentreren op de zoeksuggesties, zijn de daadwerkelijke afbeeldingen die verschijnen ook verontrustend.
Sommige van deze zoekresultaten bevatten foto's tijdens het baden van naakte minderjarige kinderen. Die foto's zijn normaal gesproken prima, maar wanneer ze worden gemengd met afbeeldingen van hardcore pornografie voor volwassenen, zijn de resulterende zoekresultaten alarmerend.
Zelfs toen we in Bing Images op "meisje" zochten, zagen we een suggestie om te zoeken naar "dronken meisjes" en ten minste één afbeelding van bestialiteit.
Als je zoekt naar "ezel", stelt Bing voor dat je zoekt naar "Donkey Show Graphic", wat leidt tot resultaten vol beestachtige afbeeldingen. Het bezit van bestialiteitspornografie is onwettig in Oregon, waar ik woon. Dat betekent dat Bing me naar illegale pornografie leidt.
Nogmaals: de zoekresultaten van Bing zijn raar en verwrongen. Bing heeft een veel groter, diepgaander probleem dan alleen voorgestelde zoekopdrachten, hoewel die suggesties het probleem veel erger maken.
We hebben gehoord dat Bing de zoekmachine bij uitstek is voor pornografie, maar het mag zijn gebruikers niet naar steeds extremere, verontrustender en mogelijk illegale pornografie leiden.
Microsoft moet zijn platforms modereren
Microsoft moet Bing beter matigen. Microsoft heeft eerder platforms gemaakt, deze op de wereld losgelaten en genegeerd terwijl ze slecht werden
We hebben dit keer op keer zien gebeuren. Microsoft een keer ontketend een chatbot met de naam Tay op Twitter. Deze chatbot veranderde al snel in een nazi en verklaarde: "Hitler had gelijk, ik haat de joden" nadat hij hoorde van andere gebruikers van sociale media. Microsoft moest het offline halen.
We hebben eerder de Store van Windows 8 getoond, die became a cesspool of scam apps after Microsoft launched Windows 8 and seemed to stop moderating the app submissions. Microsoft has been paying more attention to Windows 10’s Store after this problem was exposed.
Dit probleem treft elk bedrijf dat een platform lanceert. Google heeft Google+ opgegeven, maar Google+ is nog steeds actief. ISIS migreerde dus naar Google+ nadat het van Twitter en Facebook was verbannen. Het duurde maanden voordat iemand het zelfs maar opmerkte De heuvel did. Now Google is closing Google+ nadat ze een belangrijke privacybug ontdekten.
In 2013, The Guardian vond een kledingbedrijf genaamd Solid Gold Bomb en verkocht op Amazon het lezen van "Keep Calm and Rape a Lot" -shirts. Een algoritme had deze shirts gegenereerd en Amazon moest ze handmatig verwijderen.
Microsoft kan niet zomaar een platform op de wereld loslaten en het negeren. Bedrijven als Microsoft en Google hebben de verantwoordelijkheid om hun platforms te modereren en de gruwel op afstand te houden.
Suggesties hebben een geschiedenis van ernstige problemen
Natuurlijk is er geen team van mensen bij Microsoft die deze suggesties kiezen. Bing stelt automatisch zoekopdrachten voor op basis van zoekopdrachten van anderen. Dat betekent dat veel gebruikers van Bing Images op zoek zijn naar antisemitisme, racisme, kinderpornografie en bestialiteit. Als je er alleen maar aan denkt, voel je je vies.
Andere bedrijven hebben hier ook moeite mee. In 2016 The Guardian merkte op dat je 'are jews' in Google kon typen, en het zou suggereren 'are jews evil'. Google stampte deze slechte suggesties weg nadat ze waren gemeld, maar het probleem dook weer op. In 2018 Bedrade meldde dat het typen van 'Hitler is' in Google leidde tot 'Hitler is mijn held'. Google moest deze problemen ook oplossen nadat ze erop waren gewezen.
Zelfs Apple's Siri suggereerde websites die samenzweringswebsites en ander nepnieuws pushten, zoals Buzzfeed Nieuws gemeld. Apple moest Siri repareren. Iedereen rent gewoon rond om branden te blussen terwijl computers slechte dingen leren van slechte mensen.
Nu is Microsoft aan de beurt. Microsoft heeft de verantwoordelijkheid om Bing op te ruimen. Een grote zoekmachine (en vooral een die steeds moeilijker wordt om uit te schakelen, ingebouwd in Windows 10) zou zijn gebruikers niet moeten suggereren om naar racistische rotzooi en afbeeldingen van minderjarige kinderen te zoeken.
Afbeelding tegoed: Yiorgos GR /Shutterstock.com, fizkes /Shutterstock.com.
