Jos käytät Bingin kuvahakua, näet pahin kuviteltavissa olevan saastan. Bing ehdottaa rasistisia termejä ja näyttää kauhistuttavia kuvia. Bing ehdottaa jopa, että etsit hyväksikäytettyjä lapsia, jos SafeSearch on poistettu käytöstä.
Otimme yhteyttä Microsoftiin kommentoimaan, ja Microsoftin vanhempi johtaja Jeff Jones antoi meille seuraavan lausunnon:
"Suhtaudumme loukkaavaan sisältöön erittäin vakavasti ja parannamme edelleen järjestelmäämme tunnistamaan ja estämään tällaisen sisällön näkymistä ehdotettuna hauna. Heti kun olemme tietoisia ongelmasta, ryhdymme toimiin sen ratkaisemiseksi. "
Päivittää : Julkaisusta lähtien Microsoft on työskennellyt mainitsemiemme loukkaavien Bing-ehdotusten puhdistamiseksi. Tutkimuksemme perusteella on vielä monia muita loukkaavia ehdotuksia, joita ei ole vielä korjattu, mukaan lukien muutamat, jotka olemme maininneet alla. Emme ole varmoja, korjaavatko he vain huomauttamamme loukkaavat kohteet vai parantavatko ne algoritmia.
Huomautus: Tässä olevat kuvakaappaukset osoittavat, mitä näimme kirjoittaessamme tämän teoksen testataksemme Bing Image -hakun yhdysvaltalaista versiota yksityisessä incognito-selausistunnossa, mutta Bingin tulokset muuttuvat ajan myötä. Googlella ei ollut mitään näistä ongelmista testiemme mukaan. Tämä on Bing-ongelma, ei vain hakukoneongelma. Sama ongelma vaikuttaa Bingin videohakuun.
Ensinnäkin Bing saa superrasistin
Hae sanaa "juutalaiset" Bing Images -sivustolta ja Bing ehdottaa, että haet sanaa "paha juutalainen". Huipputuloksiin sisältyy myös meemi, joka näyttää juhlivan kuolleita juutalaisia.
Kaikki tämä näkyy oletusarvoisesti, vaikka Bingin SafeSearch-vaihtoehto olisi käytössä. SafeSearch on suunniteltu "pitämään aikuisille suunnattua sisältöä poissa hakutuloksista", Microsoftin mukaan.
Tämän ehdotetun haun napsauttaminen vapauttaa rasistisen, antisemitistisen sisällön, ja lisää ehdotettuja hakuja, kuten "Juutalaiset ovat pahoja", "Paha juutalainen rotu" ja "Miksi juutalaiset ovat niin pahoja".
Me kaikki tiedämme, että tätä roskaa on verkossa, mutta Bingin ei pitäisi johtaa ihmisiä siihen hakuehtoillaan.
Kirjoita "muslimit ovat", ja Bing ehdottaa, että he ovat pahoja tai terroristeja, tai yksinkertaisesti ehdottaa, että he ovat typeriä.
Etsi sanaa "mustat ihmiset ovat" ja Bing ehdottaa, että mustat ihmiset ovat ruma, tyhmä, rasistinen ja jopa villi.
Voit jatkaa näin, napsauttamalla kutakin ehdotettua hakua ja nähdäksesi huonommat ja huonommat suositukset. Esimerkiksi napsauttamalla "mustat ihmiset ovat tyhmä" johtaa "mustat ihmiset ovat hyödyttömiä" ja "miksi mustat ihmiset ovat niin tyhmiä". Napsauttamalla kohtaa ”Mustat ihmiset ovat hyödyttömiä” johtaa "Mustat ihmiset imevät" ja "Vihaan mustia ihmisiä".
Bing ajaa myös salaliittoja
Bingin kuvahaku oksentaa kaikenlaista roskaa, jopa henkilöitä etsittäessä. Tämä ongelma ulottuu myös Bingin videohakuun.
Hae sanaa "Michelle Obama" Bingin videohaussa ja kaksi suosituinta ehdotettua hakua ovat "Michelle Obama Transgender Proof" ja "Michelle Obama on mies". Napsauta sitä ja näet salaliittovideoita.
Onko tämä parasta, mitä Microsoft haluaa ihmisten näkevän, kun he etsivät Michelle Obamaa?
SafeSearch estää pornoa, mutta ei rasismia
Häiritsevät pornografiaehdotukset ja kuvat eivät näy, ellet poista SafeSearchia käytöstä. Vaikka Microsoft sanoo, että SafeSearch pitää aikuisille tarkoitetun sisällön poissa hakutuloksistasi, SafeSearch suodattaa selvästi pornografiaa eikä rasismia.
SafeSearch on oletusarvoisesti käytössä, mikä tekee Bingin hakutuloksista näyttävämmän ensi silmäyksellä.
Kenen tahansa, jopa lapsen, on kuitenkin helppo poistaa SafeSearch käytöstä. Joku tarvitsee vain napsauttaa hakutulosten oikeassa yläkulmassa olevaa SafeSearch-vaihtoehtoa ja valita Ei käytössä. Se siitä!
Yritysverkko voidaan määrittää pakottamaan SafeSearch, ja Microsoft tarjoaa jopa monimutkaiset ohjeet SafeSearchin pakottamiseksi yhteen tietokoneeseen. Mutta melkein millä tahansa laitteella kuka tahansa voi poistaa SafeSearchin käytöstä kahdella napsautuksella.
Pahinta on, että Bing ehdottaa alaikäisten lasten kuvien etsimistä
Eräs lukija kirjoitti kertomaan meille, että kirjoitusvirhe etsiessään Bingiltä sanaa “grilli” antaa sinulle todella luonnoksen pornoa. Sitten ongelma pahenee paljon, ja Bing ehdottaa, että etsit kuvia alaikäisistä lapsista.
Kun haet sanaa "gril", sivun yläosassa olevat ehdotukset suosittelevat etsimään joitain häiritseviä asioita, kuten "Söpö tyttö nuori 16."
Jos napsautat sitä, se ehdottaa "Söpö tyttö nuori 12", "Söpö tyttö nuori 10" ja "Pieni tyttö mallinnus provosoivasti".
Tulokset ovat täynnä nuorten mallien pornografiaa. Toivomme, että he ovat kaikki 18-vuotiaita tai vanhempia, mutta kuka voi sanoa?
Bing johtaa sinut polulta yksinkertaisesta kirjoitusvirheestä 16-vuotiaisiin tyttöihin 10-vuotiaisiin tyttöihin, ja se on inhottavaa.
Myös muita esimerkkejä on helppo löytää. Jos haet sanaa "juustopizza", joka on 4 kanavaa slangi lapsipornografiaa varten Bing ehdottaa "Juustopizza-tyttöjä".
Myös Bingin kuvahaun tulokset ovat kierrettyjä
Vaikka keskitymme täällä oleviin hakuehdotuksiin, myös todelliset näkyvät kuvat ovat häiritseviä.
Jotkut näistä hakutuloksista sisältävät kylpyajan kuvia alastomista alaikäisistä lapsista. Nämä valokuvat olisivat yleensä hienoja, mutta kun ne sekoitetaan kovan aikuispornografian kuviin, tuloksena olevat hakutulokset ovat hälyttäviä.
Jopa etsiessämme Bing Images -sanaa "tyttö", näimme ehdotuksen etsiä "humalassa olevat tytöt" ja ainakin yhden kuvan eläimestä.
Kun haetaan sanaa "aasi", Bing ehdottaa, että haet sanaa "Donkey Show Graphic", mikä johtaa tuloksiin, joissa on eläinkuvia. Eläinperäisen pornografian hallussapito on laiton Oregonissa, jossa asun. Tämä tarkoittaa, että Bing johtaa minut laittomaan pornografiaan.
Jälleen: Bingin hakutulokset ovat oudot ja vääntyneet. Bingillä on paljon suurempi, syvempi ongelma kuin vain ehdotetut haut, vaikka nämä ehdotukset tekevät ongelmasta paljon pahempaa.
Olemme kuulleet, että Bing on pornografian hakukone, mutta sen ei pitäisi johtaa käyttäjiä yhä äärimmäisempään, häiritsevämpään ja mahdollisesti laittomaan pornografiaan.
Microsoftin on valvottava alustojaan
Microsoftin on valvottava Bingia paremmin. Microsoft on aiemmin luonut alustoja, vapauttanut ne maailmalle ja sivuuttanut ne, kun ne muuttuvat huonoksi
Olemme nähneet tämän tapahtuvan yhä uudelleen. Microsoft kerran vapautettu Tay-niminen chatbot Twitterissä. Tämä chatbot muuttui nopeasti natsiksi ja julisti "Hitler oli oikeassa, vihaan juutalaisia" saatuaan siitä tiedon muilta sosiaalisen median käyttäjiltä. Microsoftin oli vedettävä se offline-tilaan.
Paljastimme aiemmin Windows 8: n myymälän, joka tuli huijaussovellusten altaan sen jälkeen, kun Microsoft käynnisti Windows 8: n ja näytti lopettavan sovellusten lähettämisen valvonnan. Microsoft on kiinnittänyt enemmän huomiota Windows 10: n kauppaan tämän ongelman paljastamisen jälkeen.
Tämä ongelma koskee kaikkia yrityksiä, jotka käynnistävät alustan. Google on luopunut Google+: sta, mutta Google+ on edelleen toiminnassa. Joten ISIS siirtyi Google+ -palveluun, kun hänet kiellettiin Twitteristä ja Facebookista. Kesti kuukausia, ennen kuin kukaan edes huomasi siihen asti Mäki teki. Nyt Google sulkee Google+: n kun he löysivät merkittävän tietosuojavirheen.
Vuonna 2013, Huoltaja löysi vaatetusyrityksen nimeltä Solid Gold Bomb, joka löysi Amazonista myymällä "Pidä rauhallisena ja raiskaa paljon" -paitoja. Algoritmi oli luonut nämä paidat, ja Amazonin oli poistettava ne manuaalisesti.
Microsoft ei voi vain irrottaa alustaa maailmasta ja jättää sen huomiotta. Microsoftin ja Googlen kaltaisilla yrityksillä on vastuu moderoida alustojaan ja pitää kauhu loitolla.
Ehdotuksilla on ollut vakavia ongelmia
Tietysti mikään Microsoftin joukko ihmisiä ei valitse näitä ehdotuksia. Bing ehdottaa hakuja automaattisesti muiden ihmisten tekemien hakujen perusteella. Tämä tarkoittaa sitä, että monet Bing Images -käyttäjät etsivät antisemitismiä, rasismia, lapsipornografiaa ja eläimellisyyttä. Pelkästään sen miettiminen saa sinut likainen.
Myös muut yritykset ovat kamppailleet tämän kanssa. Vuonna 2016 Huoltaja huomasit, että voit kirjoittaa Googleen "are jews", ja se ehdottaa, että "juutalaiset ovat pahoja". Google löysi nämä huonot ehdotukset ilmoituksen jälkeen, mutta ongelma palasi uudelleen. Vuonna 2018 Langallinen kertoi, että kirjoittamalla "Hitler on" Googleen johti "Hitler on sankarini". Googlen oli korjattava nämä ongelmat myös niiden jälkeen.
Jopa Applen Siri ehdotti, että verkkosivustot työnsivät salaliittosivustoja ja muita väärennettyjä uutisia Buzzfeed-uutiset raportoitu. Apple joutui korjaamaan Sirin. Kaikki vain juoksevat ympäriinsä ja sammuttavat tulipaloja, kun tietokoneet oppivat pahoja pahilta ihmisiltä.
Nyt on Microsoftin vuoro. Microsoftilla on vastuu puhdistaa Bing. Suuren hakukoneen (ja erityisesti sellaisen, josta on tulossa yhä vaikeampi sammuttaa oletusarvo Windows 10: een), ei pitäisi ehdottaa sen käyttäjien etsivän rasistista roskaa ja kuvia alaikäisistä lapsista.
Kuvahyvitys: George GR /Shutterstock.com, hiilihapot /Shutterstock.com.
