Dacă folosești căutarea de imagini a lui Bing, vei vedea cea mai proastă murdărie pe care ți-o poți imagina. Bing sugerează termeni rasisti și prezintă imagini îngrozitoare. Bing vă va sugera chiar și căutarea copiilor exploatați dacă aveți SafeSearch dezactivat.
Am contactat Microsoft pentru comentarii, iar Jeff Jones, Senior Director la Microsoft, ne-a dat următoarea declarație:
„Luăm problemele legate de conținutul ofensator foarte în serios și continuăm să îmbunătățim sistemele noastre pentru a identifica și a preveni ca astfel de conținut să apară ca o căutare sugerată. De îndată ce conștientizăm o problemă, luăm măsuri pentru a o rezolva. ”
Actualizați : De la publicare, Microsoft lucrează la curățarea sugestiilor ofensive Bing pe care le-am menționat. Pe baza cercetărilor noastre, există încă multe alte sugestii jignitoare care nu au fost încă remediate, inclusiv câteva pe care le-am menționat mai jos. Nu suntem siguri dacă acestea repară pur și simplu elementele jignitoare pe care le-am subliniat sau dacă îmbunătățesc algoritmul.
Notă: Capturile de ecran de aici arată ce am văzut când am scris această piesă testând versiunea din SUA a căutării Bing Image într-o sesiune de navigare privată incognito, dar rezultatele Bing se schimbă în timp. Conform testelor noastre, Google nu a avut niciuna dintre aceste probleme. Aceasta este o problemă Bing, nu doar o problemă a motorului de căutare. Aceeași problemă afectează căutarea video a lui Bing.
În primul rând, Bing devine super rasist
Căutați „evrei” pe Bing Images și Bing vă sugerează să căutați „Evreu rău”. Rezultatele de top includ, de asemenea, o meme care pare să celebreze evreii morți.
Toate acestea apar chiar și atunci când opțiunea Căutare sigură a lui Bing este activată, deoarece este implicită. SafeSearch este conceput pentru a „ajuta la menținerea conținutului pentru adulți în afara rezultatelor căutării”, potrivit Microsoft.
Făcând clic pe această căutare sugerată se dezlănțuie un flux de conținut rasist, antisemit, cu mai multe căutări sugerate precum „Evreii sunt răi”, „Raza evreiască rea” și „De ce sunt evreii atât de răi”?
Știm cu toții că acest gunoi există pe web, dar Bing nu ar trebui să-i conducă pe oameni cu sugestiile lor de căutare.
Introduceți „musulmanii sunt” și Bing vă va sugera că sunt răi sau teroriști sau pur și simplu sugerează că sunt proști.
Căutați „oamenii negri sunt” și Bing va sugera că negrii sunt urâți, proști, rasisti și chiar sălbatici.
Puteți continua astfel, făcând clic pe fiecare căutare sugerată și afișând recomandări din ce în ce mai proaste. De exemplu, făcând clic pe „Oamenii negri sunt proști”, apare „Oamenii negri sunt inutili” și „De ce sunt oamenii negri atât de proști”. Dacă dați clic pe „Oamenii negri sunt inutili”, veți ajunge la „Oamenii negri suge” și „Urăsc oamenii negri”.
Bing împinge și conspirațiile
Căutarea de imagini a lui Bing vomită tot felul de gunoi, chiar și atunci când caută persoane. Această problemă se extinde și la căutarea video a lui Bing.
Căutați „Michelle Obama” în căutarea video a lui Bing și două dintre cele mai importante căutări sugerate sunt „Michelle Obama Transgender Proof” și „Michelle Obama is a Man”. Faceți clic pe acesta și veți vedea videoclipuri de conspirație.
Este acesta cel mai important lucru pe care Microsoft dorește să îl vadă oamenii când o caută pe Michelle Obama?
Căutarea sigură blochează pornografia, dar nu și rasismul
Sugestiile și imaginile tulburătoare de pornografie nu sunt afișate decât dacă dezactivați Căutarea sigură. În timp ce Microsoft spune că SafeSearch va păstra conținutul pentru adulți în afara rezultatelor căutării dvs., SafeSearch filtrează în mod clar pornografia și nu rasismul.
Căutarea sigură este activată în mod prestabilit, ceea ce face ca rezultatele căutării Bing să pară mai respectabile la prima vedere.
Cu toate acestea, este ușor pentru oricine - chiar și pentru copii - să dezactiveze Căutarea sigură. Tot ce trebuie să facă cineva este să faceți clic pe opțiunea „Căutare sigură” din colțul din dreapta sus al rezultatelor căutării și să selectați „Dezactivat”. Asta e!
O rețea corporativă ar putea fi configurată pentru a impune Căutarea sigură, iar Microsoft chiar oferă instrucțiuni complexe pentru aplicarea Căutării sigure pe un singur PC. Dar, pe aproape orice dispozitiv, oricine poate dezactiva Căutarea sigură cu două clicuri.
Cel mai rău dintre toate, Bing sugerează căutarea imaginilor copiilor minori
Un cititor a scris pentru a ne spune că o greșeală de eroare atunci când căutați Bing după „grătar” vă oferă porno cu adevărat incomplet. Apoi, problema devine mult mai gravă, Bing sugerându-vă să căutați imagini cu copii minori.
Când căutați „gril”, sugestiile din partea de sus a paginii vă recomandă să căutați câteva lucruri deranjante, inclusiv „Cute Girl Young 16.”
Dacă faceți clic pe acesta, sugerează „Cute Girl Young 12”, „Cute Girl Young 10” și „Little Girl Modeling Provocatively”.
Rezultatele sunt pline de pornografie de modele cu aspect tânăr. Sperăm că toți au 18 ani sau mai mult, dar cine poate spune?
Bing te duce pe o cale de la o greșeală simplă la fetele de 16 ani la fetele de 10 ani și este dezgustător.
Și alte exemple sunt ușor de găsit. Dacă căutați „pizza cu brânză”, care este 4chan argou pentru pornografia infantilă, Bing sugerează „Cheese Pizza Girls”.
Rezultatele căutării de imagini ale lui Bing sunt prea răsucite
Deși ne concentrăm pe sugestiile de căutare aici, imaginile reale care apar sunt, de asemenea, deranjante.
Unele dintre aceste rezultate ale căutării conțin fotografii la băi cu copii minori goi. Aceste fotografii ar fi în mod normal în regulă, dar atunci când sunt amestecate cu imagini de pornografie pentru adulți, rezultatele căutării sunt alarmante.
Chiar și atunci când căutam Bing Images pentru „fată”, am văzut o sugestie de a căuta „fete beat” și cel puțin o imagine de bestialitate.
Când căutați „măgar”, Bing vă sugerează să căutați „Donkey Show Graphic”, ceea ce duce la rezultate pline de imagini de bestialitate. Posesia de bestialitate pornografică este ilegal în Oregon, unde locuiesc. Asta înseamnă că Bing mă conduce la pornografie ilegală.
Din nou: rezultatele căutării Bing sunt ciudate și răsucite. Bing are o problemă mult mai mare, mai profundă decât căutările sugerate, deși aceste sugestii înrăutățesc problema.
Am auzit că Bing este motorul de căutare ales pentru pornografie, dar nu ar trebui să-i conducă pe utilizatori către pornografie din ce în ce mai extremă, deranjantă și potențial ilegală.
Microsoft trebuie să-și modereze platformele
Microsoft trebuie să îl modereze mai bine pe Bing. Microsoft a creat anterior platforme, le-a dezlănțuit în lume și le-a ignorat în timp ce au devenit rău
Am văzut acest lucru întâmplându-se mereu. Microsoft o dată dezlănțuit un chatbot numit Tay pe Twitter. Acest chatbot s-a transformat rapid într-un nazist și a declarat „Hitler avea dreptate, urăsc evreii”, după ce a aflat de la alți utilizatori de social media. Microsoft a trebuit să o scoată offline.
Am expus anterior Windows 8’s Store, care a devenit o serie de aplicații înșelătoare după ce Microsoft a lansat Windows 8 și părea că încetează să modereze trimiterile de aplicații. Microsoft a acordat mai multă atenție magazinului Windows 10 după ce a fost expusă această problemă.
Această problemă afectează fiecare companie care lansează o platformă. Google a renunțat la Google+, dar Google+ este încă funcțional. Deci, ISIS a migrat către Google+ după ce a fost interzis de pe Twitter și Facebook. A durat luni până când oricine a observat chiar până Dealul făcut. Acum Google închide Google+ după ce au descoperit un bug de confidențialitate semnificativ.
În 2013, Gardianul a găsit o companie de îmbrăcăminte numită Solid Gold Bomb a fost găsită vândând pe Amazon cămăși „păstrează calmul și violează mult”. Un algoritm generase aceste cămăși și Amazon trebuia să le scoată manual.
Microsoft nu poate pur și simplu să lase o platformă pe lume și să o ignore. Companii precum Microsoft și Google au responsabilitatea de a-și modera platformele și de a ține groaza la distanță.
Sugestiile au un istoric de probleme grave
Desigur, nu există o echipă de oameni la Microsoft care să aleagă aceste sugestii. Bing sugerează automat căutări bazate pe căutările altor persoane. Asta înseamnă că mulți utilizatori ai Bing Images caută antisemitism, rasism, pornografie infantilă și bestialitate. Doar să te gândești la asta te face să te simți murdar.
Și alte companii s-au luptat cu acest lucru. În 2016, Gardianul am observat că ai putea introduce „sunt evrei” în Google și ar sugera „sunt evrei răi”. Google a respins aceste sugestii proaste după ce au fost raportate, dar problema a reapărut. În 2018, Cu fir a raportat că introducerea „Hitler este” în Google a condus la „Hitler este eroul meu”. Google a trebuit să remedieze aceste probleme și după ce au fost subliniate.
Chiar și Siri-ul Apple a sugerat că site-urile web au împins site-urile de conspirație și alte știri false Știri Buzzfeed raportat. Apple a trebuit să-l repare pe Siri. Toată lumea doar aleargă și stinge focurile în timp ce computerele învață lucruri rele de la oameni răi.
Acum a venit rândul Microsoft. Microsoft are responsabilitatea de a curăța Bing. Un motor de căutare important (și mai ales unul care devine din ce în ce mai mult un sistem de implicit mai greu de dezactivat încorporat în Windows 10) nu ar trebui să le sugereze utilizatorilor să caute gunoi rasist și imagini cu copii minori.
Credit de imagine: George GR /Shutterstock.com, fizkes /Shutterstock.com.
