Jeśli używasz wyszukiwarki obrazów Bing, zobaczysz najgorszy brud, jaki możesz sobie wyobrazić. Bing sugeruje rasistowskie terminy i wyświetla przerażające obrazy. Bing zasugeruje nawet wyszukiwanie wykorzystywanych dzieci, jeśli masz wyłączony filtr SafeSearch.
Skontaktowaliśmy się z firmą Microsoft w celu uzyskania komentarza, a Jeff Jones, starszy dyrektor w firmie Microsoft, przekazał nam następujące oświadczenie:
„Bardzo poważnie podchodzimy do kwestii obraźliwych treści i stale ulepszamy nasze systemy, aby identyfikować i zapobiegać wyświetlaniu takich treści jako sugerowanego wyszukiwania. Gdy tylko dowiemy się o problemie, podejmujemy działania, aby go rozwiązać ”.
Aktualizacja : Od czasu publikacji firma Microsoft pracuje nad oczyszczeniem z obraźliwych sugestii Bing, o których wspomnieliśmy. Na podstawie naszych badań nadal istnieje wiele innych obraźliwych sugestii, które nie zostały jeszcze naprawione, w tym kilka, o których wspomnieliśmy poniżej. Nie jesteśmy pewni, czy po prostu naprawiają wskazane przez nas obraźliwe przedmioty, czy też ulepszają algorytm.
Uwaga: Zrzuty ekranu tutaj pokazują, co widzieliśmy, kiedy pisaliśmy ten artykuł, testując amerykańską wersję wyszukiwania obrazów Bing w prywatnej sesji przeglądania incognito, ale wyniki Bing zmieniają się w czasie. Zgodnie z naszymi testami Google nie miał żadnego z tych problemów. Jest to problem z usługą Bing, a nie tylko z wyszukiwarką. Ten sam problem dotyczy wyszukiwania wideo Bing.
Po pierwsze, Bing staje się super rasistą
Wyszukaj „żydów” w Bing Images, a Bing sugeruje wyszukanie „Evil Jew”. Najlepsze wyniki obejmują również mem, który wydaje się świętować zmarłych Żydów.
Wszystko to pojawia się nawet wtedy, gdy opcja Bing SafeSearch jest włączona, ponieważ jest domyślnie. Według firmy Microsoft SafeSearch „pomaga usuwać treści dla dorosłych z wyników wyszukiwania”.
Kliknięcie tego sugerowanego wyszukiwania uwalnia strumień rasistowskich, antysemickich treści, z bardziej sugerowanymi wyszukiwaniami, takimi jak „Żydzi są źli”, „Zła żydowska rasa” i „Dlaczego Żydzi są tacy źli”.
Wszyscy wiemy, że te śmieci istnieją w sieci, ale Bing nie powinien prowadzić do nich ludzi za pomocą sugestii wyszukiwania.
Wpisz „muzułmanie są”, a Bing zasugeruje, że są złymi lub terrorystami, lub po prostu zasugeruje, że są głupi.
Wyszukaj „czarni ludzie są”, a Bing zasugeruje, że czarni ludzie są brzydcy, głupi, rasistowscy, a nawet dzicy.
Możesz kontynuować w ten sposób, klikając każde sugerowane wyszukiwanie i widzieć coraz gorsze rekomendacje. Na przykład kliknięcie „Czarni są głupi” prowadzi do „Czarni są bezużyteczni” i „Dlaczego Czarni są tacy głupi”. Kliknięcie „Czarni są bezużyteczni” prowadzi do „Czarnych ludzi jest do bani” i „Nienawidzę czarnych ludzi”.
Bing też popycha konspiracje
Wyszukiwarka obrazów Bing wymiotuje wszelkiego rodzaju śmieci, nawet podczas wyszukiwania osób. Ten problem dotyczy również wyszukiwania wideo Bing.
Wyszukaj „Michelle Obama” w wyszukiwarce wideo Bing, a dwa najczęściej sugerowane wyszukiwania to „Michelle Obama Transgender Proof” i „Michelle Obama is a Man”. Kliknij to, a zobaczysz filmy o spiskach.
Czy to jest najważniejsza rzecz, którą Microsoft chce, aby ludzie widzieli, kiedy szukają Michelle Obama?
SafeSearch blokuje porno, ale nie rasizm
Niepokojące sugestie i obrazy dotyczące pornografii nie są wyświetlane, chyba że wyłączysz filtr SafeSearch. Chociaż Microsoft twierdzi, że SafeSearch usunie treści dla dorosłych z wyników wyszukiwania, SafeSearch wyraźnie odfiltrowuje pornografię, a nie rasizm.
Filtr SafeSearch jest domyślnie włączony, co sprawia, że wyniki wyszukiwania Bing na pierwszy rzut oka wyglądają lepiej.
Jednak każdy - nawet dzieci - może łatwo wyłączyć filtr SafeSearch. Wystarczy, że klikniesz opcję „SafeSearch” w prawym górnym rogu wyników wyszukiwania i wybierzesz „Wyłącz”. Otóż to!
Sieć firmową można skonfigurować tak, aby wymuszała stosowanie filtru SafeSearch, a firma Microsoft zapewnia nawet złożone instrukcje do wymuszania SafeSearch na jednym komputerze. Jednak na prawie każdym urządzeniu każdy może wyłączyć filtr SafeSearch za pomocą dwóch kliknięć.
Co najgorsze, Bing sugeruje wyszukiwanie obrazów nieletnich dzieci
Czytelnik napisał, aby powiedzieć nam, że literówka podczas wyszukiwania w Bing słowa „grill” daje naprawdę szkicowe porno. Problem staje się wtedy znacznie gorszy, a Bing sugeruje wyszukiwanie obrazów niepełnoletnich dzieci.
Podczas wyszukiwania hasła „gril” sugestie u góry strony zalecają wyszukanie pewnych niepokojących rzeczy, w tym „Cute Girl Young 16”.
Jeśli to klikniesz, pojawi się sugestia „Urocza młoda dziewczyna 12”, „Urocza młoda dziewczyna 10” i „Mała dziewczynka modeluje prowokacyjnie”.
Wyniki są pełne pornografii młodych modelek. Mamy nadzieję, że wszyscy mają co najmniej 18 lat, ale kto może powiedzieć?
Bing prowadzi Cię ścieżką od prostej literówki do 16-letniej dziewczynki do 10-letniej dziewczynki i to jest obrzydliwe.
Inne przykłady też są łatwe do znalezienia. Jeśli szukasz „pizza z serem”, czyli 4chan gwara w przypadku pornografii dziecięcej Bing sugeruje „Cheese Pizza Girls”.
Wyniki wyszukiwania grafiki w Bing też są przekręcone
Skupiamy się na sugestiach wyszukiwania, ale rzeczywiste obrazy, które się pojawiają, również są niepokojące.
Niektóre z tych wyników wyszukiwania zawierają zdjęcia nagich nieletnich dzieci podczas kąpieli. Te zdjęcia normalnie byłyby w porządku, ale gdy są zmieszane z obrazami ostrej pornografii dla dorosłych, otrzymane wyniki wyszukiwania są alarmujące.
Nawet podczas wyszukiwania w Bing Images „dziewczyna”, widzieliśmy sugestię, aby wyszukać „pijane dziewczyny” i co najmniej jeden obraz bestialstwa.
Podczas wyszukiwania hasła „osioł” Bing sugeruje wyszukanie hasła „Donkey Show Graphic”, co prowadzi do wyników pełnych obrazów bestialstwa. Posiadanie pornografii zoofilii jest nielegalny w Oregonie, gdzie mieszkam. Oznacza to, że Bing prowadzi mnie do nielegalnej pornografii.
Ponownie: wyniki wyszukiwania Bing są dziwne i pokręcone. Bing ma znacznie większy, głębszy problem niż tylko sugerowane wyszukiwania, chociaż te sugestie znacznie go pogarszają.
Słyszeliśmy, że wyszukiwarka Bing jest preferowaną wyszukiwarką pornografii, ale nie powinna prowadzić swoich użytkowników do coraz bardziej ekstremalnej, niepokojącej i potencjalnie nielegalnej pornografii.
Microsoft musi zmodernizować swoje platformy
Microsoft musi lepiej moderować Bing. Microsoft wcześniej tworzył platformy, wypuszczał je na świat i ignorował, gdy stawały się złe
Widzieliśmy to w kółko. Microsoft raz uwolniony chatbota imieniem Tay na Twitterze. Ten chatbot szybko zmienił się w nazistę i oświadczył: „Hitler miał rację, nienawidzę Żydów” po tym, jak dowiedział się od innych użytkowników mediów społecznościowych. Microsoft musiał go wyłączyć w trybie offline.
Wcześniej ujawniliśmy Sklep Windows 8, który stał się szambo oszukańczych aplikacji po tym, jak Microsoft uruchomił Windows 8 i wydawało się, że przestał moderować zgłoszenia aplikacji. Microsoft zwracał większą uwagę na Sklep Windows 10 po ujawnieniu tego problemu.
Ten problem dotyczy każdej firmy, która uruchamia platformę. Google zrezygnował z Google+, ale Google+ nadal działa. Dlatego ISIS przeniosło się do Google+ po wyrzuceniu go z Twittera i Facebooka. Minęły miesiące, zanim ktokolwiek to zauważył Wzgórze zrobił. Teraz Google zamyka Google+ po odkryciu znaczącego błędu prywatności.
W 2013, Opiekun znaleziono firmę odzieżową o nazwie Solid Gold Bomb, która sprzedała na Amazon koszulki z napisem „Keep Calm and Rape a Lot”. Algorytm wygenerował te koszulki i Amazon musiał je usunąć ręcznie.
Microsoft nie może po prostu wypuścić platformy na świat i zignorować ją. Firmy takie jak Microsoft i Google są odpowiedzialne za moderowanie swoich platform i powstrzymywanie horroru.
Sugestie mają historię poważnych problemów
Oczywiście w firmie Microsoft nie ma zespołu osób wybierających te sugestie. Bing automatycznie sugeruje wyszukiwania na podstawie wyszukiwań innych osób. Oznacza to, że wielu użytkowników Bing Images szuka antysemityzmu, rasizmu, pornografii dziecięcej i bestialstwa. Samo myślenie o tym sprawia, że czujesz się brudny.
Inne firmy również borykały się z tym problemem. W 2016 roku Opiekun zauważyłem, że możesz wpisać w Google „są Żydami”, co sugerowałoby, że „są Żydami złymi”. Google odrzuca te złe sugestie po ich zgłoszeniu, ale problem powrócił. W 2018 roku Przewodowy zgłosił, że wpisanie „Hitler jest” w Google prowadzi do „Hitler jest moim bohaterem”. Google również musiało rozwiązać te problemy po ich wskazaniu.
Nawet Siri firmy Apple sugerowało, że strony internetowe rozpowszechniały strony spiskowe i inne fałszywe wiadomości Buzzfeed News zgłoszone. Apple musiał naprawić Siri. Wszyscy po prostu biegają i gasią pożary, podczas gdy komputery uczą się złych rzeczy od złych ludzi.
Teraz kolej na Microsoft. Microsoft ma obowiązek oczyścić Bing. Główna wyszukiwarka (a zwłaszcza taka, która coraz trudniej jest wyłączyć domyślną wersję wbudowaną w system Windows 10) nie powinna sugerować swoim użytkownikom wyszukiwania rasistowskich śmieci i obrazów nieletnich dzieci.
Źródło zdjęcia: George GR /Shutterstock.com, fizkes /Shutterstock.com.
