Pokud použijete Bingovo vyhledávání obrázků, uvidíte nejhorší špínu, jakou si dokážete představit. Bing navrhuje rasistické výrazy a ukazuje děsivé obrazy. Bing dokonce navrhne, abyste vyhledali zneužívané děti, pokud máte deaktivované Bezpečné vyhledávání.
Kontaktovali jsme společnost Microsoft se žádostí o komentář a Jeff Jones, hlavní ředitel společnosti Microsoft, nám poskytl následující prohlášení:
"Bereme věci s urážlivým obsahem velmi vážně a nadále zdokonalujeme naše systémy, abychom identifikovali a zabránili tomu, aby se takový obsah zobrazoval jako navrhované vyhledávání." Jakmile se o nějakém problému dozvíme, podnikneme kroky k jeho řešení. “
Aktualizace : Od publikace Microsoft pracuje na vyčištění útočných návrhů Bingu, které jsme zmínili. Na základě našeho výzkumu stále existuje mnoho dalších urážlivých návrhů, které dosud nebyly opraveny, včetně několika, které jsme zmínili níže. Nejsme si jisti, zda jednoduše opravují urážlivé položky, na které jsme upozornili, nebo zda vylepšují algoritmus.
Poznámka: Screenshoty zde ukazují, co jsme viděli, když jsme psali tento článek, který testoval americkou verzi vyhledávání obrázků Bing v anonymní relaci anonymního prohlížení, ale výsledky Bingu se časem posunuly. Google podle našich testů žádný z těchto problémů neměl. Toto je problém Bingu, nejen problém vyhledávače. Stejný problém ovlivňuje Bingovo vyhledávání videí.
Nejprve je Bing super rasista
Vyhledejte „Židé“ v Bing Images a Bing vám navrhne, abyste hledali „Zlý Žid“. Mezi nejlepší výsledky patří také mem, který vypadá, že oslavuje mrtvé židovské lidi.
To vše se zobrazí, i když je povolena možnost Bing's SafeSearch, což je ve výchozím nastavení. Bezpečné vyhledávání je podle společnosti Microsoft navrženo tak, aby „pomohlo udržet obsah pro dospělé mimo výsledky vyhledávání“.
Kliknutím na toto navrhované hledání se rozpoutá příval rasistického antisemitského obsahu s dalšími navrhovanými vyhledáváními jako „Židé jsou zlí“, „Zlá židovská rasa“ a „Proč jsou Židé tak zlí“.
Všichni víme, že tento odpad existuje na webu, ale Bing by k němu neměl vést lidi svými návrhy vyhledávání.
Zadejte „muslimové jsou“ a Bing navrhne, že jsou zlí nebo teroristé, nebo jednoduše navrhne, že jsou hloupí.
Hledejte „černoši jsou“ a Bing navrhne, že černoši jsou oškliví, hloupí, rasističtí a dokonce divoši.
Takto můžete pokračovat, klikat na každé navrhované vyhledávání a vidět horší a horší doporučení. Například kliknutí na „Černí lidé jsou hloupí“ vede k „Černým lidem jsou zbyteční“ a „Proč jsou černí lidé tak hloupí“. Kliknutím na „Černí lidé jsou zbyteční“ se zobrazí „Černí lidé sají“ a „Nesnáším černé lidi“.
Bing také tlačí na spiknutí
Bingovo vyhledávání obrázků zvrací všechny druhy odpadků, a to i při hledání jednotlivců. Tento problém se týká i Bingova vyhledávání videí.
Vyhledejte výraz „Michelle Obama“ ve vyhledávacím videu Bing a dva z nejlépe navržených vyhledávacích dotazů jsou „Transgender Proof Michelle Obama“ a „Michelle Obama je muž“. Klikněte na to a uvidíte konspirační videa.
Je to hlavní věc, kterou Microsoft chce, aby lidé viděli, když hledají Michelle Obamu?
Bezpečné vyhledávání blokuje pornografii, ale ne rasismus
Rušivé návrhy a obrázky týkající se pornografie se nezobrazí, dokud deaktivujete Bezpečné vyhledávání. Zatímco společnost Microsoft tvrdí, že Bezpečné vyhledávání nebude obsahovat výsledky pro dospělé z vašich výsledků vyhledávání, Bezpečné vyhledávání jasně filtruje pornografii, nikoli rasismus.
Bezpečné vyhledávání je ve výchozím nastavení povoleno, díky čemuž jsou výsledky vyhledávání Bing na první pohled slušnější.
Bezpečné vyhledávání však může kdokoli (i děti) snadno deaktivovat. Jediné, co někdo musí udělat, je kliknout na možnost „Bezpečné vyhledávání“ v pravém horním rohu výsledků vyhledávání a vybrat „Vypnuto“. A je to!
Firemní síť lze nakonfigurovat tak, aby vynucovala Bezpečné vyhledávání, a společnost Microsoft dokonce poskytuje složité pokyny pro vynucení SafeSearch na jednom PC. Ale téměř na jakémkoli zařízení může kdokoli deaktivovat Bezpečné vyhledávání dvěma kliknutími.
Nejhorší ze všeho je, že Bing navrhuje hledat obrázky nezletilých dětí
Čtenář nám napsal, že překlep při hledání „grilu“ v Bingu vám dá opravdu povrchní porno. Problém se pak mnohem zhoršuje a Bing navrhuje, abyste hledali obrázky nezletilých dětí.
Při hledání výrazu „gril“ vám návrhy v horní části stránky doporučují vyhledat některé znepokojující věci, například „Cute Girl Young 16.“
Pokud na to kliknete, navrhne to „Cute Girl Young 12“, „Cute Girl Young 10“ a „Little Girl Modeling Provokatively“.
Výsledky jsou plné pornografie mladě vypadajících modelů. Doufáme, že jsou všichni starší 18 let, ale kdo může říct?
Bing vás vede cestou od jednoduchého překlepu k 16letým dívkám k 10letým dívkám a je to nechutné.
Snadno najdete i další příklady. Pokud hledáte „sýrová pizza“, což je 4chan slang pro dětskou pornografii navrhuje Bing „Cheese Pizza Girls“.
Výsledky vyhledávání obrázků Bing jsou také zkroucené
Zatímco se zde zaměřujeme na návrhy vyhledávání, znepokojující jsou i samotné zobrazené obrázky.
Některé z těchto výsledků vyhledávání obsahují fotografie nahých nezletilých dětí. Tyto fotografie by za normálních okolností byly v pořádku, ale když jsou smíchány s obrázky pornografie pro dospělé, výsledné výsledky vyhledávání jsou alarmující.
Dokonce i když jsme v Bing Images hledali „dívku“, viděli jsme návrh na hledání „opilých dívek“ a alespoň jednoho obrázku sodomie.
Při hledání slova „osel“ vám Bing navrhne vyhledat „grafiku osla“, která vede k výsledkům plným obrázků bestiality. Vlastnění pornografie sodomie je ilegální v Oregonu, kde bydlím. To znamená, že mě Bing vede k nelegální pornografii.
Opět: Bingovy výsledky vyhledávání jsou divné a zkroucené. Bing má mnohem větší a hlubší problém než jen navrhovaná vyhledávání, i když tato doporučení tento problém ještě zhoršují.
Slyšeli jsme, že Bing je vyhledávač pro pornografii, ale neměl by uživatele vést k extrémnější, znepokojivější a potenciálně nelegální pornografii.
Společnost Microsoft potřebuje moderovat své platformy
Microsoft potřebuje Bing lépe moderovat. Microsoft již dříve vytvořil platformy, uvolnil je na celém světě a ignoroval je, když se zhoršily
Viděli jsme, že se to stalo znovu a znovu. Microsoft jednou rozpoutal chatbot jménem Tay na Twitteru. Tento chatbot se rychle změnil v nacistu a prohlásil „Hitler měl pravdu, nenávidím Židy“ poté, co se to dozvěděl od ostatních uživatelů sociálních médií. Microsoft to musel stáhnout offline.
Dříve jsme vystavili Windows 8 Store, který se stala žumpou podvodných aplikací poté, co společnost Microsoft spustila Windows 8 a zdálo se, že přestala moderovat podání aplikace. Po odhalení tohoto problému společnost Microsoft věnuje více pozornosti obchodu Windows 10.
Tento problém se týká každé společnosti, která zavádí platformu. Google se vzdal Google+, ale Google+ je stále funkční. ISIS tedy migroval na Google+ poté, co mu byl zakázán Twitter a Facebook. Trvalo měsíce, než si to kdokoli vůbec všiml Kopec dělal. Nyní Google zavírá Google+ poté, co objevili významnou chybu v ochraně soukromí.
V roce 2013, Opatrovník našel oděvní společnost s názvem Solid Gold Bomb byla nalezena prodej triků „Keep Calm and Rape a Lot“ na Amazonu. Algoritmus tyto košile vygeneroval a Amazon je musel ručně odstranit.
Microsoft nemůže jen uvolnit platformu světu a ignorovat ji. Společnosti jako Microsoft a Google mají odpovědnost za moderování svých platforem a udržení hrůzy na uzdě.
Návrhy mají historii vážných problémů
V Microsoftu samozřejmě není žádný tým lidí, který by tyto návrhy vybíral. Bing automaticky navrhuje vyhledávání na základě vyhledávání jiných lidí. To znamená, že mnoho uživatelů Bing Images hledá antisemitismus, rasismus, dětskou pornografii a sodomii. Jen při pomyšlení na to se budete cítit špinavě.
S tím se potýkaly i jiné společnosti. V roce 2016 Opatrovník všimli jste si, že byste mohli do Googlu zadat „jsou židé“ a navrhlo by to „jsou židé zlí“. Google tyto špatné návrhy dupl po jejich nahlášení, ale problém se znovu objevil. V roce 2018 Kabelové uvedl, že psaní „Hitler je“ do Googlu vedlo k „Hitler je můj hrdina“. Poté, co na ně byly upozorněny, musel Google tyto problémy opravit.
Dokonce i Apple Siri navrhoval, aby weby tlačily na konspirační weby a další falešné zprávy Zprávy Buzzfeed hlášeno. Apple musel opravit Siriho. Všichni jen pobíhají a hasí oheň, když se počítače učí špatné věci od špatných lidí.
Nyní je řada na Microsoftu. Microsoft má odpovědnost vyčistit Bing. Hlavní vyhledávač (a zejména ten, který se stále častěji stává těžší vypnutelným výchozím nastavením zabudovaným do systému Windows 10) by neměl svým uživatelům navrhovat hledání rasistických odpadků a obrázků nezletilých dětí.
Kredit obrázku: George GR /Shutterstock.com, fizkes /Shutterstock.com.
