Ha Bing képkeresését használja, akkor a lehető legrosszabb mocskot fogja látni. Bing rasszista kifejezéseket javasol és borzalmas képeket mutat. A Bing még azt is javasolja, hogy keressen kizsákmányolt gyermekeket, ha le van tiltva a Biztonságos Keresés.
Megjegyzésért kerestük a Microsoftot, és Jeff Jones, a Microsoft vezető igazgatója a következő nyilatkozatot adta nekünk:
„A sértő tartalmat nagyon komolyan vesszük, és tovább fejlesztjük rendszereinket, hogy azonosítsuk és megakadályozzuk, hogy az ilyen tartalom javasolt keresésként jelenjen meg. Amint tudomást szerezünk egy kérdésről, lépéseket teszünk annak megoldására. ”
Frissítés : A közzététel óta a Microsoft azon dolgozik, hogy megtisztítsa az általunk említett támadó Bing-javaslatokat. Kutatásunk alapján még mindig sok más támadási javaslat van, amelyeket még nem javítottak, köztük néhányat, amelyeket az alábbiakban említettünk. Nem vagyunk biztosak abban, hogy egyszerűen javítják-e az általunk rámutatott sértő elemeket, vagy javítják-e az algoritmust.
Jegyzet: Az itt látható képernyőképek azt mutatják, amit akkor láttunk, amikor ezt a darabot írtuk, és teszteltük a Bing Image keresés amerikai verzióját egy inkognitó privát böngészési munkamenetben, de a Bing eredményei idővel változottak. Tesztjeink szerint a Google-nak nem volt ilyen problémája. Ez egy Bing probléma, nem csak a keresőmotor problémája. Ugyanez a probléma érinti Bing videó keresését.
Először: Bing szuper rasszistává válik
Keressen rá a „zsidók” kifejezésre a Bing Images-en, és a Bing azt javasolja, hogy keressen rá a „Gonosz zsidó” kifejezésre. A legjobb eredmények között szerepel egy mém is, amely úgy tűnik, hogy a halott zsidó embereket ünnepli.
Mindez akkor is megjelenik, ha a Bing SafeSearch opciója be van kapcsolva, alapértelmezés szerint. A Microsoft szerint a Biztonságos Keresés célja, hogy „felnőtteknek szóló tartalmakat ne jelenjen meg a keresési eredmények között”.
Erre a javasolt keresésre kattintva egy faj rasszista, antiszemita tartalom szabadul fel, további ajánlott keresésekkel, például „A zsidó emberek gonoszak”, „A gonosz zsidó fajok” és a „Miért olyan gonoszak a zsidók”.
Mindannyian tudjuk, hogy ez a szemét létezik az interneten, de a Bingnek nem kellene keresési javaslataival odavezetnie az embereket ehhez.
Írja be a „muszlimok” szót, és Bing azt sugallja, hogy gonoszok vagy terroristák, vagy egyszerűen csak ostobaságra utal.
Keressen rá a „fekete emberek” kifejezésre, és Bing azt sugallja, hogy a fekete emberek csúnyák, ostobák, rasszisták, sőt vadak.
Folytathatja így, kattintva az egyes javasolt keresésekre, és egyre rosszabb ajánlásokat láthat. Ha például a „Fekete emberek hülyék” gombra kattintanak, akkor a „Fekete emberek haszontalanok” és a „Miért olyan buták a fekete emberek” elemre vezet. Ha a „Fekete emberek haszontalanok” gombra kattintanak, a „Fekete emberek szívnak” és az „Utálom a fekete embereket” elemre vezet.
A Bing is összeesküvéseket tol
Bing képkeresése mindenféle szemetet hány, még egyének keresésekor is. Ez a probléma kiterjed a Bing videó keresésére is.
Keressen rá a „Michelle Obama” kifejezésre Bing videokeresésében, és a leggyakrabban javasolt keresések közül kettő a „Michelle Obama transznemű bizonyíték” és a „Michelle Obama férfi. Kattintson erre, és meglátja az összeesküvés-videókat.
Ez a legfontosabb dolog, amit a Microsoft azt akar, hogy az emberek lássák, amikor Michelle Obamára keresnek?
A SafeSearch blokkolja a pornót, de nem a rasszizmust
A zavaró pornográf javaslatok és képek csak akkor jelennek meg, ha letiltja a Biztonságos Keresést. Míg a Microsoft szerint a Biztonságos Keresés megakadályozza a felnőtteknek szóló tartalmakat a keresési eredmények között, a Biztonságos Keresés egyértelműen a pornográfiát és nem a rasszizmust szűri.
A Biztonságos keresés alapértelmezés szerint engedélyezve van, így a Bing keresési eredményei első pillantásra tiszteletre méltóbbnak tűnnek.
Mindazonáltal bárki - még a gyermekek is - könnyen letilthatja a Biztonságos Keresést. Valakinek csak annyit kell tennie, hogy a keresési eredmények jobb felső sarkában kattintson a „Biztonságos keresés” lehetőségre, és válassza a „Ki” lehetőséget. Ez az!
A vállalati hálózatot be lehet állítani a SafeSearch kényszerítésére, és a Microsoft még biztosítja is összetett utasítások a SafeSearch egyetlen számítógépen történő érvényesítéséért. De szinte bármilyen eszközön bárki letilthatja a Biztonságos Keresést két kattintással.
A legrosszabb, hogy Bing azt javasolja, hogy keressenek kiskorú gyermekek képeit
Egy olvasó azt írta nekünk, hogy a gépelési hiba, amikor Bing „grill” -re keres, valóban vázlatos pornót ad. Ezután a probléma sokkal súlyosbodik, Bing azt javasolja, hogy keressen képeket kiskorú gyermekekről.
Amikor a „gril” kifejezésre keres, az oldal tetején található javaslatok azt javasolják, hogy keressen néhány zavaró dologra, például az „Aranyos lány, fiatal 16.”
Ha rákattintasz, azt javasolja, hogy „Aranyos lány fiatal 12”, „Aranyos lány fiatal 10” és „Kicsi lány provokatívan modellezzen”.
Az eredmények tele vannak fiatal kinézetű modellek pornográfiájával. Reméljük, hogy mind 18 évesek vagy idősebbek, de ki tudja megmondani?
A Bing egy egyszerű elírástól a 16 éves lányoktól a 10 éves lányokig vezet utat, és ez undorító.
Más példákat is könnyű megtalálni. Ha a „sajtos pizza” kifejezésre keres, ami 4 kan szleng gyermekpornográfia céljából Bing javasolja a „Cheese Pizza Girls” -t.
Bing képkeresési eredményei is csavartak
Míg itt a keresési javaslatokra összpontosítunk, a tényleges megjelenő képek is zavaróak.
Ezen keresési eredmények egy része mezítelen kiskorú gyermekek fürdőidejű fényképeit tartalmazza. Ezek a fotók rendben rendben lennének, de amikor keverednek a kemény pornó pornográf képeivel, az eredményül kapott keresési eredmények riasztóak.
Még akkor is, amikor a Bing Images-ben a „lány” kifejezésre kerestük, láttunk egy javaslatot a „részeg lányok” keresésére és legalább egy állatiasság-képre.
Amikor a „szamár” kifejezésre keres, Bing azt javasolja, hogy keresse meg a „Donkey Show Graphic” kifejezést, amely állatiassági képekkel teli eredményekhez vezet. Az állatiassági pornográfia birtoklása illegális Oregonban, ahol élek. Ez azt jelenti, hogy Bing az illegális pornográfiához vezet.
Ismét: Bing keresési eredményei furcsák és csavartak. A Bingnek sokkal nagyobb, mélyebb problémája van, mint a javasolt keresések, bár ezek a javaslatok sokkal súlyosbítják a problémát.
Hallottuk, hogy a Bing a pornográfia által választott keresőmotor, de nem vezetheti a felhasználóit egyre szélsőségesebb, zavaróbb és potenciálisan illegális pornográfiához.
A Microsoftnak moderálnia kell a platformjait
A Microsoftnak jobban kell mérsékelnie a Binget. A Microsoft korábban platformokat hozott létre, felszabadította őket a világban, és figyelmen kívül hagyta őket, miközben rosszul fordultak
Láttuk, hogy ez újra és újra megtörténik. A Microsoft egyszer elszabadult Tay nevű chatbot a Twitteren. Ez a chatbot gyorsan nácivá vált, és kijelentette: „Hitlernek igaza van, utálom a zsidókat”, miután megtudta más közösségi média felhasználóktól. A Microsoftnak offline állapotban kellett húznia.
Korábban kitettük a Windows 8 Store-ját, amely az átverő alkalmazások gyűjtőhelye lett miután a Microsoft elindította a Windows 8-at, és úgy tűnt, hogy leállítja az alkalmazás-beküldések moderálását. Miután a probléma kiderült, a Microsoft nagyobb figyelmet fordított a Windows 10 áruházára.
Ez a probléma minden olyan vállalatot érint, amely platformot indít. A Google feladta a Google+ szolgáltatást, de a Google+ továbbra is működik. Tehát az ISIS vándorolt a Google+ szolgáltatásba, miután kitiltották a Twitterről és a Facebookról. Hónapokig tartott, mire bárki észrevette, amíg A domb tette. Most A Google bezárja a Google+ szolgáltatást miután felfedeztek egy jelentős adatvédelmi hibát.
2013-ban, Az őrző talált egy ruházati céget, amely a Solid Gold Bomb nevet kapta. Egy algoritmus hozta létre ezeket az ingeket, és az Amazonnak kézzel kellett eltávolítania őket.
A Microsoft nem csak egy platformot szabadon engedhet a világon, és figyelmen kívül hagyhatja azt. Az olyan vállalatok, mint a Microsoft és a Google, felelősek azért, hogy moderálják platformjaikat és távol tartsák a borzalmat.
A javaslatoknak már vannak súlyos problémáik
Természetesen a Microsoftnál nincs olyan csapat, amely ezeket a javaslatokat választaná. Bing automatikusan kereséseket javasol mások keresései alapján. Ez azt jelenti, hogy a Bing Images sok felhasználó antiszemitizmust, rasszizmust, gyermekpornográfiát és állatiasságot keres. Ha csak belegondol, piszkosnak érzi magát.
Más vállalatok is küzdöttek ezzel. 2016-ban Az őrző észrevette, hogy beírhatja az „are jews” kifejezést a Google-be, és ez azt sugallja, hogy a „jewdews gonosz”. A Google megtapasztalta ezeket a rossz javaslatokat, miután jelentették őket, de a probléma újra előkerült. 2018-ban Vezetékes arról számolt be, hogy a „Hitler van” beírása a Google-ba „Hitler az én hősöm” -hez vezetett. A Google-nek meg kellett oldania ezeket a problémákat, miután rájuk is felhívták a figyelmet.
Még az Apple Siri is javasolta, hogy az összeesküvés-webhelyek és egyéb hamis hírek nyomják az as Buzzfeed News számolt be. Az Apple-nek meg kellett javítania a Sirit. Mindenki csak rohangál és tüzet olt, mivel a számítógép rossz emberektől tanul rossz dolgokat.
Most a Microsofton a sor. A Microsoft feladata a Bing megtisztítása. Egy nagy keresőmotor (és különösen az, amely egyre nehezebben kapcsolható alapértelmezetté válik a Windows 10-be beépítve) nem javasolhatja felhasználóinak rasszista szemét és kiskorú gyermekek képeinek keresését.
Kép jóváírása: George GR /Shutterstock.com, pezsgő /Shutterstock.com.
