Якщо ви використовуєте пошук зображень Bing, ви побачите найгіршу бруд, яку ви можете собі уявити. Бінг пропонує расистські терміни і демонструє жахливі образи. Бінг навіть запропонує вам шукати експлуатованих дітей, якщо у вас відключений Безпечний пошук.
Ми зв’язалися з Microsoft для коментарів, і Джефф Джонс, старший директор Microsoft, дав нам таку заяву:
«Ми дуже серйозно ставимося до питань образливого вмісту і продовжуємо вдосконалювати наші системи для виявлення та запобігання появі такого вмісту як запропонований пошук. Як тільки нам стає відомо про проблему, ми вживаємо заходів для її вирішення ".
Оновлення : З моменту публікації Microsoft працює над очищенням образливих пропозицій Bing, про які ми згадали. На підставі нашого дослідження є ще багато інших образливих припущень, які ще не виправлені, у тому числі кілька, про які ми згадали нижче. Ми не впевнені, чи вони просто виправляють образливі предмети, на які ми вказали, чи вдосконалюють алгоритм.
Примітка: На скріншотах тут показано те, що ми бачили, коли писали цей матеріал, тестуючи американську версію пошуку зображень Bing під час приватного перегляду в режимі анонімного перегляду, але результати Bing з часом змінюються. Згідно з нашими тестами, у Google не було жодної з цих проблем. Це проблема Bing, а не просто проблема пошукової машини. Ця ж проблема впливає на пошук відео Bing.
По-перше, Бінг отримує суперрасиста
Пошук “євреїв” на Bing Images, і Bing пропонує шукати “Злий єврей”. Серед найкращих результатів також мем, який, схоже, святкує мертвих євреїв.
Все це з’являється навіть тоді, коли параметр Безпечний пошук Bing увімкнено, оскільки це за замовчуванням. Безпечний пошук розроблений, щоб "допомогти уникнути вмісту для дорослих поза результатами пошуку", повідомляє Microsoft.
Натискання цього запропонованого пошуку розв’язує потік расистського, антисемітського змісту, а також пропонується більше пошукових запитів, таких як «Євреї - це зло», «Зла єврейська раса» та «Чому євреї такі злі».
Ми всі знаємо, що це сміття існує в Інтернеті, але Bing не повинен вести людей до нього своїми пропозиціями щодо пошуку.
Наберіть "мусульмани", і Бінг припустить, що вони злі чи терористи, або просто припустить, що вони дурні.
Шукайте “чорні люди”, і Бінг припустить, що чорні люди потворні, дурні, расистські і навіть дикуни.
Ви можете продовжувати рухатись так, натискаючи кожен запропонований пошук і бачити гірші та гірші рекомендації. Наприклад, натискання кнопки «Чорні люди дурні» призводить до «Чорношкірі люди марні» та «Чому чорношкірі люди такі німі». Натискання кнопки "Чорношкірі люди марні" призводить до "Чорношкірі смоктати" і "Я ненавиджу чорношкірих людей".
Bing штовхає змови, теж
Пошук зображень Бінга виригує всілякі сміття, навіть коли шукає людей. Ця проблема також поширюється на пошук відео Bing.
Шукайте "Мішель Обама" у пошуку відео Bing, і два з найкращих пошукових запитів - "Доказ трансгендерності Мішель Обами" та "Мішель Обама - людина". Клацніть на нього, і ви побачите змовні відео.
Це головне, що Microsoft хоче, щоб люди бачили, коли шукають Мішель Обаму?
Безпечний пошук блокує порно, але не расизм
Тривожні пропозиції та зображення порнографії не відображаються, якщо ви не вимкнете Безпечний пошук. Незважаючи на те, що Microsoft запевняє, що Безпечний пошук не дозволить вміст для дорослих потрапляти з результатів пошуку, Безпечний пошук чітко фільтрує порнографію, а не расизм.
Безпечний пошук увімкнено за замовчуванням, що робить результати пошуку Bing на перший погляд більш респектабельними.
Однак вимкнути Безпечний пошук можна будь-кому - навіть дітям. Все, що потрібно зробити, це натиснути опцію «Безпечний пошук» у верхньому правому куті результатів пошуку та вибрати «Вимкнено». Це воно!
Корпоративна мережа може бути налаштована для забезпечення Безпечного пошуку, а Microsoft навіть надає складні інструкції для забезпечення Безпечного пошуку на одному ПК. Але майже на будь-якому пристрої кожен може вимкнути Безпечний пошук двома кліками.
Найгірше за все, Bing пропонує пошук зображень неповнолітніх дітей
Читач написав, щоб повідомити нам, що друкарська помилка під час пошуку Bing на тему «гриль» дає вам справді схематичне порно. Потім проблема стає набагато гіршою, і Бінг пропонує вам шукати зображення неповнолітніх дітей.
Шукаючи “gril”, пропозиції у верхній частині сторінки рекомендують шукати деякі тривожні речі, зокрема “Cute Girl Young 16.”
Якщо натиснути на нього, буде запропоновано "Мила дівчинка молода 12", "Мила дівчинка молода 10" і "Маленька дівчинка провокаційно моделює".
Результати наповнені порнографією молодих на вигляд моделей. Ми сподіваємось, їм усі 18 років і старше, але хто може сказати?
Бінг веде вас шляхом від простої друкарської помилки до 16-річних дівчаток до 10-річних дівчат, і це огидно.
Інші приклади теж легко знайти. Якщо ви шукаєте "сирну піцу", яка становить 4 кани жаргон для дитячої порнографії Бінг пропонує "Дівчата з піцею з сиром".
Результати пошуку зображень Bing теж скручені
Поки ми зосереджуємось на пошукових пропозиціях тут, фактичні зображення, що з’являються, також турбують.
Деякі з цих результатів пошуку містять фотографії оголених неповнолітніх дітей під час купання. Як правило, ці фотографії будуть чудовими, але коли їх змішують із зображеннями жорсткої порнографії для дорослих, результати пошуку викликають тривогу.
Навіть під час пошуку Bing Images за “дівчиною” ми побачили пропозицію шукати “п’яних дівчат” і принаймні одне зображення звірини.
Шукаючи "віслюк", Бінг пропонує шукати "Графічний показ осла", що призводить до результатів, наповнених звіриними образами. Володіння звіриною порнографією є незаконний в Орегоні, де я живу. Це означає, що Бінг веде мене до незаконної порнографії.
Знову ж таки: результати пошуку Bing дивні та покручені. Bing має набагато більшу, глибшу проблему, ніж просто запропоновані пошуки, хоча ці пропозиції значно погіршують проблему.
Ми чули, що Bing є найкращим пошуковим механізмом для порнографії, але він не повинен вести своїх користувачів до все більш екстремальних, тривожних та потенційно незаконних порнографічних зображень.
Microsoft повинен модерувати свої платформи
Microsoft повинна краще модерувати Bing. Раніше Microsoft створювала платформи, розв’язувала їх у всьому світі та ігнорувала, поки вони поводились погано
Ми бачили, як це траплялося знову і знову. Microsoft один раз розв’язаний чат-бот на ім'я Тей у Twitter. Цей чат-бот швидко перетворився на нациста і заявив: "Гітлер мав рацію, я ненавиджу євреїв", дізнавшись від інших користувачів соціальних мереж. Корпорація Майкрософт повинна була вивести її з мережі.
Раніше ми виставляли Магазин Windows 8, який став вигрібною ямою шахрайських програм після того, як Microsoft запустила Windows 8 і, здавалося, перестала модерувати подання додатків. Після виявлення цієї проблеми корпорація Майкрософт приділяла більше уваги магазину Windows 10.
Ця проблема стосується кожної компанії, яка запускає платформу. Google відмовився від Google+, але Google+ все ще працює і працює. Тож ISIS перейшов на Google+ після заборони доступу до Twitter та Facebook. Минули місяці, щоб хтось навіть помітив це Пагорб зробив. Зараз Google закриває Google+ після того, як вони виявили значну помилку конфіденційності.
У 2013 році Опікун знайшов компанію з виробництва одягу під назвою Solid Gold Bomb було знайдено, що продає на Amazon сорочки "Зберігай спокій і зґвалтуй багато". Алгоритм створив ці сорочки, і Amazon довелося їх видаляти вручну.
Microsoft не може просто розпустити платформу для світу та ігнорувати її. Такі компанії, як Microsoft та Google, несуть відповідальність за модерування своїх платформ та утримання жаху.
Пропозиції мають історію серйозних проблем
Звичайно, в Microsoft немає команди людей, які б обирали ці пропозиції. Bing автоматично пропонує пошук на основі пошукових запитів інших людей. Це означає, що багато користувачів Bing Images шукають антисемітизм, расизм, дитячу порнографію та скотину. Одні тільки думки про це змушують вас почуватися брудно.
З цим боролись і інші компанії. У 2016 році Опікун Ви помітили, що ви можете ввести в Google "євреї", і це запропонує "євреї злі". Google видавив ці погані пропозиції після того, як про них повідомили, але проблема знову з’явилася. У 2018 році Дротова повідомляв, що введення в Google слова "Гітлер є" призвело до "Гітлер - мій герой". Google повинен був усунути ці проблеми після того, як на них також було вказано.
Навіть компанія Apple від Siri пропонувала веб-сайти, що підштовхували веб-сайти про змову та інші фейкові новини Новини Buzzfeed повідомляється. Apple довелося виправити Siri. Усі просто бігають і гасять пожежі, коли комп’ютери дізнаються погані речі від поганих людей.
Тепер черга Microsoft. Microsoft несе відповідальність за очищення Bing. Основна пошукова система (і особливо та, яка все частіше стає важче вимкнутим за замовчуванням, вбудованим у Windows 10), не повинна пропонувати своїм користувачам шукати расистське сміття та зображення неповнолітніх дітей.
Кредит зображення: Георгій ГР /Shutterstock.com, fizkes /Shutterstock.com.
