Bing의 이미지 검색을 사용하면 상상할 수있는 최악의 오물을 보게 될 것입니다. Bing은 인종 차별적 용어를 제안하고 끔찍한 이미지를 보여줍니다. Bing은 세이프 서치를 비활성화 한 경우 착취 아동을 검색하도록 제안합니다.
우리는 의견을 위해 Microsoft에 연락했고 Microsoft의 수석 이사 인 Jeff Jones는 다음과 같은 진술을했습니다.
“저희는 불쾌감을주는 콘텐츠 문제를 매우 진지하게 생각하며 이러한 콘텐츠가 추천 검색으로 표시되지 않도록 식별하고 방지하기 위해 시스템을 지속적으로 개선하고 있습니다. 문제를 알게되는 즉시이를 해결하기위한 조치를 취합니다. "
최신 정보 : 게시 이후 Microsoft는 언급 한 공격적인 Bing 제안을 정리하기 위해 노력해 왔습니다. 조사 결과, 아래에서 언급 한 몇 가지를 포함하여 아직 수정되지 않은 기타 공격적인 제안이 많이 있습니다. 그들이 우리가 지적한 공격적인 항목을 단순히 수정하고 있는지 아니면 알고리즘을 개선하고 있는지 확실하지 않습니다.
노트 : 여기 스크린 샷은 시크릿 시크릿 브라우징 세션에서 미국 버전의 Bing 이미지 검색을 테스트하는이 글을 작성할 때 본 내용을 보여 주지만 Bing의 결과는 시간이 지남에 따라 달라집니다. 테스트에 따르면 Google에는 이러한 문제가 없었습니다. 이것은 검색 엔진 문제가 아니라 Bing 문제입니다. 동일한 문제가 Bing의 비디오 검색에 영향을줍니다.
첫째, Bing은 슈퍼 인종 차별 주의자가됩니다.
Bing Images에서 "유태인"을 검색하면 Bing이 "Evil Jew"를 검색하도록 제안합니다. 최고 결과에는 죽은 유대인을 기념하는 밈도 포함됩니다.
기본적으로 Bing의 SafeSearch 옵션이 활성화 된 경우에도이 모든 것이 나타납니다. Microsoft에 따르면 SafeSearch는 "검색 결과에서 성인용 콘텐츠를 차단"하도록 설계되었습니다.
이 추천 검색어를 클릭하면 '유대인은 사악하다', '사악한 유대인 인종', '유대인이 그렇게 사악한 이유'와 같은 더 많은 추천 검색어와 함께 인종 차별적이고 반유대적인 콘텐츠가 급증합니다.
우리 모두는이 쓰레기가 웹에 존재한다는 것을 알고 있지만 Bing이 검색 제안을 통해 사람들을이 쓰레기로 유도해서는 안됩니다.
"muslims are"를 입력하면 Bing은 자신이 악하거나 테러리스트라고 제안하거나 단순히 어리 석다고 제안합니다.
"흑인은있다"를 검색하면 Bing은 흑인이 추하고 어리 석고 인종 차별적이며 심지어 야만인이라고 제안합니다.
이렇게 계속해서 각 추천 검색을 클릭하고 더 나쁘고 더 나쁜 추천을 볼 수 있습니다. 예를 들어 "흑인은 어리 석다"를 클릭하면 "흑인은 쓸모가 없다"와 "흑인은 왜 그렇게 멍청한가"로 이어집니다. "흑인은 쓸모가 없다"를 클릭하면 "흑인은 빨아"와 "나는 흑인을 싫어한다"로 이어집니다.
Bing은 음모를 너무 밀어 붙입니다.
Bing의 이미지 검색은 개인을 검색 할 때도 모든 종류의 쓰레기를 토해냅니다. 이 문제는 Bing의 비디오 검색에도 적용됩니다.
Bing의 동영상 검색에서 'Michelle Obama'를 검색하면 가장 많이 추천되는 검색어 중 두 가지는 'Michelle Obama Transgender Proof'와 'Michelle Obama is a Man'입니다. 그것을 클릭하면 음모 비디오를 볼 수 있습니다.
이것이 Microsoft가 사람들이 Michelle Obama를 검색 할 때보기를 바라는 가장 중요한 것입니까?
세이프 서치는 포르노를 차단하지만 인종 차별은 차단하지 않습니다.
세이프 서치를 사용 중지하지 않는 한 불쾌감을주는 음란물 추천 및 이미지는 표시되지 않습니다. Microsoft는 SafeSearch가 검색 결과에서 성인용 콘텐츠를 차단한다고 말하지만 SafeSearch는 인종 차별이 아닌 음란물을 명확하게 필터링합니다.
세이프 서치는 기본적으로 활성화되어있어 Bing의 검색 결과가 한눈에 더보기 좋게 보입니다.
하지만 누구나 쉽게 세이프 서치를 사용 중지 할 수 있습니다. 검색 결과 오른쪽 상단에있는 '세이프 서치'옵션을 클릭하고 '끄기'를 선택하기 만하면됩니다. 그게 다야!
세이프 서치를 시행하도록 기업 네트워크를 구성 할 수 있으며 Microsoft는 복잡한 지침 단일 PC에서 SafeSearch를 시행합니다. 하지만 거의 모든 기기에서 누구나 클릭 두 번으로 세이프 서치를 사용 중지 할 수 있습니다.
최악의 경우, Bing은 미성년 아동의 이미지 검색을 제안합니다.
독자가 Bing에서 "grill"을 검색 할 때 오타가 있으면 정말 스케치 같은 포르노를 제공한다고 썼습니다. 문제는 훨씬 더 악화되고 Bing은 미성년 아동의 이미지를 검색 할 것을 제안합니다.
“gril”을 검색 할 때 페이지 상단의 제안은“Cute Girl Young 16”을 포함하여 몇 가지 불안한 것을 검색하도록 권장합니다.
그것을 클릭하면“귀여운 소녀 영 12”,“귀여운 소녀 영 10”,“도발적인 어린 소녀 모델링”이 제안됩니다.
결과는 젊어 보이는 모델의 포르노로 가득 차 있습니다. 모두 18 세 이상 이길 바라는데 누가 말할 수 있겠어요?
Bing은 단순한 오타에서 16 세 소녀, 10 세 소녀까지 길을 안내합니다. 역겨운 일입니다.
다른 예도 쉽게 찾을 수 있습니다. "치즈 피자"를 검색하면 4chan 속어 아동 포르노에 대해 Bing은 "치즈 피자 걸스"를 제안합니다.
Bing의 이미지 검색 결과가 너무 왜곡됨
여기에서는 추천 검색어에 초점을 맞추고 있지만 실제로 표시되는 이미지도 불편합니다.
이러한 검색 결과 중 일부에는 미성년자 나체 아동의 목욕 시간 사진이 포함되어 있습니다. 이러한 사진은 일반적으로 괜찮지 만 하드 코어 성인 포르노 이미지와 섞이면 검색 결과에 놀라움을 금치 못합니다.
Bing Images에서 "소녀"를 검색 할 때에도 "취한 소녀"를 검색하라는 제안과 수간 이미지가 하나 이상 있습니다.
"donkey"를 검색 할 때 Bing은 "Donkey Show Graphic"을 검색하도록 제안합니다. 그러면 수간 이미지로 가득 찬 결과가 표시됩니다. 수간 음란물의 소지는 불법 내가 사는 오레곤에서 그것은 Bing이 나를 불법 포르노로 이끌고 있다는 것을 의미합니다.
다시 말하지만 Bing의 검색 결과는 이상하고 왜곡되어 있습니다. Bing은 제안 된 검색보다 훨씬 더 크고 심오한 문제를 가지고 있지만 이러한 제안은 문제를 훨씬 더 악화시킵니다.
Bing이 음란물 검색 엔진으로 선택되었다고 들었습니다.하지만 사용자를 점점 더 극단적이고 방해가되며 잠재적으로 불법적 인 음란물로 이끌어서는 안됩니다.
Microsoft는 플랫폼을 조정해야합니다.
Microsoft는 Bing을 더 잘 조정해야합니다. 마이크로 소프트는 이전에 플랫폼을 만들어 세상에 공개 한 후 나빠지는 동안 무시했습니다.
우리는 이런 일이 계속해서 일어나는 것을 보았습니다. Microsoft 한 번 해방 Twitter의 Tay라는 챗봇. 이 챗봇은 다른 소셜 미디어 사용자로부터 알게 된 후 곧바로 나치로 변모하고 "히틀러가 옳았 어 나는 유대인이 싫어"라고 선언했습니다. 마이크로 소프트는 그것을 오프라인으로 만들어야했다.
이전에 Windows 8의 Store를 공개했습니다. 사기 앱의 cesspool이되었습니다. Microsoft가 Windows 8을 출시 한 후 앱 제출 중재를 중단 한 것처럼 보였습니다. 마이크로 소프트는이 문제가 드러난 후 Windows 10의 스토어에 더 많은 관심을 기울이고 있습니다.
이 문제는 플랫폼을 출시하는 모든 회사에 영향을 미칩니다. Google은 Google+를 포기했지만 Google+는 여전히 실행 중입니다. 그래서 ISIS는 Twitter와 Facebook에서 금지 된 후 Google+로 이전했습니다. 누군가가 눈치 채기까지 몇 달이 걸렸습니다. 언덕 했다. 지금 Google이 Google+를 종료합니다. 중요한 프라이버시 버그를 발견 한 후.
2013 년에, 수호자 Solid Gold Bomb이라는 의류 회사가 아마존에서“Keep Calm and Rape a Lot”셔츠를 판매하는 것으로 밝혀졌습니다. 알고리즘이이 셔츠를 생성했고 Amazon은 수동으로 셔츠를 제거해야했습니다.
Microsoft는 전 세계에서 플랫폼을 느슨하게하고 무시할 수 없습니다. Microsoft 및 Google과 같은 회사는 플랫폼을 조정하고 공포를 막을 책임이 있습니다.
제안에는 심각한 문제의 역사가 있습니다.
물론 Microsoft에서 이러한 제안을 선택하는 팀은 없습니다. Bing은 다른 사람의 검색을 기반으로 검색을 자동으로 제안합니다. 이는 많은 Bing Images 사용자가 반유대주의, 인종 차별, 아동 포르노 및 수간을 검색하고 있음을 의미합니다. 생각 만해도 더럽다.
다른 회사들도 이것으로 어려움을 겪었습니다. 2016 년에는 수호자 Google에 '유태인'이라고 입력하면 '유태인은 악하다'라는 메시지가 표시됩니다. Google은 이러한 나쁜 제안이보고 된 후이를 밟았지만 문제는 다시 나타났습니다. 2018 년 열광한 Google에 "Hitler is"를 입력하면 "Hitler는 나의 영웅입니다."라고보고했습니다. 구글도 이러한 문제를 지적한 후 수정해야했다.
Apple의 Siri조차도 웹 사이트가 음모 웹 사이트 및 기타 가짜 뉴스를 Buzzfeed 뉴스 보고되었습니다. 애플은 시리를 고쳐야했다. 컴퓨터가 나쁜 사람들로부터 나쁜 것을 배우면서 모두가 뛰어 다니며 불을 끄고 있습니다.
이제 Microsoft의 차례입니다. Microsoft는 Bing을 정리할 책임이 있습니다. 주요 검색 엔진 (특히 Windows 10에 내장 된 기본 검색 엔진이 점점 더 꺼지기 어려워 짐)은 사용자가 인종 차별적 쓰레기와 미성년 아동 이미지를 검색하도록 제안해서는 안됩니다.
이미지 크레딧 : 조지 GR /Shutterstock.com, Fizkes /Shutterstock.com.
