Se você usar a pesquisa de imagens do Bing, verá a pior sujeira que pode imaginar. Bing sugere termos racistas e mostra imagens horripilantes. O Bing irá até sugerir que você pesquise crianças exploradas se o SafeSearch estiver desativado.
Entramos em contato com a Microsoft para comentar, e Jeff Jones, Diretor Sênior da Microsoft, nos deu a seguinte declaração:
“Levamos muito a sério questões de conteúdo ofensivo e continuamos a aprimorar nossos sistemas para identificar e evitar que tal conteúdo apareça como uma sugestão de pesquisa. Assim que tomamos conhecimento de um problema, tomamos medidas para resolvê-lo. ”
Atualizar : Desde a publicação, a Microsoft tem trabalhado para limpar as sugestões ofensivas do Bing que mencionamos. Com base em nossa pesquisa, ainda existem muitas outras sugestões ofensivas que ainda não foram corrigidas, incluindo algumas que mencionamos abaixo. Não temos certeza se eles estão simplesmente corrigindo os itens ofensivos que apontamos ou se estão melhorando o algoritmo.
Nota: As capturas de tela aqui mostram o que vimos quando escrevemos esta peça testando a versão dos EUA da pesquisa de imagens do Bing em uma sessão de navegação privada anônima, mas os resultados do Bing mudam com o tempo. O Google não teve nenhum desses problemas, de acordo com nossos testes. Este é um problema do Bing, não apenas um problema de mecanismo de pesquisa. O mesmo problema afeta a pesquisa de vídeos do Bing.
Primeiro, Bing fica super racista
Pesquise “judeus” no Bing Images e o Bing sugere que você pesquise “Judeu malvado”. Os principais resultados também incluem um meme que parece celebrar judeus mortos.
Tudo isso aparece mesmo quando a opção SafeSearch do Bing está habilitada, pois é por padrão. O SafeSearch foi projetado para “ajudar a manter o conteúdo adulto fora de seus resultados de pesquisa”, de acordo com a Microsoft.
Clicar nesta pesquisa sugerida desencadeia uma torrente de conteúdo racista e anti-semita, com mais pesquisas sugeridas como "O povo judeu é mau", "A raça judaica do mal" e "Por que os judeus são tão maus".
Todos nós sabemos que esse lixo existe na web, mas o Bing não deveria levar as pessoas a ele com suas sugestões de pesquisa.
Digite “muçulmanos são” e Bing irá sugerir que eles são malvados ou terroristas, ou simplesmente sugerirá que eles são estúpidos.
Procure por “negros são” e o Bing irá sugerir que negros são feios, estúpidos, racistas e até selvagens.
Você pode continuar assim, clicando em cada pesquisa sugerida e vendo recomendações cada vez piores. Por exemplo, clicar em “Os negros são estúpidos” leva a “Os negros são inúteis” e “Por que os negros são tão estúpidos”. Clicar em “Black People Areeless” leva a “Black People Suck” e “I Hate Black People”.
Bing também empurra conspirações
A busca de imagens do Bing vomita todo tipo de lixo, mesmo quando está procurando por indivíduos. Esse problema também se estende à pesquisa de vídeo do Bing.
Pesquise “Michelle Obama” na pesquisa de vídeos do Bing e duas das principais pesquisas sugeridas são “Michelle Obama Transgender Proof” e “Michelle Obama is a Man”. Clique nele e você verá vídeos de conspiração.
É esta a principal coisa que a Microsoft deseja que as pessoas vejam quando procurarem Michelle Obama?
O SafeSearch bloqueia a pornografia, mas não o racismo
As imagens e sugestões de pornografia perturbadoras não são exibidas, a menos que você desative o SafeSearch. Embora a Microsoft diga que o SafeSearch manterá o conteúdo adulto fora de seus resultados de pesquisa, o SafeSearch está claramente filtrando pornografia e não racismo.
O SafeSearch é habilitado por padrão, o que torna os resultados de pesquisa do Bing mais respeitáveis à primeira vista.
No entanto, é fácil para qualquer pessoa, até mesmo crianças, desativar o SafeSearch. Tudo o que alguém precisa fazer é clicar na opção “SafeSearch” no canto superior direito dos resultados da pesquisa e selecionar “Desativar”. É isso aí!
Uma rede corporativa pode ser configurada para aplicar o SafeSearch, e a Microsoft ainda fornece instruções complexas para aplicar o SafeSearch em um único PC. Mas, em quase todos os dispositivos, qualquer pessoa pode desativar o SafeSearch com dois cliques.
Pior de tudo, o Bing sugere a pesquisa de imagens de crianças menores de idade
Um leitor escreveu para nos dizer que um erro de digitação ao pesquisar "grill" no Bing resulta em pornografia realmente incompleta. O problema então se torna muito pior, com o Bing sugerindo que você procure imagens de crianças menores de idade.
Ao pesquisar "gril", as sugestões no topo da página recomendam que você pesquise algumas coisas perturbadoras, incluindo "Cute Girl Young 16."
Se você clicar nele, sugere "Cute Girl Young 12", "Cute Girl Young 10" e "Little Girl Modeling Provocively".
Os resultados estão repletos de pornografia de modelos de aparência jovem. Esperamos que todos tenham 18 anos ou mais, mas quem pode dizer?
O Bing leva você por um caminho de um erro de digitação simples para meninas de 16 anos de idade para meninas de 10 anos, e é nojento.
Outros exemplos também são fáceis de encontrar. Se você pesquisar "pizza de queijo", que é 4chan calão para pornografia infantil, Bing sugere "Cheese Pizza Girls".
Os resultados da pesquisa de imagens do Bing também estão distorcidos
Embora estejamos nos concentrando nas sugestões de pesquisa aqui, as imagens reais que aparecem também são perturbadoras.
Alguns desses resultados de pesquisa contêm fotos na hora do banho de menores nus. Essas fotos normalmente seriam adequadas, mas quando elas são misturadas com imagens de pornografia adulta hardcore, os resultados da pesquisa resultantes são alarmantes.
Mesmo ao pesquisar no Bing Imagens por “garota”, vimos a sugestão de pesquisar “garotas bêbadas” e pelo menos uma imagem de bestialidade.
Ao pesquisar “donkey”, o Bing sugere que você pesquise “Donkey Show Graphic”, que leva a resultados cheios de imagens de bestialidade. A posse de pornografia bestialidade é ilegal em Oregon, onde moro. Isso significa que o Bing está me levando à pornografia ilegal.
Novamente: os resultados da pesquisa do Bing são estranhos e distorcidos. O Bing tem um problema muito maior e mais profundo do que apenas pesquisas sugeridas, embora essas sugestões tornem o problema muito pior.
Ouvimos dizer que o Bing é o mecanismo de busca preferido para pornografia, mas ele não deveria levar seus usuários a pornografia cada vez mais extrema, perturbadora e potencialmente ilegal.
A Microsoft precisa moderar suas plataformas
A Microsoft precisa moderar o Bing melhor. A Microsoft já criou plataformas, liberou-as no mundo e as ignorou enquanto se tornavam ruins
Nós vimos isso acontecer repetidamente. Microsoft uma vez desencadeado um chatbot chamado Tay no Twitter. Este chatbot rapidamente se tornou um nazista e declarou “Hitler estava certo, eu odeio os judeus” depois que soube de outros usuários de mídia social. A Microsoft teve que colocá-lo offline.
Anteriormente, expusemos a Loja do Windows 8, que tornou-se uma fossa de aplicativos fraudulentos depois que a Microsoft lançou o Windows 8 e pareceu parar de moderar os envios de aplicativos. A Microsoft tem prestado mais atenção à Loja do Windows 10 depois que esse problema foi exposto.
Esse problema afeta todas as empresas que lançam uma plataforma. O Google desistiu do Google+, mas o Google+ ainda está funcionando. Portanto, o ISIS migrou para o Google+ após ser banido do Twitter e do Facebook. Demorou meses para alguém perceber até A colina fez. Agora Google está fechando Google+ depois de descobrirem um bug de privacidade significativo.
Em 2013, O guardião descobriram que uma empresa de roupas chamada Solid Gold Bomb vendia camisetas "Keep Calm and Rape a Lot" na Amazon. Um algoritmo gerou essas camisas e a Amazon teve que removê-las manualmente.
A Microsoft não pode simplesmente soltar uma plataforma no mundo e ignorá-la. Empresas como a Microsoft e o Google têm a responsabilidade de moderar suas plataformas e manter o horror sob controle.
As sugestões têm um histórico de problemas sérios
Claro, não há nenhuma equipe na Microsoft escolhendo essas sugestões. O Bing sugere pesquisas automaticamente com base nas pesquisas de outras pessoas. Isso significa que muitos usuários do Bing Images estão procurando por antissemitismo, racismo, pornografia infantil e bestialidade. Só de pensar nisso você se sente sujo.
Outras empresas também têm lutado contra isso. Em 2016, O guardião notei que você pode digitar "são judeus" no Google e isso sugere "são judeus maus". O Google descartou essas sugestões ruins depois que foram relatadas, mas o problema reapareceu. Em 2018, Com fio relataram que digitar “Hitler é” no Google levava a “Hitler é meu herói”. O Google também teve que consertar esses problemas depois que eles foram apontados.
Até mesmo o Siri da Apple sugeriu que sites divulgaram sites de conspiração e outras notícias falsas, como Notícias Buzzfeed relatado. A Apple teve que consertar o Siri. Todo mundo está apenas correndo e apagando incêndios enquanto os computadores aprendem coisas ruins com pessoas ruins.
Agora é a vez da Microsoft. A Microsoft tem a responsabilidade de limpar o Bing. Um grande mecanismo de pesquisa (e especialmente aquele que está se tornando cada vez mais um padrão mais difícil de desativar integrado ao Windows 10) não deve estar sugerindo que seus usuários pesquisem lixo racista e imagens de crianças menores de idade.
Crédito da imagem: George GR /Shutterstock.com, fake /Shutterstock.com.
