Bing'in görsel aramasını kullanırsanız, hayal edebileceğiniz en kötü pisliği göreceksiniz. Bing, ırkçı terimler önerir ve korkunç görüntüler gösterir. Hatta, Güvenli Arama'yı devre dışı bıraktıysanız, Bing istismar edilmiş çocukları aramanızı bile önerecektir.
Yorum için Microsoft ile iletişime geçtik ve Microsoft Kıdemli Direktörü Jeff Jones bize şu ifadeyi verdi:
"Rahatsız edici içerik konularını çok ciddiye alıyoruz ve bu tür içeriğin önerilen bir arama olarak görünmesini belirlemek ve önlemek için sistemlerimizi geliştirmeye devam ediyoruz. Bir sorunun farkına varır varmaz, onu çözmek için harekete geçeriz. "
Güncelleme : Microsoft, yayından beri bahsettiğimiz saldırgan Bing önerilerini temizlemek için çalışıyor. Araştırmamıza dayanarak, aşağıda bahsettiğimiz birkaç tanesi de dahil olmak üzere henüz düzeltilmemiş birçok başka saldırgan öneri var. Belirttiğimiz saldırgan öğeleri basitçe düzeltip düzeltmediklerinden veya algoritmayı iyileştirip geliştirmediklerinden emin değiliz.
Not: Buradaki ekran görüntüleri, bir Gizli özel göz atma oturumunda Bing Görsel aramasının ABD sürümünü test eden bu parçayı yazdığımızda gördüklerimizi gösteriyor, ancak Bing'in sonuçları zamanla değişiyor. Testlerimize göre Google'da bu sorunların hiçbiri yoktu. Bu bir Bing sorunu, yalnızca bir arama motoru sorunu değil. Aynı sorun Bing’in video aramasını da etkiler.
Birincisi, Bing Süper Irkçı Oldu
Bing Images'da "yahudiler" araması yapın ve Bing, "Evil Jew" ı aramanızı önerir. En iyi sonuçlar, ölü Yahudi halkını kutlayan bir memeyi de içeriyor.
Tüm bunlar, varsayılan olarak olduğu gibi, Bing'in Güvenli Arama seçeneği etkinleştirildiğinde bile görünür. Microsoft'a göre Güvenli Arama, "yetişkinlere yönelik içeriği arama sonuçlarınızın dışında tutmaya yardımcı olmak" için tasarlanmıştır.
Önerilen bu aramayı tıklamak, "Yahudi İnsanlar Kötüdür", "Kötü Yahudi Irkı" ve "Yahudiler Neden Bu Kadar Kötü?"
Hepimiz bu çöpün web'de var olduğunu biliyoruz, ancak Bing insanları arama önerileriyle buraya yönlendirmemeli.
"Müslümanlar" yazın ve Bing onların kötü veya terörist olduklarını veya aptal olduklarını öne sürsün.
"Siyah insanlar" diye aradığınızda Bing, siyahların çirkin, aptal, ırkçı ve hatta vahşi olduğunu öne sürecek.
Bu şekilde devam edebilir, önerilen her bir aramayı tıklayabilir ve daha kötü ve daha kötü öneriler görebilirsiniz. Örneğin, "Siyahlar Aptal" ı tıklamak, "Siyahlar İşe Yaramaz" ve "Siyahlar Neden Bu Kadar Aptaldır?" "Siyahlar İşe Yaramaz" ı tıklamak, "Siyahlar Suck" ve "Siyahlardan Nefret Ediyorum" mesajlarına yol açar.
Bing Komploları Çok Zorluyor
Bing’in görsel araması, bireyleri ararken bile her türlü çöpü kusar. Bu sorun, Bing’in video aramasını da kapsar.
Bing'in video aramasında "Michelle Obama" yı arayın ve önerilen en çok iki arama "Michelle Obama Transseksüel Kanıtı" ve "Michelle Obama bir Adamdır". Bunu tıkladığınızda komplo videolarını göreceksiniz.
Bu, Microsoft'un Michelle Obama'yı ararken görmelerini istediği en önemli şey mi?
Güvenli Arama Pornoyu Engelliyor, Ama Irkçılığı Değil
Rahatsız edici pornografi önerileri ve resimler, Güvenli Arama'yı devre dışı bırakmadığınız sürece gösterilmez. Microsoft, Güvenli Arama'nın yetişkinlere yönelik içeriği arama sonuçlarınızın dışında tutacağını söylese de, Güvenli Arama ırkçılığı değil, pornografiyi açıkça filtreliyor.
Güvenli Arama varsayılan olarak etkindir ve bu, Bing’in arama sonuçlarının ilk bakışta daha saygın görünmesini sağlar.
Ancak, Güvenli Arama'yı devre dışı bırakmak herkes, hatta çocuklar için kolaydır. Bir kişinin yapması gereken tek şey, arama sonuçlarının sağ üst köşesindeki "Güvenli Arama" seçeneğini tıklayıp "Kapalı" yı seçmektir. Bu kadar!
Kurumsal bir ağ, Güvenli Arama'yı zorunlu kılacak şekilde yapılandırılabilir ve hatta Microsoft, karmaşık talimatlar Güvenli Arama'yı tek bir bilgisayarda uygulamak için. Ancak, hemen hemen her cihazda, herkes Güvenli Arama'yı iki tıklamayla devre dışı bırakabilir.
En Kötüsü, Bing Küçük Yaştaki Çocukların Görüntülerini Aramayı Öneriyor
Bir okuyucu, Bing'de "ızgara" için arama yaparken bir yazım hatasının size gerçekten kabataslak porno verdiğini yazdı. Bing, reşit olmayan çocukların resimlerini aramanızı önerdiğinden, sorun daha da kötüleşir.
"Gril" kelimesini ararken, sayfanın üst kısmındaki öneriler, "Genç Sevimli Kız 16." da dahil olmak üzere bazı rahatsız edici şeyleri aramanızı önerir.
Bunu tıklarsanız, "Genç Sevimli Kız 12", "Sevimli Kız Genç 10" ve "Küçük Kız Kışkırtıcı Modelleme" seçeneklerini önerir.
Sonuçlar genç görünümlü modellerin pornografisiyle doludur. Umarız 18 yaşında veya daha büyüktür, ama kim söyleyebilir?
Bing sizi basit bir yazım hatasından 16 yaşındaki kızlara ve 10 yaşındaki kızlara kadar uzanan bir yola götürür ve bu iğrençtir.
Diğer örnekleri bulmak da kolaydır. 4chan olan "peynirli pizza" ararsanız argo Bing, çocuk pornografisi için "Cheese Pizza Girls" öneriyor.
Bing’in Görsel Arama Sonuçları Çok Çarpık
Burada arama önerilerine odaklanırken, görünen gerçek görüntüler de rahatsız edicidir.
Bu arama sonuçlarından bazıları, reşit olmayan çıplak çocukların banyo fotoğrafları içerir. Bu fotoğraflar normalde iyi olur, ancak sert yetişkin pornografisi resimleriyle karıştırıldıklarında ortaya çıkan arama sonuçları endişe vericidir.
Bing Görseller'de "kız" araması yaparken bile, "sarhoş kızlar" için arama önerisi ve en az bir hayvanlarla cinsel ilişki resmi gördük.
Bing, "eşek" için arama yaparken, "Eşek Gösterisi Grafiği" ni aramanızı önerir, bu da hayvanlarla ilgili görüntülerle dolu sonuçlara götürür. Hayvanlarla cinsel ilişki pornografisine sahip olmak yasadışı Oregon, yaşadığım yerde. Bu, Bing'in beni yasadışı pornografiye yönlendirdiği anlamına geliyor.
Tekrar söylüyorum: Bing’in arama sonuçları tuhaf ve çarpık. Bing, önerilen aramalardan çok daha büyük, daha derin bir soruna sahiptir, ancak bu öneriler sorunu çok daha kötü hale getirir.
Bing'in pornografi için tercih edilen arama motoru olduğunu duyduk, ancak kullanıcılarını giderek daha aşırı, rahatsız edici ve potansiyel olarak yasa dışı pornografiye yönlendirmemesi gerekiyor.
Microsoft'un Platformlarını Yönetmesi Gerekiyor
Microsoft'un Bing'i daha iyi yönetmesi gerekiyor. Microsoft daha önce platformlar yarattı, onları dünyaya yaydı ve kötüye giderken görmezden geldi.
Bunun tekrar tekrar olduğunu gördük. Microsoft bir kez başıbozuk Twitter'da Tay adlı bir chatbot. Bu sohbet robotu hızla bir Nazi'ye dönüştü ve diğer sosyal medya kullanıcılarından öğrendikten sonra “Hitler haklıydı Yahudilerden nefret ediyorum” dedi. Microsoft bunu çevrimdışı yapmak zorunda kaldı.
Daha önce Windows 8’in Mağazasını tanıtmıştık. dolandırıcılık uygulamalarının lağımı oldu Microsoft, Windows 8'i başlattıktan ve uygulama gönderimlerini denetlemeyi bıraktıktan sonra. Microsoft, bu sorun ortaya çıktıktan sonra Windows 10'un Mağazasına daha fazla önem vermeye başladı.
Bu sorun, bir platform başlatan her şirketi etkiliyor. Google, Google + 'dan vazgeçti, ancak Google+ hala çalışıyor ve çalışıyor. IŞİD, Twitter ve Facebook'tan yasaklandıktan sonra Google + 'ya geçti. Birinin farkına bile varması aylar sürdü. Tepe yaptı. Şimdi Google, Google + 'yı kapatıyor önemli bir gizlilik hatasını keşfettikten sonra.
2013 yılında, Gardiyan Amazon'da "Sakin Ol ve Çok Tecavüz Et" gömlekleri satan Solid Gold Bomb adlı bir giyim şirketi buldu. Bu gömlekleri bir algoritma oluşturmuştu ve Amazon bunları manuel olarak çıkarmak zorunda kaldı.
Microsoft, bir platformu dünyaya açıp onu görmezden gelemez. Microsoft ve Google gibi şirketler, platformlarını yönetme ve korkuyu uzak tutma sorumluluğuna sahiptir.
Önerilerin Geçmişte Ciddi Sorunlar Var
Elbette, Microsoft'ta bu önerileri seçen bir ekip yok. Bing, otomatik olarak diğer kişilerin aramalarına göre aramalar önerir. Bu, birçok Bing Images kullanıcısının antisemitizm, ırkçılık, çocuk pornografisi ve hayvanlarla cinsel ilişki aradığı anlamına gelir. Sadece düşünmek bile seni kirli hissettiriyor.
Diğer şirketler de bununla mücadele etti. 2016 yılında Gardiyan Google'a "yahudiler" yazabileceğinizi fark ettiniz ve bu "yahudiler kötüdür" anlamına gelir. Google, bildirildikten sonra bu kötü önerileri ortadan kaldırdı, ancak sorun yeniden su yüzüne çıktı. 2018 yılında Kablolu Google'a "Hitler" yazmanın "Hitler benim kahramanım" sonucunu verdiğini bildirdi. Google bu sorunları da belirtildikten sonra düzeltmek zorunda kaldı.
Apple’ın Siri önerdiği web siteleri bile komplo web sitelerini ve diğer sahte haberleri itti. Buzzfeed Haberleri bildirildi. Apple, Siri'yi düzeltmek zorunda kaldı. Bilgisayarlar kötü insanlardan kötü şeyler öğrenirken, herkes etrafta koşuşturuyor ve yangınları söndürüyor.
Şimdi sıra Microsoft'ta. Microsoft, Bing'i temizleme sorumluluğuna sahiptir. Büyük bir arama motoru (ve özellikle Windows 10'da yerleşik olarak giderek kapatılması daha zor hale gelen bir varsayılan haline gelen), kullanıcılarının ırkçı çöpleri ve reşit olmayan çocukların resimlerini aramasını önermemelidir.
Resim Kredisi: George GR /Shutterstock.com, fizkes /Shutterstock.com.
