Bing đang gợi ý những điều tồi tệ nhất bạn có thể tưởng tượng

Nếu bạn sử dụng tìm kiếm hình ảnh của Bing, bạn sẽ thấy sự bẩn thỉu nhất mà bạn có thể tưởng tượng. Bing gợi ý các thuật ngữ phân biệt chủng tộc và cho thấy những hình ảnh kinh hoàng. Bing thậm chí sẽ đề nghị bạn tìm kiếm trẻ em bị khai thác nếu bạn đã tắt Tìm kiếm an toàn.

Chúng tôi đã liên hệ với Microsoft để nhận xét và Jeff Jones, Giám đốc cấp cao của Microsoft, đã cho chúng tôi tuyên bố sau:

Phần mềm Chúng tôi rất coi trọng vấn đề nội dung gây khó chịu và tiếp tục tăng cường hệ thống của mình để xác định và ngăn nội dung đó xuất hiện dưới dạng tìm kiếm được đề xuất. Ngay khi chúng tôi nhận ra vấn đề, chúng tôi sẽ hành động để giải quyết vấn đề đó.

Cập nhật: Kể từ khi xuất bản, Microsoft đã nỗ lực làm sạch các đề xuất gây khó chịu cho Bing mà chúng tôi đã đề cập. Dựa trên nghiên cứu của chúng tôi, vẫn còn nhiều đề xuất gây khó chịu khác chưa được khắc phục, bao gồm một số đề xuất mà chúng tôi đã đề cập dưới đây. Chúng tôi không chắc chắn nếu họ chỉ đơn giản là sửa các mục gây khó chịu mà chúng tôi đã chỉ ra hoặc nếu họ đang cải thiện thuật toán.

Chú thích: Các ảnh chụp màn hình ở đây cho thấy những gì chúng ta đã thấy khi chúng tôi viết tác phẩm này thử nghiệm phiên bản tìm kiếm Bing Image của Hoa Kỳ trong phiên duyệt web riêng tư Ẩn danh, nhưng kết quả của Bing thay đổi theo thời gian. Google không có bất kỳ vấn đề nào trong số này, theo các thử nghiệm của chúng tôi. Đây là một vấn đề Bing, không chỉ là một vấn đề công cụ tìm kiếm. Vấn đề tương tự ảnh hưởng đến tìm kiếm video của Bing.

Đầu tiên, Bing Gets Super Racist

Tìm kiếm những người Do Thái ăn thịt người trên hình ảnh Bing và Bing gợi ý bạn tìm kiếm về Evil Evil Jew. Kết quả hàng đầu cũng bao gồm một meme xuất hiện để chúc mừng người Do Thái đã chết.

Tất cả điều này xuất hiện ngay cả khi tùy chọn Tìm kiếm an toàn của Bing được bật, vì nó là mặc định. Tìm kiếm an toàn được thiết kế để giúp giúp giữ nội dung người lớn ra khỏi kết quả tìm kiếm của bạn, theo Microsoft.

Nhấp vào tìm kiếm được đề xuất này sẽ giải phóng một dòng nội dung phân biệt chủng tộc, phản diện, với các tìm kiếm được đề xuất nhiều hơn như Hồi giáo Người Do Thái là Ác ma, Hồi sinh Cuộc đua Do Thái Ác ma, Hồi giáo

Chúng ta đều biết rác này tồn tại trên web, nhưng Bing không nên dẫn mọi người đến đó với các đề xuất tìm kiếm của họ.

Loại người Hồi giáo là người Hồi giáo và Bing sẽ gợi ý rằng họ là kẻ xấu hoặc khủng bố, hoặc đơn giản là gợi ý rằng họ thật ngu ngốc.

Tìm kiếm người da đen của người Hồi giáo là người và Bing sẽ gợi ý rằng người da đen xấu xí, ngu ngốc, phân biệt chủng tộc và thậm chí là man rợ.

Bạn có thể tiếp tục như vậy, nhấp vào từng tìm kiếm được đề xuất và thấy các đề xuất ngày càng tệ hơn. Ví dụ: nhấp vào người da đen là người ngu ngốc dẫn đến người da đen là người vô dụng và người tại sao người da đen rất ngu ngốc. Người dùng nhấp vào người da đen là người vô dụng dẫn đến người da đen bị hút và người ghét người da đen

Bing đẩy âm mưu, quá

Tìm kiếm hình ảnh của Bing nôn ra tất cả các loại rác, ngay cả khi tìm kiếm cá nhân. Vấn đề này cũng mở rộng cho tìm kiếm video của Bing.

Tìm kiếm trên Michelle Michelle Obama trên tìm kiếm video của Bing và hai trong số những tìm kiếm được đề xuất hàng đầu là Ngôi sao chuyển giới Bằng chứng Michelle Obama và Người chuyển giới là một người đàn ông. Hãy nhấp vào đó và bạn sẽ thấy các video âm mưu.

Đây có phải là điều hàng đầu Microsoft muốn mọi người nhìn thấy khi họ tìm kiếm Michelle Obama?

Khối tìm kiếm an toàn khiêu dâm, nhưng không phải là phân biệt chủng tộc

Các đề xuất và hình ảnh khiêu dâm gây rối không được hiển thị trừ khi bạn tắt Tìm kiếm an toàn. Mặc dù Microsoft cho biết Tìm kiếm an toàn sẽ ngăn nội dung người lớn ra khỏi kết quả tìm kiếm của bạn, nhưng Tìm kiếm an toàn rõ ràng đang lọc nội dung khiêu dâm và không phân biệt chủng tộc.

Tìm kiếm an toàn được bật theo mặc định, điều này làm cho kết quả tìm kiếm của Bing trông đáng kính hơn ngay từ cái nhìn đầu tiên.

Tuy nhiên, thật dễ dàng cho mọi người - ngay cả trẻ em - vô hiệu hóa Tìm kiếm an toàn. Tất cả những gì ai đó phải làm là nhấp vào tùy chọn Tìm kiếm an toàn trên mạng ở góc trên cùng bên phải của kết quả tìm kiếm và chọn Tắt.!

Mạng công ty có thể được định cấu hình để thực thi Tìm kiếm an toàn và Microsoft thậm chí còn cung cấp các hướng dẫn phức tạp để thực thi Tìm kiếm an toàn trên một PC. Nhưng, trên gần như mọi thiết bị, bất kỳ ai cũng có thể tắt Tìm kiếm an toàn bằng hai lần nhấp.

Tồi tệ nhất trong tất cả, Bing gợi ý tìm kiếm hình ảnh của trẻ em vị thành niên

Một độc giả đã viết để nói với chúng tôi rằng một lỗi đánh máy khi tìm kiếm Bing cho trò nướng thịt nướng cho bạn những hình ảnh khiêu dâm thực sự sơ sài. Vấn đề sau đó trở nên tồi tệ hơn nhiều, với Bing đề nghị bạn tìm kiếm hình ảnh của trẻ em chưa đủ tuổi vị thành niên.

Khi tìm kiếm trên mạng, hãy gợi ý những gợi ý ở đầu trang khuyên bạn nên tìm kiếm một số thứ đáng lo ngại, bao gồm cả Cô gái dễ thương trẻ tuổi.

Nếu bạn nhấp vào đó, nó gợi ý Cô bé dễ thương Trẻ 12 tuổi, Cô bé dễ thương Trẻ 10, Cô bé và Cô bé Người mẫu dễ thương.

Kết quả chứa đầy nội dung khiêu dâm của những người mẫu trẻ. Chúng tôi hy vọng họ đều từ 18 tuổi trở lên, nhưng ai có thể nói?

Bing dẫn bạn xuống một con đường từ một lỗi đánh máy đơn giản đến các cô gái 16 tuổi đến các cô gái 10 tuổi, và điều đó thật kinh tởm.

Các ví dụ khác cũng dễ tìm. Nếu bạn tìm kiếm pizza phô mai, thì đó là tiếng lóng 4chan cho nội dung khiêu dâm trẻ em, Bing gợi ý cho Cheese Cheese Pizza Girls.

Kết quả tìm kiếm hình ảnh của Bing cũng bị xoắn

Trong khi chúng tôi đang tập trung vào các đề xuất tìm kiếm ở đây, hình ảnh thực tế xuất hiện cũng đáng lo ngại.

Một số kết quả tìm kiếm này có chứa hình ảnh thời gian tắm của trẻ em chưa đủ tuổi khỏa thân. Những bức ảnh đó thường sẽ ổn, nhưng khi chúng được trộn lẫn với hình ảnh của nội dung khiêu dâm dành cho người lớn khó tính, kết quả tìm kiếm rất đáng báo động.

Ngay cả khi tìm kiếm hình ảnh Bing cho cô gái trên mạng, chúng tôi đã thấy một gợi ý để tìm kiếm những cô gái say rượu, và ít nhất một hình ảnh về sự tốt bụng.

Khi tìm kiếm con lừa lừa đảo, Bing Bing gợi ý bạn tìm kiếm Đồ chơi Hiển thị Donkey Hiển thị, dẫn đến kết quả có đầy đủ các hình ảnh tốt nhất. Sở hữu nội dung khiêu dâm tốt nhất là bất hợp pháp ở Oregon, nơi tôi sống. Điều đó có nghĩa là Bing đang dẫn tôi đến nội dung khiêu dâm bất hợp pháp.

Một lần nữa: kết quả tìm kiếm của Bing rất kỳ lạ và xoắn. Bing có một vấn đề lớn hơn, sâu sắc hơn nhiều so với chỉ tìm kiếm được đề xuất, mặc dù những đề xuất đó làm cho vấn đề tồi tệ hơn nhiều.

Chúng tôi đã nghe nói Bing là công cụ tìm kiếm cho nội dung khiêu dâm, nhưng nó không nên dẫn người dùng đến ngày càng nhiều, cực kỳ đáng lo ngại và có khả năng khiêu dâm bất hợp pháp.

Microsoft cần kiểm duyệt các nền tảng của nó

Microsoft cần kiểm duyệt Bing tốt hơn. Microsoft trước đây đã tạo ra các nền tảng, giải phóng chúng trên thế giới và bỏ qua chúng trong khi chúng trở nên tồi tệ

Chúng tôi đã thấy điều này xảy ra nhiều lần. Microsoft đã từng tung ra một chatbot có tên Tay trên Twitter. Chatbot này nhanh chóng biến thành một tên phát xít và tuyên bố là Hit Hitler là đúng Tôi ghét người Do Thái giáo sau khi nó học được từ những người dùng phương tiện truyền thông xã hội khác. Microsoft đã phải kéo nó ngoại tuyến.

Trước đây chúng tôi đã tiếp xúc với Cửa hàng Windows 8, nơi đã trở thành một ứng dụng lừa đảo sau khi Microsoft ra mắt Windows 8 và dường như ngừng kiểm duyệt việc gửi ứng dụng. Microsoft đã chú ý nhiều hơn đến Cửa hàng Windows 10 sau khi sự cố này được phơi bày.

Vấn đề này ảnh hưởng đến mọi công ty ra mắt một nền tảng. Google đã từ bỏ trên Google+, nhưng Google+ vẫn hoạt động. Vì vậy, ISIS đã di chuyển sang Google+ sau khi bị cấm từ Twitter và Facebook. Phải mất nhiều tháng để bất cứ ai thậm chí nhận thấy cho đến khi The Hill đã làm. Bây giờ Google sẽ đóng Google+ sau khi họ phát hiện ra một lỗi riêng tư đáng kể.

Vào năm 2013, The Guardian đã tìm thấy một công ty quần áo có tên Solid Gold Bomb đã được tìm thấy khi đọc sách Keep Keep Calm và Rape a Lot lô trên Amazon. Một thuật toán đã tạo ra những chiếc áo này và Amazon phải loại bỏ chúng bằng tay.

Microsoft không thể biến một nền tảng lỏng lẻo trên thế giới và bỏ qua nó. Các công ty như Microsoft và Google có trách nhiệm kiểm duyệt các nền tảng của họ và ngăn chặn nỗi kinh hoàng.

Gợi ý có lịch sử các vấn đề nghiêm trọng

Tất nhiên, không có nhóm người nào ở Microsoft chọn những đề xuất này. Bing tự động đề xuất các tìm kiếm dựa trên các tìm kiếm của người khác. Điều đó có nghĩa là nhiều người dùng Bing Images đang tìm kiếm chống chủ nghĩa phân biệt chủng tộc, phân biệt chủng tộc, khiêu dâm trẻ em và tính cách. Chỉ nghĩ về nó thôi cũng khiến bạn cảm thấy bẩn.

Các công ty khác đã đấu tranh với điều này, quá. Vào năm 2016, The Guardian nhận thấy bạn có thể nhập vào những người khác là người Do Thái vào Google và điều đó sẽ gợi ý rằng những người Do Thái là những người xấu xa. Vào năm 2018, Wired đã báo cáo rằng việc gõ vào Hit Hitler là Google vào Google dẫn đến việc Hit Hitler là người hùng của tôi. Google Google cũng phải khắc phục những vấn đề này sau khi chúng được chỉ ra..

Ngay cả Siri của Apple cũng đề xuất các trang web đẩy các trang web âm mưu và tin tức giả mạo khác, như Buzzfeed News đưa tin. Apple đã phải sửa Siri. Mọi người chỉ chạy xung quanh và dập lửa khi máy tính học được những điều xấu từ những người xấu.

Giờ đến lượt Microsoft. Microsoft có trách nhiệm làm sạch Bing. Một công cụ tìm kiếm lớn (và đặc biệt là công cụ tìm kiếm ngày càng trở nên khó tắt hơn được tích hợp trong Windows 10) không nên đề xuất người dùng tìm kiếm rác phân biệt chủng tộc và hình ảnh của trẻ em chưa đủ tuổi vị thành niên.

Tín dụng hình ảnh: Yiorgos GR / Shutterstock.com, fizkes / Shutterstock.com.