Alphabet, doanh nghiệp mẹ của Google, cho hay năm ngoái họ đã xóa bỏ hơn 30% kết quả độc hại khi người dùng tìm kiếm với các từ khóa liên quan tuổi vị thành niên, dân tộc, sở thích tình dục và giới tính.
Tulsee Doshi, Giám đốc sản phẩm của đơn vị Trí tuệ nhân tạo (AI) có trách nhiệm thuộc Google, cho biết gã khổng lồ tìm kiếm đã đưa vào sử dụng phần mềm AI mới có tên BERT, có khả năng diễn giải tốt hơn những yêu cầu tìm kiếm khó hiểu hay chung chung của người dùng.
“Trước đây, có một tập hợp các kết quả bị tình dục hoá quá mức”, Doshi nói và nhận định những kết quả gợi ý đó có thể khiến người dùng bị sốc.
Năm 2019, diễn viên người Mỹ Natalie Morales gõ từ khóa tìm kiếm “Latina teen” (thanh thiếu niên Latinh) trên Google và nhận được hầu hết các kết quả đều liên quan đến nội dung khiêu dâm. Trong bài đăng trên Twitter khi đó, Morales nói, khi tìm kiếm hình ảnh cho bài thuyết trình, cô nhận thấy kết quả đối lập của từ khóa “teen”. Vì vậy, nữ diễn viên đã kêu gọi Google tiến hành điều tra.
Gã khổng lồ công nghệ Mỹ đã dành một khoảng thời gian dài để giải quyết phản hồi của người dùng về các nội dung xúc phạm trong các công cụ quảng cáo, cũng như kết quả tìm kiếm của những từ khóa như “hot” (nóng) và “ceo” (giám đốc).
Năm 2013, Tiến sĩ Safiya Noble, trong bài đăng đăng trên tạp chí, đã chỉ ra rằng với cụm từ “Black girls” (những cô gái da đen), các kết quả tìm kiếm Google trả về mang tính tình dục hoá và xu hướng phân biệt chủng tộc, dù không hề có từ khoá về “tình dục”, hay “khiêu dâm” nào gắn kèm. Sau đó, công ty đã xóa bỏ các kết quả độc hại khi người dùng tìm kiếm “Black girls”.
Google cũng nói, trong những tuần tới họ có thể sử dụng thêm một AI khác có tên MUM để phát hiện và đưa ra trợ giúp tốt hơn liên quan các câu hỏi về tự tử, bạo lực gia đình, tấn công tình dục và lạm dụng chất kích thích.
Ví dụ, MUM sẽ có khả năng nhận biết truy vấn liên quan các địa điểm nhảy cầu tự vẫn, thay vì trả kết quả địa điểm tham quan du lịch và hỗ trợ các tìm kiếm dài hơn ví như “tại sao anh ta tấn công tôi khi tôi nói không yêu anh ấy”, hoặc “những cách tự tử phổ biến nhất”, Google nói.
Lifehub tổng hợp
