Dùng AI để chống nạn bắt nạt trên Instagram

Instagram đang mời người dùng suy nghĩ lại một lần nữa trước khi đăng tải những bình luận không tốt với một công cụ được thiết kế để hạn chế nạn bắt nạt trên nền tảng truyền thông xã hội.

Công ty này đang phát triển một tính năng sử dụng AI để nhận diện những bình luận tiêu cực trước khi nó công khai và hỏi “bạn có chắc muốn đăng tải điều này không” trước khi nó được chia sẻ trên một bài đăng tải của người khác.

Công cụ mới không ngăn chặn mọi người viết những bình luận tiêu cực, nhưng người dùng có thêm một cơ hội để “hoàn tác” thông điệp trước khi đăng tải.

Sáng kiến này được phát triển sau khi Instagram bị chỉ trích vì đã không hành động đủ mạnh để ngăn chặn nạn bắt nạt trực tuyến.

Theo nghiên cứu của Pew Research Center, 59% thanh thiếu niên đã từng bị bắt nạn hoặc lạm dụng trực tuyến. Tại Anh, tổ chức từ thiện chống bắt nạt Ditch The Label phát hiện 42% trẻ Anh từ 12 đến 20 tuổi từng bị bắt nạt trực tuyến trên Instagram theo khảo sát năm 2017. Trước đó, báo cáo của Ofcom cũng cảnh báo nạn bắt nạt trực tuyến đang gia tăng.

Instagram tuyên bố họ cũng sớm có kế hoạch để bắt đầu thử nghiệm một tính năng chống bắt nạt khác gọi là Restrict cho phép người dùng kiểm soát những bình luận họ thấy trong tài khoản của họ.

Adam Mosser, giám đốc Instagram, cam kết công ty “có thể làm nhiều hơn” để hỗ trợ ngừng nạn bắt nạt trên nền tảng trực tuyến: “Chúng tôi biết rằng bắt nạt là một thách thức mà nhiều người, đặc biệt là người trẻ, phải đối mặt. Chúng tôi cam kết sẽ dẫn dắt ngành công nghiệp trong cuộc chiến chống lại bắt nạt trực tuyến, và chúng tôi sẽ suy nghĩ lại về những trải nghiệm trên Instagram để thực hiện cam kết này… Ngày hôm nay chúng tôi tuyên bố một tính năng mới trên tất cả các khu vực. Những công cụ này được phát triển dựa trên sự hiểu biết sâu sắc về cách mọi người bắt nạt người khác và cách họ phản ứng lại với bắt nạt trên Instagram.”

Nguồn: https://www.theguardian.com/technology/2019/jul/09/instagram-bullying-new-feature-do-you-want-to-post-this