Instagram vừa phát triển trí thông minh nhân tạo (AI) có nhiệm vụ kiểm duyệt và tự động "trảm"những bình luận độc hại có trên MXH này.
Người dùng Instagram thường xuyên bị làm phiền bởi những nhận xét ác ý, khiếm nhã hoặc miệt thị từ các người dùng khác, tuy nhiên, phía nhà sản xuất chưa tìm ra được phương thức bảo vệ người dùng tốt nhất. Chính vì lẽ đó, nhằm nâng cao chất lượng dịch vụ của mạng chia sẻ hình ảnh, video số 1 thế giới, Instagram đã nghiên cứu và sắp sử dụng trí thông minh cho việc giải quyết triệt để vấn đề này.
Cuối năm ngoái, Instagram đã đưa ra tùy chọn để người dùng lọc ra những bình luận mà họ cho rằng không phù hợp. Trong các mức tùy chọn, Instagram cho phép người dùng che phần bình luận không phù hợp hoặc loại bỏ hoàn toàn bình luận có nội dung không tốt.
Cho tới ngày 29/6 vừa qua, Instagram đã thông báo rằng hệ thống kiểm duyệt này không còn là tùy chọn nữa mà sẽ là mặc định thực thi. Và người dùng cũng có thể yên tâm bởi công việc này sẽ được thực hiện bởi AI chuyên kiểm duyệt bình luận.
"Nhiều người dùng nói với chúng tôi rằng những bình luậntiêu cực là thứ ngăn họ sử dụng Instagram và thể hiện mình một cách tự do", CEO Instagram Kevin Systrom cho biết - "Để cải thiện vấn đề này, Instagram đã phát triển một bộ lọc (filter) để chặn các nhận xét tiêu cực đối với các bài đăng và bình luận trong video trực tuyến".
Cũng theo chia sẻ từ phía nhà sản xuất. AI kiểm duyệt khá thông minh vì liên tục được học dựa trên dữ liệu thử nghiệm. AI này thậm chí còn có thể phân tích ngữ cảnh của bình luận để xác định xem đây có phải là một bình luận tiêu cực hay không. Nói cách khác, cùng một từ viết những câu từ bậy bạ nhưng tùy theo ngữ cảnh, độ thân thiết giữa các người dùng với nhau mà AI sẽ xác định có lọc nội dung đó hay không.
Ngoài ra, khi một bình luận được xem là tiêu cực và bị kiểm duyệt thì mọi người dùng Instagram khác sẽ không thấy được bình luận này trừ chính người đăng bình luận.
AI được Instagram sử dụng được phát triển dự trên DeepText – một AI kiểm duyệt nội dung được Facebook sử dụng. Trước đây, Facebook phát triển công nghệ DeepText để ngăn chặn các nội dung không lành mạnh, đặc biệt là các nội dung kêu gọi, tuyên truyền cho chủ nghĩa khủng bố. Tuy nhiên, AI của Instagram sẽ có cách hoạt động khác hơn để phù hợp với môi trường trên Instagram.
Theo VTV