Thuật toán không tính đến việc nội dung video có lành mạnh hoặc có gây tổn thương cho người xem hay không, và các nội dung này rất có thể được khuếch đại nhờ các nền tảng như TikTok.

Chỉ sau vài năm ra mắt, TikTok đã thay đổi lĩnh vực truyền thông xã hội, thu hút hơn 1 tỷ người dùng. Theo The Guardian, cứ 10 thanh thiếu niên thì có 6 người thường xuyên xem TikTok. Trong khi đó, tác động của TikTok đến người dùng vẫn chưa được tìm hiểu rõ.

"Thật đáng ngại khi chúng ta biết quá ít về TikTok và những tác động của nó. Nghiên cứu thường đi sau ngành công nghiệp, và đây là một ví dụ", Philipp Lorenz-Spreen, nhà khoa học tại Viện Max Planck về Phát triển Con người, Berlin, cho biết.

TikTok, hay Douyin ở Trung Quốc, gây lo ngại vì có nhóm người dùng trẻ tuổi dễ bị ảnh hưởng bởi các nội dung trên mạng xã hội.

“Chúng ta cần thêm thông tin để hướng dẫn người trẻ cách sử dụng, thậm chí là từ bỏ hoàn toàn, nền tảng mạng xã hội này”, Michael Rich, bác sĩ nhi khoa nghiên cứu tác động của công nghệ đối với trẻ em tại Bệnh viện Nhi Boston, cho biết.

Lo ngại về tác động của các mạng xã hội gia tăng trong những năm gần đây. Chẳng hạn, năm 2021, nghiên cứu nội bộ tại Instagram cho thấy ứng dụng này tác động mạnh mẽ đến người dùng tuổi teen, rõ ràng nhất là làm tăng tỷ lệ rối loạn ăn uống ở những cô bé tuổi teen theo đuổi mẫu hình cơ thể xuất hiện phổ biến trên nền tảng.

TikTok có nội dung có hại tương tự, và một loạt các tính năng của nền tảng này gây ra những nguy cơ lớn hơn nữa.

Theo tài liệu nội bộ bị rò rỉ vào năm 2021, TikTok chủ yếu tối ưu hóa nội dung theo phút và giờ xem, thay vì số lần bấm và lượng tương tác như hầu hết mạng xã hội khác. Trong việc gợi ý nội dung trên trang chủ, TikTok gần như không quan tâm đến trình tự thời gian mà dành ưu tiên cho đánh giá của thuật toán về độ thu hút của nội dung dựa trên thời lượng xem.

Các nhà sản xuất nội dung video có động lực để tạo ra các nội dung có khả năng lôi kéo càng nhiều lượt xem càng tốt, cho dù phần lớn người xem có thể không đồng tình với nội dung, vì các nội dung được xem nhiều sẽ được thuật toán gợi ý tiếp tục cho nhiều người dùng hơn. Các nghiên cứu trước đây cũng cho thấy khi trình tự thời gian bị cho "ra rìa", thuật toán thường tạo ra các luồng nội dung với quan điểm cực đoan hơn.

Chính TikTok cũng phải tìm cách giám sát gắt gao những luồng nội dung nguy hiểm mà thuật toán đã tạo ra. “Thử thách Benadryl” trên nền tảng này, trong đó những người tham gia uống một lượng lớn thuốc kháng histamine nhằm tạo ra hiệu ứng ảo giác, đã dẫn đến ít nhất một trường hợp tử vong. Một số chuyên gia cũng cảnh báo hashtag #ADHD (rối loạn tăng động giảm chú ý) trên nền tảng này gây ra những tác động tiêu cực ngoài ý muốn, bao gồm thông tin sai lệch về tình trạng bệnh.

“So với các trang mạng xã hội khác, TikTok có hiệu suất độc nhất vô nhị. Điều này dẫn đến cả nội dung thú vị và một số cách không lành mạnh để thu hút sự chú ý", Rich cho biết.

Nguy cơ càng tăng do tính chất ẩn danh của TikTok. Nguồn gợi ý nội dung của nền tảng này khác hẳn với các mạng xã hội trước đây. Chẳng hạn, Facebook hay Twitter có một nguồn gợi ý nội dung chính là từ bạn bè, người thân hoặc các tài khoản mà người dùng chủ động theo dõi. Trên trang "Dành cho bạn", một dạng trang chủ hay "newsfeed" của TikTok, phần lớn video đến từ người lạ.

“Do lượng người dùng lớn và cách thức vận hành của thuật toán, các video TikTok lan truyền rất nhanh đến tất cả người dùng và không phải ai cũng sẵn sàng xem”, Yim Register, nhà nghiên cứu nghiên cứu về sức khỏe tâm thần và mạng xã hội, cho biết. Thuật toán không tính đến việc nội dung video có lành mạnh hoặc có gây tổn thương hay không, và các nội dung này rất có thể được khuếch đại nhờ các nền tảng như TikTok, theo Register.

Tháng 3/2021, TikTok đã giới thiệu các công cụ mới “để thúc đẩy sự tử tế” trên ứng dụng, cho phép người dùng lọc các bình luận rác và xúc phạm dễ dàng hơn. Nếu một người dùng đưa ra bình luận "khả nghi", nền tảng sẽ hiện lời yêu cầu họ “cân nhắc lại”. “Mục tiêu của chúng tôi là thúc đẩy một môi trường tích cực, nơi mọi người hỗ trợ và nâng đỡ lẫn nhau", Tara Wadhwa, Giám đốc chính sách TikTok tại Mỹ, cho biết.

Trong khi đó, thuật toán bí ẩn của TikTok đang dần bị bẻ khóa. Tháng 8 năm nay, các cơ quan quản lý Trung Quốc đã yêu cầu TikTok mở các thuật toán để các bên độc lập điều tra. Theo Rich, đây mới chỉ là khởi đầu và cần phải minh bạch hơn nữa.

Nguồn:

https://www.theguardian.com/technology/2022/oct/30/tiktok-mental-health-social-media

https://www.wired.com/story/tiktok-transparency-dsa-europe/