CyberPurify, một công ty khởi nghiệp chuyên sử dụng Machine Learning để xác định nội dung độc hại trên Internet, vừa tung ra một sản phẩm phần cứng giúp cha mẹ tạo môi trường trực tuyến an toàn hơn cho con cái.

Trẻ em sử dụng các thiết bị di động để truy cập Internet. Ảnh: Getty
Trẻ em sử dụng các thiết bị di động để truy cập Internet. Ảnh: Getty

Gần ba phần tư các bậc cha mẹ lo ngại rằng việc con họ sử dụng thiết bị di động có thể gây hại cho chúng hoặc cho các mối quan hệ trong gia đình, và đó là từ một nghiên cứu được thực hiện trước đại dịch. Trong thời kỳ giãn cách xã hội vì Covid-19, gần như tất cả trẻ con đều tăng thời gian sử dụng Internet, không chỉ để học hành mà còn để giải trí và giao tiếp xã hội.

Tuy nhiên, chúng ta đang sống trong thời đại mà công nghệ đi trước đạo đức và trách nhiệm. Kết nối mạng đem lại nhiều lợi ích nhưng kéo theo đó là những lo âu về việc truy cập Internet và thiết bị di động thường xuyên khiến trẻ em dễ tiếp xúc với những nội dung không phù hợp, dễ bị lạm dụng, thậm chí là bắt nạt. Còn nhớ đầu năm nay, một số diễn đàn và báo chí Việt Nam xôn xao về việc vợ một nghệ sĩ nổi tiếng sau khi phát hiện con trai mình xem những hình ảnh 18+ trên các trang mạng đã chia sẻ quan điểm cá nhân lên Facebook và khuyên các bậc phụ huynh khác cũng nên kiểm tra tài khoản của con vì “rất nhiều thành phần xấu lôi kéo con vào nhóm xấu”.

Cách ứng xử của chị tạo ra dư luận trái chiều. Không ít người ủng hộ hành động “cho out hết”, “hai điện thoại cũng nát” của chị, trong khi một số khác bày tỏ rằng việc can thiệp thô bạo và đưa sự vụ trở nên ồn ào trên mạng xã hội có thể ảnh hưởng đến tâm lý của trẻ. Thực tế là khi gặp những tình huống như vậy, hầu hết các bậc phụ huynh đều cảm thấy sốc, thậm chí bàng hoàng, bối rối, không biết phải hành xử như thế nào.

Bài học cảnh báo của người mẹ trong sự việc trên là vấn đề nhức nhối mà tất cả các bậc phụ huynh đều quan tâm, nhưng việc đảm bảo an toàn trên mạng lại là một công việc quá lớn và đáng sợ đến nỗi rất nhiều người chui đầu vào cát hoặc làm ra những hành động kiểm soát cực đoan. “Tôi sẽ không bao giờ mua điện thoại thông minh cho bất kỳ đứa con nào của mình,” một giáo viên ở TP.HCM nói.

Trong xã hội ngày nay, nhiều người - bao gồm cả thanh thiếu niên - coi điện thoại di động như một nhu cầu thiết yếu của cuộc sống. Nhiều đứa trẻ thường xuyên tranh luận với cha mẹ về việc chúng không thể hoạt động ở trường hoặc sống mà không có điện thoại di động. Một số còn trở nên bạo lực nếu cha mẹ lấy điện thoại của chúng đi.

Nghiên cứu mới công bố của Đại học bang Michigan (Mỹ) chỉ ra rằng, không phải thời gian sử dụng thiết bị di động dài hay ngắn, mà chính việc ngắt kết nối với Internet đã khiến lòng tự trọng và các hoạt động xã hội của những thanh thiếu niên không được truy cập Internet hoặc bị giới hạn nặng nề thời gian truy cập Internet thấp hơn đáng kể so với bạn bè cùng trang lứa.

Để cân bằng giữa việc bảo vệ trẻ con khỏi các mối nguy trên mạng và xâm phạm vào không gian riêng tư phát triển của chúng, CyberPurify – công ty khởi nghiệp do chuyên gia công nghệ Nguyễn Hữu Bình và đồng sáng lập Nguyễn Phương Thanh Trúc xây dựng – đã tạo ra các sản phẩm có khả năng lọc nội dung trực tuyến theo thời gian thực.

Startup này thành lập vào tháng 8/2020 tại California. Trước khi sáng lập CyberPurify, Nguyễn Hữu Bình từng sáng lập và điều hành Applancer, đơn vị chủ quản của Topdev, một trong những nền tảng tìm việc trong giới công nghệ lớn nhất Việt Nam. Ông cũng được biết đến rộng rãi như một người tiên phong trong việc ứng dụng trí tuệ nhân tạo (AI) để nhận dạng nội dung khiêu dâm bằng phần mềm mang tên KillPorn. Phần mềm này từng được sử dụng rộng rãi trong các phòng net và nhà ở từ năm 2007 trước khi được nhượng quyền cho VNPT để phục vụ cho các thuê bao của nhà mạng.

Các thiết bị di động trở thành một phần giao tiếp xã hội của học sinh. Ảnh: Đại Đoàn Kết
Các thiết bị di động đã trở thành một phần trong học tập và giao tiếp xã hội của học sinh. Ảnh: Đại Đoàn Kết

CyberPurify đã mất hai năm để phát triển một thuật toán có khả năng tự động phát hiện và che mờ nội dung độc hại đối với trẻ nhỏ khi dùng trình duyệt Internet. Những hình ảnh tai nạn, máu me, ngược đãi động vật, bạo lực, khiêu dâm, ma túy, rượu, ngôn từ kích động thù địch…có thể khiến trẻ khó chịu, bối rối và ám ảnh trong tương lai. Điều nguy hiểm là chúng không chỉ xuất hiện ở các trang web đen mà còn ở những hình ảnh / video / quảng cáo tại những trang trò chơi trực tuyến, mạng xã hội, diễn đàn, nhóm trò chuyện … hoàn toàn bình thường mà trẻ tiếp xúc.

“Chúng tôi tập trung vào việc xây dựng một mô hình AI giúp tăng cường việc xác định và phân loại nội dung độc hại, định hình lại khái niệm an toàn cho trẻ em bằng cách sử dụng AI trong nhận dạng thời gian thực ngay cả khi nội dung không được hiển thị. Như thể bạn đã dành cho con mình một người giám hộ trung thành, không phán xét hay soi mói cuộc sống riêng tư, ông Bình chia sẻ trong một tuyên bố của công ty vào cuối năm ngoái.

Thuật toán của họ có thể xử lý trên 10 triệu nội dung hình ảnh và video mỗi ngày. Nó đã được cung cấp miễn phí dưới dạng dạng tiện ích mở rộng (extension) mang tên CyberPurify Kids trên các trình duyệt phổ biến như Google Chrome, Microsoft Edge, Firefox và Safari. Tính năng nâng cao bao gồm gửi báo cáo thống kê cho phụ huynh sẽ có tính phí (từ 9 USD/tháng và 99 USD/năm).

Tháng chín vừa rồi, startup này giới thiệu một thiết bị phần cứng mang tên là Cyberpurify Eggs để tích hợp vào các bộ phát WiFi tại nhà. Có giá là 149 USD (khoảng 3,7 triệu đồng), chúng có thể phát ra tín hiệu WiFi “sạch” đến những máy tính, điện thoại được chỉ định nhằm ngăn chặn trẻ em tiếp xúc với nội dung độc hại một cách triệt để hơn. Chúng cũng giúp bảo vệ trẻ con khỏi bị phân tán trong thời gian học online bằng cách chặn quyền truy cập vào những trò chơi hoặc trang mạng xã hội trong khung giờ, thông qua một bảng điều khiển online đơn giản.

“Thiết bị sẽ tạo ra sóng WIFI riêng, do vậy nó sẽ không ngăn cản người lớn nhìn thấy những điều họ muốn xem nhưng không muốn cho trẻ em xem”, đồng sáng lập Thanh Trúc trấn an những nhà đầu tư tò mò về sản phẩm tại Techfest 2022.

Theo đại diện CyberPurify, vì không nhiều phụ huynh giỏi về công nghệ và không thể biết những thủ thuật vượt rào mà trẻ con có thể mò tời như VPN hoặc đổi DNS nên thiết bị của họ là một giải pháp đơn giản “cắm và chạy” và phụ huynh chỉ cần biết mật khẩu WIFI. Họ cũng tuyên bố rằng không có cách nào để trẻ em vượt qua tường lửa bằng VPN vì thiết bị sẽ ghi nhận các lưu lượng bất thường và báo lại cho phụ huynh.

Tuy nhiên, CyberPurify cũng tạo ra không gian đủ riêng tư để trẻ em phát triển. “Chúng tôi có thể cung cấp báo cáo cho phụ huynh để giúp họ biết thêm về hành vi trực tuyến của trẻ, nhưng chỉ dừng lại ở tên miền. Chúng tôi không cung cấp URL chi tiết vì quyền riêng tư rất quan trọng đối với trẻ em và chúng tôi tôn trọng điều đó”, Thanh Trúc nhấn mạnh.

Tham vọng toàn cầu

Công nghệ của họ có thể bị sao chép nhưng sẽ phải mất nhiều năm để làm việc đó và không hề dễ dàng. Các nhà sáng lập mô tả CyberPurify Eggs giống như một đứa trẻ, liên tục tự học thêm những nội dung độc hại được phát hiện mỗi ngày để trở nên thông minh hơn, ngăn chặn triệt để hơn. Trên thực tế, có rất nhiều mô hình AI mở trên mạng để các nhà công nghệ dùng cho việc sàng lọc nội dung xấu, nhưng nó chỉ là những mô hình cơ bản. Điều quan trọng nhất là dữ liệu.

CyberPurify đã dùng hơn 200 triệu dữ liệu để đào tạo mô hình đạt tới độ chính xác trên 95%. Trong khi những tập dữ liệu về nội dung khiêu dâm thường đầy rẫy trên Internet thì những bộ dữ liệu về các nội dung kinh khủng như cảnh máu me, chết chóc và bạo lực lại thường không được mở ra. Do vậy, các đội kỹ sư phải thu thập một cách thủ công và giữ cho riêng mình. Một khi AI đã học được dữ liệu, nó sẽ nắm các “kiến thức” trong lòng.

Thiết bị phát WIFI có khả năng lọc nội dung và kiểm soát thời gian sử dụng mạng cho trẻ em. Ảnh: CyberPurify
Thiết bị phát WIFI có khả năng lọc nội dung và kiểm soát thời gian sử dụng mạng cho trẻ em. Ảnh: CyberPurify

Những thiết bị Eggs mang trong mình công nghệ AI tiên tiến có thể quyết định nội dung nào sẽ bị chặn dù được cài đặt ở bất kỳ ngôi nhà tại quốc gia nào. Và chúng sẽ tiếp tục cung cấp dữ liệu để cải tiến thuật toán. Đó là lý do CyberPurify tự tin rằng họ có thể triển khai sản phẩm của mình trên toàn cầu mà không tốn quá nhiều chi phí công nghệ.

Tháng trước, công ty cho biết đã nhận được 1.500 đơn đặt hàng trước từ các bậc phụ huynh và một hợp đồng cung cấp 50.000 thiết bị cho một công ty viễn thông lớn trong nước. Đầu năm 2023, startup này dự kiến sẽ cùng Bộ GD&ĐT và Cục An toàn thông tin (Bộ TT&TT) triển khai một chiến dịch WIFI an toàn, cung cấp thiết bị đến 100 trường học ở Việt Nam. Họ cũng có kế hoạch bán các thiết bị trên những nền tảng thương mại điện tử như Amazon và đưa sản phẩm sang Mỹ vào quý 3 năm 2023.

Ở Việt Nam, CyberPurify tự nhận mình là người đầu tiên trên thị trường cung cấp thiết bị phần cứng loại này, trong khi ở Mỹ họ có hai đối thủ cạnh tranh là Bark.us và Circle Home Plus. Thanh Trúc nói rằng họ đã dùng thử các thiết bị của đối thủ và nhận ra rằng những sản phẩm đó không hoạt động quá hiệu quả đối với thị trường Mỹ, nên đó là lý do CyberPurify sẽ chọn Mỹ là điểm khởi đầu để đi ra toàn cầu, sau đó quay lại châu Á.

Con đường này khá dễ hiểu, vì một khi thị trường Mỹ chấp nhận thì việc quay lại những thị trường như Việt Nam, Hàn Quốc, Nhật Bản, Singapore… sẽ dễ dàng hơn rất nhiều. Mặc dù mối quan tâm của phụ huynh châu Á đối với việc bảo vệ an toàn mạng cho con trẻ là rất lớn nhưng sẽ phải mất rất nhiều tiền của và công sức để thuyết phục thị trường cởi mở với những người bản địa đi đầu.

Thêm nữa, với mỗi thị trường, startup này sẽ phải xây dựng một lợi thế cạnh tranh khác nhau tùy theo khảo sát thị trường về mối quan tâm lớn nhất của phụ huynh. “Chẳng hạn, ở Việt Nam, chúng tôi sẽ tập trung nhiều hơn vào [kiểm soát] thời lượng sử dụng thiết bị, nhưng ở Mỹ, chúng tôi sẽ tập trung nhiều hơn vào việc ngăn chặn nội dung có hại”, Thanh Trúc chia sẻ.