Không chỉ Facebook, Thử thách phát hiện Deepfake là dự án hợp tác giữa Facebook, Microsoft, Partnership on AI và các học giả. Facebook đã đầu tư 10 triệu USD vào dự án hợp tác này để giúp phát hiện và xử lý các video và phương tiện truyền thông bị thao túng khiến người khác thấy họ đang nói, hoặc làm những điều mà thực tế họ chưa bao giờ nói hoặc làm.
Chính CEO Facebook cũng trở thành nạn nhân của video deepfake
"Mục tiêu của dự án là sản xuất ra công nghệ mà mọi người đều có thể sử dụng để phát hiện những video ứng dụng AI nhằm đánh lừa người xem", Mike Schroepfer, Giám đốc công nghệ của Facebook AI, viết trong một bài đăng trên blog thông báo chương trình.
Thử thách sẽ sử dụng một bộ video hoàn toàn mới ghi hình các diễn viên trả phí, do đó, không hề có dữ liệu người dùng Facebook nào được đưa vào chương trình. Công ty sẽ tạo ra những video không thể thay đổi và những video giả mạo bằng cách sử dụng các kỹ thuật AI để người tham gia phát hiện. Hy vọng của Facebook là phát triển một biện pháp nào đó giúp phát hiện và ngăn chặn tốt hơn các video, phương tiện truyền thông bị giả mạo - và cung cấp cho mạng xã hội như Facebook một phương thức gắn cờ vào những video deepfake này trước khi chúng bị lan truyền.
Để khuyến khích sự tham gia của công chúng, dự án sẽ có các giải thưởng khác nhau. Trong đó, Facebook đã dành 10 triệu USD riêng cho dự án.
"10 triệu USD này sẽ được trao vào các khoản tài trợ trường đại học, giải thưởng thách thức, hội thảo và xây dựng bộ dữ liệu. Chúng tôi sẽ tiếp tục đầu tư để tiếp tục phát triển bộ dữ liệu theo thời gian và hỗ trợ cộng đồng nghiên cứu", một phát ngôn viên của Facebook nói với trang Digital Trends.
Thử thách phát hiện Deepfake sẽ bắt đầu vào tháng 10 và kéo dài đến tháng 5/2020 trên toàn cầu.
Deepfakes là một công nghệ tương đối mới song đã phát triển nhanh chóng trong năm nay. Vấn đề của nó là các trò chơi giả mạo khiến những người nổi tiếng nói điều gì đó mà họ chưa bao giờ thực sự nói, thậm chí còn tồn tại cả video deepfake trong đó hiển thị Giám đốc điều hành Facebook Mark Zuckerberg tuyên bố quyền lực của anh đối với hàng triệu dữ liệu bị đánh cắp của mọi người. Các chuyên gia cho rằng deepfake đang phát triển nhanh chóng và chỉ vài năm nữa, nó sẽ khiến các video giả mạo cực kỳ dễ làm và xuất hiện tràn làn.
Vì vậy, rất cần có biện pháp chống lại các video deepfake sai trái, các chương trình như Thử thách phát hiện Deepfake là rất cần thiết.
Hoàng Lan