Nguy cơ giả mạo dữ liệu hình ảnh do AI tạo ra

“AI tạo sinh đang phát triển rất nhanh. Những người làm trong lĩnh vực bảo đảm tính chính xác của hình ảnh và đạo đức xuất bản ngày càng lo ngại về tiềm năng mà nó mang lại”, Jana Christopher, chuyên gia về tính toàn vẹn hình ảnh tại nhà xuất bản FEBS Press (Đức), cho biết.

Việc xác định hình ảnh có nguồn gốc từ AI là một thách thức lớn. Không giống như hình ảnh chỉnh sửa bằng Photoshop, hình ảnh do AI tạo ra thường thiếu những dấu hiệu chỉnh sửa rõ ràng, khiến việc nhận biết tình trạng gian lận trở nên vô cùng khó khăn, đặc biệt là trong lĩnh vực sinh học phân tử và tế bào.

Có một số ví dụ nổi bật về việc sử dụng AI để làm ra hình ảnh giả mạo, chẳng hạn như bức ảnh nổi tiếng về một con chuột với bộ phận sinh sản quá lớn được vẽ bằng công cụ AI Midjourney. Bức ảnh này xuất hiện trong một bài báo khoa học được công bố trên tạp chí Frontiers in Cell and Developmental Biology vào tháng 2. Nó đã gây ra làn sóng chỉ trích trên mạng xã hội và bị thu hồi vài ngày sau đó.

Để đối phó với tình trạng trên, một số công ty đã phát triển các phần mềm như Imagetwin và Proofig có khả năng nhận diện hình ảnh do AI tạo ra với độ chính xác lên tới 98%. Họ xây dựng cơ sở dữ liệu hình ảnh AI để huấn luyện thuật toán. Các nhà xuất bản cũng đang phát triển công cụ của riêng mình. Ví dụ, Springer Nature đang phát triển công cụ Geppetto và SnapShot nhằm phát hiện dấu hiệu bất thường trong văn bản và hình ảnh.

Nguồn: Nature.com