Coded Bias: AI có thiên kiến một cách tình cờ?

Trong khi thực hiện một dự án marketing liên quan đến phần mềm nhận dạng mặt, nhà nghiên cứu Joy Buolamwini tại phòng thí nghiệm M.I.T. Media Lab phát hiện ra rằng thuật toán không thể phát hiện khuôn mặt của cô - cho đến khi cô đeo một chiếc mặt nạ trắng vào. Buolamwini là một người Mỹ da màu gốc Ghana.

Như cô kể lại trong bộ phim tài liệu "Coded Bias" (Sự thiên kiến được mã hóa), cô sớm nhận ra, hầu hết các chương trình trí tuệ nhân tạo (AI) hiện nay đều được đào tạo để nhận dạng mặt dựa trên các bộ dữ liệu của người da trắng và đa số là nam giới. Điều này dẫn đến một sai lệch khủng khiếp khi người ta dùng nó để cố gắng nhận biết gương mặt của những người phụ nữ da màu.

Một cách vô tình hay cố ý, hầu như tất cả những người tham dự bộ phim tài liệu - từ đạo diễn, nhà nghiên cứu, đến nhà hoạt động - đều là phụ nữ. Điều này tạo ra một bức tranh tương phản mạnh mẽ trong một thế giới công nghệ mà cấu trúc quyền lực thuộc về phía bên kia.

Bộ phim chỉ ra sự thiên vị đã xâm nhập vào các thuật toán như thế nào. Nói một cách đơn giản, thuật toán là một tập hợp các hướng dẫn được sử dụng để thực hiện một nhiệm vụ tính toán hoặc giải quyết vấn đề. Trước khi có AI, con người đưa ra các hướng dẫn đó thông qua việc lập trình và máy móc phải làm theo. Ngày nay, khi AI phát triển rực rỡ, người ta chỉ cần cung cấp cho nó một lượng lớn dữ liệu và máy sẽ tự động tìm ra cách phân loại dữ liệu nhờ việc xử lý thông tin có sẵn.

Phương pháp 'học' này của máy tỏ ra ưu việt và nhanh hơn, nhưng các lập trình viên phải thận trọng. Zeynep Tufeki, một chuyên gia công nghệ xã hội được phỏng vấn trong phim nói rằng "nó có những lỗi mà chúng tôi không thể hiểu nổi ... Và phần đáng sợ là bởi vì nó là học máy, nó là một hộp đen đối với ngay cả người lập trình."

Thật không may, phát hiện về phân biệt màu da của Buolamwini hóa ra chỉ là phần nổi của tảng băng. Xuyên suốt bộ phim, các nhà nghiên cứu chỉ ra cách các thuật toán học máy - hiện có mặt khắp nơi từ quảng cáo, tuyển dụng, nhà ở, chăm sóc sức khỏe, giáo dục, tín dụng và pháp lý v.v - có thể duy trì sự bất bình đẳng về chủng tộc, giai cấp và giới tính hiện có của xã hội.

Bộ phim di chuyển khéo léo giữa các phê bình chính trị và vấn đề xã hội lớn hơn, lập luận rằng không chỉ là công nghệ bị lỗi, mà “ngay cả khi nó hoàn hảo, nó cũng sẽ xâm phạm nguy hiểm đến quyền tự do của người dân", theo The New York Times.

Trong phim, đạo diễn Shalini Kantayya đã đan xen hàng loạt câu chuyện tại nước Mỹ và trên thế giới để tìm kiếm các chi tiết gây rúng động. Một giáo viên lớp sáu ở Houston kể lại việc hồi năm 2014, ông bị một thuật toán đánh giá các nhà giáo cho là “kém cỏi” mặc dù ông đã có nhiều năm kinh nghiệm và nhận không ít giải thưởng. Một nhóm ở London thách thức cảnh sát thủ đô khi họ cố tình cúi đầu, từ chối lộ mặt để camera công cộng (CCTV) không thể phán đoán xem liệu họ có nằm trong nhóm tội phạm truy nã không, lấy lý do điều này vi phạm quyền riêng tư. Những người này tự động được đánh dấu là rất đáng ngờ và bị phạt tiền vì những lý do không rõ ràng.

Một phân đoạn chi tiết khác đề cập các nỗ lực của Trung Quốc trong việc tạo ra một chương trình “tín dụng xã hội” - sử dụng quét khuôn mặt để nhận diện danh tính (eKYC) cho các dịch vụ như vay vốn ngân hàng, bảo hiểm y tế, đi tàu điện, v.v và tạo ra điểm số để kiểm soát quyền truy cập của họ vào các dịch vụ khác nhau. Nước Mỹ cũng không khác gì khi các các công ty truyền thông xã hội, tập đoàn và các cơ quan thực thi pháp luật giám sát mọi người và gây ảnh hưởng đến thông tin, cơ hội của công dân theo những cách tương tự. Họ chỉ không thẳng thắn về điều đó như Trung Quốc mà thôi.

Như nhà toán học Cathy O'Neil và là tác giả của cuốn sách The weapon of math destruction (tạm dịch: Vũ khí hủy diệt toán học) đã chỉ ra trong phim, chúng ta không thể hiểu các thuật toán - hoặc công nghệ nói chung - mà không hiểu cấu trúc quyền lực bất đối xứng giữa những người viết mã với những người bị áp đặt hậu quả của mã lập trình đó.

Là một bộ phim tài liệu về công nghệ, "Coded Bias" không bị quá khô khan và kỹ thuật. Thay vào đó, nó tập trung vững chắc vào con người: những thất bại của họ, những lỗ hổng và sức mạnh mà con người có thể tạo ra thông qua AI.

Nếu có hy vọng được tìm thấy ở phần kết của bộ phim, nó nằm ở những đề cập ngắn gọn về các nhà hoạt động đã vận động thành công để cấm nhận dạng mặt ở các thành phố. Nhưng cuối cùng, những bài học ta nên rút ra từ những bộ phim như "Coded Bias" không phải là về nhận dạng mặt, hoặc bất kỳ thuật toán hoặc công nghệ nào nói riêng. Đó là về cách "hệ điều hành" cơ bản của xã hội chúng ta sẽ tiếp tục sản xuất ra các công nghệ mới, có hại hơn - trừ khi chúng ta tháo dỡ hệ điều hành đó và tạo ra thứ gì tốt hơn để thay thế.