EU muốn ràng buộc trách nhiệm của các công ty phát triển AI

Khi AI được sử dụng ngày càng nhiều hơn, từ đề xuất nội dung trên mạng xã hội đến rà soát hồ sơ xin việc, công nghệ này cũng có nguy cơ gây tổn hại nhiều hơn. Không ít lần các thuật toán mạng xã hội lan truyền tin giả, các hệ thống nhận dạng khuôn mặt phân biệt chủng tộc hay các hệ thống rà soát tín dụng thường xuyên từ chối cho vay với các nhóm thiểu số.

Dự luật mới - Chỉ thị về trách nhiệm pháp lý đối với AI, thuộc Đạo luật AI của EU - nhằm kiểm soát chặt chẽ hơn việc sử dụng các AI trong các lĩnh vực nhạy cảm như chính sách, tuyển dụng hoặc chăm sóc sức khỏe.

Theo dự luật này, người dân và các tổ chức có quyền đòi nhà phát triển AI bồi thường thiệt hại nếu bị một hệ thống AI ảnh hưởng tiêu cực. Mục đích là để các nhà phát triển, nhà sản xuất và các bên sử dụng công nghệ AI phải chịu trách nhiệm cho hệ thống của mình, cũng như minh bạch về cách xây dựng và đào tạo AI.

Một số tổ chức hoạt động vì quyền của người tiêu dùng cho biết đạo luật này chưa đủ chặt chẽ để có thể bảo vệ lợi ích của công dân.

Gánh nặng phải chứng minh tác hại của một hệ thống AI đặt lên vai người tiêu dùng, trong khi không phải ai cũng hiểu về công nghệ này để tìm ra điểm sai sót, theoAItheo Ursula Pachl, Phó tổng giám đốc của Tổ chức Người tiêu dùng châu Âu, nói.

Đạo luật cũng chưa tính đến các rủi ro gián tiếp do AI gây ra, theo Claudia Prettner, đại diện khu vực EU của Future of Life Institute - một tổ chức phi lợi nhuận nghiên cứu các rủi ro AI, cho biết Dự luật cũng không tính đến những tác hại gián tiếp do hệ thống AI gây ra. Các hệ thống AI thường được xây dựng cho một mục đích nhất định nhưng sau đó vô tình dẫn đến những tác hại không ngờ. Ví dụ, các thuật toán mạng xã hội được xây dựng để lôi kéo người dùng nhưng vô tình phát tán nội dung cực đoan.

Vì thế để chặt chẽ hơn, Dự luật cần yêu cầu các công ty phát triển AI chịu trách nhiệm cho các thiệt hại mà AI gây ra ngay cả khi không có yếu tố lỗi, Prettner khuyến nghị.

Phải mất ít nhất vài năm để các thành viên của Nghị viện châu Âu và các chính phủ EU sửa đổi Dự luật, và Dự luật có thể sẽ gặp phản ứng dữ dội từ các công ty công nghệ.

Quy tắc mới giống như đòi hỏi lập trình viên chịu trách nhiệm pháp lý khi phần mềm có lỗi, và chịu cả trách nhiệm về tác động tiềm ẩn của phần mềm đối với sức khỏe tinh thần của người dùng, theo Mathilde Adjutor, giám đốc chính sách khu vực châu Âu của nhóm vận động hành lang công nghệ CCIA, đại diện cho các công ty bao gồm Google, Amazon và Uber. Đại diện CCIA cho rằng Dự luật sẽ có tác động bất lợi đến sự phát triển của công nghệ phần mềm.

Các chuyên gia trong ngành dự đoán cho dù dự luật này có thành công hay không, thì cũng sẽ ảnh hưởng đến cách các nước khác điều chỉnh AI.