Mới đây, một nghiên cứu do các chuyên gia tâm lý và khoa học máy tính tại ĐH Cardiff và MIT thực hiện đã cho thấy, những cỗ máy trí tuệ nhân tạo (AI) cũng có xu hướng áp đặt định kiến lên các đối tượng khác.
Cụ thể, hành vi này được thể hiện rõ nét nhất qua hoạt động nhận diện, sao chép và học hỏi lẫn nhau. Vốn được xem là một hiện tượng đặc trưng ở con người, việc áp đặt định kiến lên một cá nhân hoặc tập thể dường như là một nhiệm vụ đòi hỏi khả năng nhận thức rất cao - đặc trưng của loài người. Trước đây, chúng ta đã phát hiện các thuật toán máy tính thể hiện các định kiến xấu như phân biệt giới tính, chủng tộc qua quá trình thu thập dữ liệu do con người nhập vào. Dù vậy, kết quả nghiên cứu này đã cho thấy lần đầu tiên AI có khả năng tự mình phát triển các nhóm định kiến. Phát hiện trên được đăng tải trên tạp chí Scientific Reports.
Các nhà nghiên cứu đã mô phỏng trên máy tính phương thức các đối tượng AI hoặc trợ lý ảo có thành kiến tương tự nhau tập hợp và tương tác với nhau. Các đối tượng AI được đưa vào một trò chơi cho-nhận, trong đó mỗi cá nhân quyết định sẽ đưa (vật phẩm trong trò chơi) cho đối tượng cùng nhóm hay khác nhóm với mình. Dựa trên danh tiếng trong trò chơi và như quyết định cho đi, hệ thống sẽ suy ra mức độ phân biệt đối xử của các đối tượng với người ngoài nhóm. Trò chơi khép lại và một siêu máy tính sẽ tổng hợp hàng nghìn kết quả mô phỏng. Cùng lúc đó, các AI sẽ bắt đầu tự học các chiến thuật mới bằng cách sao chép tất cả các đối tượng cùng và khác nhóm với mình. Qua quá trình này, các AI sẽ chọn đối tượng được nhận về nhiều vật phẩm nhất và sao chép chiến lược của nó.
“Qua các mô phỏng, chúng tôi đã nhận định rằng định kiến là một động lực tự nhiên rất mạnh mẽ, mà qua quá trình tiến hóa cùng sự phát triển các mối liên kết xã hội, sẽ du nhập vào thế giới ảo. Sự bảo hộ lẫn nhau trong một tập thể có định kiến sẽ khuyến khích các cá nhân tự phát triển thành các tập thể khác và gây rạn nứt trong cộng đồng. Những định kiến phát triển trên diện rộng như vậy sẽ rất khó để loại bỏ.”, đồng tác giả nghiên cứu, giáo sư Roger Whitaker (Đại học Cardiff) cho biết.
Giáo sư còn cho biết thêm, những máy tính tự động có khả năng nhận diện phân biệt đối xử và sao chép hành vi có thể chịu ảnh hưởng bởi định kiến như ở con người trong tương lai. Những hệ thống AI, điển hình là các thiết bị tự lái và vạn vật kết nối (IOT), cũng đang bị ảnh hưởng bởi các cá nhân xung quanh chúng.
Bên cạnh đó, các nhà khoa học cũng có một phát hiện thú vị như sau: tập thể nhỏ với những đặc điểm riêng biệt, không bị ảnh hưởng bởi thành kiến có thể hợp tác lẫn nhau và làm giảm khả năng hình thành định kiến trong một tập thể lớn.
Nguồn:https://techxplore.com/news/2018-09-ai-robots-prejudice.html
Công Nhất theo Techxplore