Làm thế nào để người dùng tin tưởng AI?

Họ trình bày những phát hiện của mình tại Hội nghị quốc tế hàng đầu về nghiên cứu tương tác người - máy ACM CHI 2021. Kết quả cho thấy, những người dùng quen thuộc với công nghệ - hay còn được gọi là những người dùng quyền lực như các kỹ sư phần mềm, những người sử dụng các tính năng nâng cao của phần cứng, hệ điều hành, chương trình hoặc trang web; chuyên gia chỉnh sửa video, nhà thiết kế đồ họa; game thủ, … ưa thích AI khi chúng cần giúp đỡ. Trong khi đó, người dùng không chuyên thích hệ thống AI tự giới thiệu rằng chúng vừa cung cấp sự hỗ trợ, vừa tìm kiếm sự giúp đỡ.

Theo giáo sư S. Shyam Sundar tại trường truyền thông Donald P. Bellisario của ĐH Bang Pennsylvania và là đồng giám đốc Phòng thí nghiệm nghiên cứu hiệu ứng truyền thông, khi AI ngày càng trở nên phổ biến, các nhà phát triển cần tạo ra những hệ thống liên hệ tốt hơn với con người. “Chúng ta cần phải suy nghĩ lại về cách các hệ thống AI nói chuyện với người dùng. Vấn đề này nổi lên bởi ngày càng có nhiều quan ngại về việc AI đã bắt đầu chiếm lấy cuộc sống của chúng ta và biết về chúng ta nhiều hơn những gì ta nhận ra. Vì vậy, tốt hơn là chúng ta nên bắt đầu chuyển từ những kịch bản đối thoại truyền thống [mà máy móc đang sử dụng] sang một dạng giao tiếp mang tính hợp tác hoặc cộng tác hơn để thừa nhận vai trò tự quyết của người dùng”, ông nói.

Các nhà nghiên cứu cho biết những đối thoại AI truyền thống thường đóng khung vai trò của AI như một kẻ trợ giúp. Trên thực tế, những người chuyên dùng máy tính có thể cảm thấy khó chịu với điều này vì chúng như thể đang ra vẻ bề trên với họ. Chẳng hạn như yêu cầu cung cấp thông tin ngày sinh của Facebook để AI của họ có thể đưa ra trải nghiệm phù hợp với lứa tuổi, Sundar nói rằng khi đó, AI dường như có thái độ... gia trưởng trong cách giao tiếp với người dùng.

Mặt khác, khi một hệ thống AI đề nghị người dùng giúp đỡ, nó sẽ mang tính xã hội hơn. Theo Mengqi Liao, nghiên cứu sinh truyền thông đại chúng và là tác giả chính, “việc ai đó tìm kiếm sự giúp đỡ là hành vi vốn có của xã hội và rất tự nhiên trong giao tiếp. Nó giúp mọi người tin tưởng hơn và tăng ý định cung cấp thông tin cá nhân cho AI hơn. Người dùng quyền lực cũng đánh giá cao năng lực của những AI này hơn, mặc dù chúng mang lại kết quả tương tự như các AI khác”. Khi hệ thống vừa tìm kiếm sự giúp đỡ vừa nói với người dùng rằng nó có thể giúp họ trong tương lai, những người dùng không chuyên cũng sẽ ít lo ngại về quyền riêng tư hơn.

Nghiên cứu đem lại cho các nhà thiết kế một cách tiếp cận đạo đức để tăng niềm tin của người dùng với máy móc thay vì cố gắng lừa họ cung cấp thông tin cá nhân. Nó cũng hữu ích với các nhà thiết kế muốn xây dựng chiến thuật để chống lại những hệ thống AI săn người dùng. Ví dụ, Liao cho biết họ thấy rằng sự hiện diện của cả hai tín hiệu “tìm kiếm sự giúp đỡ” và “cung cấp sự giúp đỡ” có thể làm tăng mối lo ngại về quyền riêng tư của những người dùng chuyên nghiệp. Do đó, chỉ cần thêm cả hai dấu hiệu đó vào lời giới thiệu của AI là có thể khiến họ trở nên cảnh giác hơn về thông tin cá nhân.

Đối với người dùng không chuyên, các nhà thiết kế có thể thêm các tín hiệu “tìm kiếm sự trợ giúp” để làm giảm sự hiện diện xã hội và khuyến khích người dùng trở nên cảnh giác hơn về thông tin cá nhân.

Trong tương lai, họ có thể xem xét việc sử dụng AI trong những bối cảnh nhạy cảm hơn, chẳng hạn như thu thập thông tin tài chính và y tế, để xác định xem cách giới thiệu nào có thể ảnh hưởng đến sự cảnh giác của người dùng trong việc bảo vệ thông tin này.

Tiasang