Đạo đức của một công ty công nghệ

Gần đây, Google đã phải tuyên bố giải tán Hội đồng cố vấn từ bên ngoài về công nghệ tiên tiến (ATEAC) chỉ sau một tuần thành lập, sau khi gần 2.500 nhân viên của Google ký đơn yêu cầu loại bỏ Kay Coles James, giám đốc Heritage Foundation, ra khỏi hội đồng do những lo ngại về việc nhóm cố vấn (think tank) của bà có quan điểm hoài nghi về biến đổi khí hậu trong khi cả thế giới đang vật lộn đối phó với vấn đề đó, cũng như việc cá nhân bà James đưa ra nhiều lập luận chống việc bảo vệ quyền của cộng đồng LGBTQ và người nhập cư. Trước tình thế đó, gã khổng lồ Google đơn giản quyết định đóng cửatoàn bộ hội đồng để làm lại từ đầu.

Theo kế hoạch ban đầu, Google thành lập ATEAC nhằm “hướng dẫn việc phát triển các dự án trí tuệ nhân tạo (AI) một cách có trách nhiệm” trong nội bộ tập đoàn. Hội đồng gồm 8 thành viên, không hưởng lương, trong đó có các nhà công nghệ, triết gia và kinh tế học; dự kiến họp mặt 4 lần/năm.

Tuy nhiên, quá trình lựa chọn thành viên hội đồng đã vấp phải nhiều cản trở. Ngoài những phản ứng mạnh mẽ với bà James nói trên, thì giáo sư Alessandro Acquisti thuộc Đại học Carnegie Mellon, một chuyên gia nghiên cứu về các vấn đề đạo đức liên quan đến công bằng, quyền và sự tham gia trong AI cũng đã tuyên bố từ chối tham gia hội đồng trên Twitterbởi cho rằng “diễn đàn đó không phù hợp với công việc của ông”.

Bà Dyan Gibbens, CEO một công ty về phương tiện bay không người lái (drone), và là một thành viên khác trong hội đồng, cũng gây tranh cãi do công ty của bà cung cấp công nghệ cho quân đội - đây được coi là một chủ đề nhạy cảm trong nội bộ Google khi trước đó, tập đoàn này đã vấp phải phản đối xung quanh dự án Maven với quân đội Mỹ.

Trả lời tạp chí Vox vào tháng 3/2019, phát ngôn viên của Google cho biết họ nghĩ một hội đồng đạo đức là cần thiết và mặc dù tuyên bố giải tán ATEAC nhưng họ “sẽ tiếp tục làm việc có trách nhiệm trong các vấn đề quan trọng về AI và sẽ tìm cách tiếp cận khác nhau để thu thập ý kiến từ bên ngoài cho các chủ đề liên quan đó”.

Vụ xùm lum của hội đồng ATEAC cho thấy vấn đề đạo đức trong thời đại công nghệ mới có thể rất đa dạng và gây tranh cãi. Google rõ ràng đã vấp phải sai lầm trong trường hợp này.

Về mặt lý thuyết, các hội đồng cố vấn đạo đức độc lập có thể đem lại lớn ích lớn lao bằng việc đảm bảo các sản phẩm AI được tạo ra an toàn và không chứa định kiến với nhóm cộng đồng nào. Nhưng để một hội đồng đạo đức có thể tạo ra bất kỳ ảnh hưởng có ý nghĩa nào, họ phải có trách nhiệm công khai và thẩm quyền giám sát thực sự.

Theo bà Rashida Richardson, giám đốc nghiên cứu chính sách của AI Now Institute (ĐH New York), công ty công nghệ phải sẵn sàng chia sẻ những tiêu chí để lựa chọn thành viên hội đồng, cũng như công khai chi tiết về vai trò và trách nhiệm của hội đồng đó, nếu không chúng ta không thể biết được liệu đây có thực sự là một kim chỉ nam về đạo đức hay chỉ là những kẻ nhanh nhảu gật đầu theo ý kiến từ ai đó.

Sam Gregory, Giám đốc Chương trình Witness đấu tranh cho quyền con người, cho rằng Google cần phải trao cho ban cố vấn ấy thẩm quyền được loại bỏ các dự án của công ty cũng như quyền được lắng nghe. Nếu Google thực sự muốn xây dựng sự tôn trọng đạo đức hoặc quyền con người vào các sáng kiến AI, trước tiên họ cần nhận ra rằng một ban cố vấn, thậm chí là một ban quản trị, chỉ là một phần trong một cách tiếp cận lớn hơn.

Jake Metcalf, nhà nghiên cứu về đạo đức trong công nghệ tại tổ chức phi lợi nhuận Data & Society, nhận xét đạo đức là điều khá phức tạp và tế nhị đối với một công ty, bởi chúng có thể gồm hai khía cạnh trái ngược trên thực tế: một mặt thực hiện các hoạt động hàng ngày để hiểu và giảm thiểu hậu quả (ví dụ, chạy công cụ phát hiện thiên kiến), mặt khác phải phán đoán cách sắp đặt xã hội công bằng nhất có thể (ví dụ, liệu các tổn hại khác nhau đối với cộng đồng bên lề có đòi hỏi phải loại bỏ hẳn một dòng sản phẩm). Các công ty có thể tuân theo điều thứ nhất, nhưng thường rất sợ thực hiện điều thứ hai.

Tuy nhiên, ông Metcalf nhấn mạnh, nếu đạo đức trong lĩnh vực AI không là để ngăn chặn việc lạm dụng công nghệ một cách tự động hay chặn đứng việc chuyển giao công nghệ nguy hiểm cho những chính phủ chuyên quyền thì khi đó khó mà biết các công ty công nghệ có coi đạo đức là gì hơn so với những cử chỉ trống rỗng không.

Google đã nhanh chóng tuyên bố hủy bỏ hội đồng ATEAC mà không đề cập đến " Nguyên tắc AI" đã được tổng giám đốc Sundar Pichai thuyết trình rõ ràng trước đó trước công chúng.

Theo các học giả hàng đầu, chuyên viên công ty công nghệ và các đại diện tổ chức xã hội dân sự thì trên giấy tờ, nguyên tắc AI có vẻ tốt, nhưng chúng cũng đủ linh hoạt để có thể giải thích theo các cách hiểu khác nhau khiến Google không cần thỏa hiệp bất kỳ chiến lược tăng trưởng dài hạn nào, nhất là khi cơ chế thực thi khi vi phạm nguyên tắc lại không được nêu ra rõ ràng và Google cuối cùng vẫn chỉ ở phạm vi tự điều chỉnh hành vi của mình.

Do đó, nếu một hội đồng đạo đức thành lập đúng cách, được trao quyền lực thể chế rõ ràng (thay vì chỉ đưa ra lời khuyên) và tuân theo các tiêu chuẩn trách nhiệm minh bạch cụ thể, thì nó sẽ giúp ích thực sự cho việc dẫn dắt sự phát triển AI của Google.

Nỗ lực thất bại lần này của Google cho thấy có lẽ tập đoàn cần xem xét lại những người đã chịu trách nhiệm tuyển chọn hội đồng. Bà Ellen Pao, Sáng lập dự án xây dựng cộng đồng Project Include, cho rằng có lẽ trước tiên cần tạo ra một nhóm những người người phản ánh quan niện thế giới trong nội bộ công ty, trước khi cố gắng kết hợp một nhóm tương tự ở bên ngoài.

Trên thực tế, vụ việc ATEAC cũng như những trường hợp phản đối khác từng xảy ra ở Google cho thấy cộng đồng nhân viên tại đây đóng vai trò không nhỏ trong việc đòi hỏi tập đoàn thực thi đạo đức một cách minh bạch, hiệu quả. Phó giáo sư Anna Lauren Hoffmann, trường Thông tin thuộc Đại học Washington, cho rằng đó là nguồn lực to lớn của tập đoàn.

Mặc dù những quy định và giám sát từ bên ngoài là điều cần thiết, nhưng theo bà Hoffmann, công ty nên hướng vào bên trong và trao quyền cho những nhân viên vốn đã thuộc nhóm bên lề xã hội để họ đứng lên đoàn kết với các nhóm dễ bị tổn thương khác nhằm giúp giải quyết các vấn đề gây chia rẽ.

Từ kinh nghiệm ATEAC, có lẽ Google nên kết hợp các quy trình bình duyệt từ cộng đồng có cân nhắc để phát triển các sản phẩm và dịch vụ của mình. Điều này sẽ đòi hỏi sự minh bạch và giám sát liên tục.

“Thành thật mà nói, tôi không có lời khuyên nào cho Google. Họ đang làm chính xác những gì mà doanh nghiệp trong xã hội chúng ta dự định làm.” Os Keyes, nghiên cứu sinh tại Phòng thí nghiệm sinh thái dữ liệu tại Đại học Washington, cho biết,

“Lời khuyên của tôi dành cho tất cả mọi người trừ Google. Đối với những người bên ngoài Google: hãy gọi điện thoại cho người đại diện để hỏi xem họ đang làm gì với những quy định về AI, về kiểm soát vận động hành lang hay về quy định cho doanh nghiệp. Đối với những người ở trong viện trường: hãy gọi điện cho giảng viên để hỏi xem họ đang dạy gì về đạo đức cho sinh viên. Và với những người bên trong Google: hãy gọi điện cho những người bên ngoài và hỏi họ cần gì ở bạn.”