“Sóng thần công nghệ”: Những cảnh báo về công nghệ AI

Được viết bởi Mustafa Suleyman, cựu đồng sáng lập DeepMind và từng là nhà khoa học AI tại Google và Michael Bhaskar, một cây bút xuất bản, cuốn sách The Coming Wave: Technology, Power and the Twenty-First Century’s Greatest Dilemma (tạm dịch: Làn sóng sắp tới: Công nghệ, quyền lực và tình thế tiến thoái lưỡng nan lớn nhất thế kỷ XXI) vẽ ra một viễn cảnh công nghệ đem lại sự giàu có và thặng dư chưa từng thấy, nhưng cũng trao quyền cho những ‘kẻ xấu’ để tạo nên sự bất ổn, thậm chí là thảm họa.

Tựa sách được chuyển sang tiếng Việt là “Sóng thần công nghệ”, bởi những người biên dịch tin rằng hình ảnh sóng thần “hàm ý được cả sự mạnh mẽ của công nghệ và mối đe dọa của nó”.

Trong cuốn sách này, Suleyman tập trung vào hai làn sóng công nghệ. Đầu tiên là trí tuệ nhân tạo (Artificial Intelligence - AI), công nghệ đã choán lấy trí tưởng tượng và thu hút đầu tư mạnh mẽ của toàn cầu trong vài năm qua. Công nghệ thứ hai là sinh học tổng hợp (Synthetic Biology - SB), có lẽ ít phổ biến hơn trong các cuộc thảo luận rộng rãi, nhưng lại đang khiến các thí nghiệm sinh học trở nên dễ dàng hơn rất nhiều.

Trong gần 300 trang, Suleyman thuyết phục độc giả rằng AI và SB đe dọa sự tồn tại của con người và chúng ta chỉ có một cửa sổ hẹp để ngăn chặn chúng trước khi quá muộn. Tuy nhiên, không giống như thời chiến, chúng ta không bị ép buộc dùng AI hay SB. Chúng ta sẵn sàng chấp nhận chúng vì chúng không chỉ hứa hẹn lợi ích kinh tế mà còn là giải pháp cho các vấn đề khó khăn nhất của con người - biến đổi khí hậu, ung thư, thậm chí là ngăn chặn lão hóa và tử vong. Suleyman nhìn thấy sự hấp dẫn của công nghệ, và tất nhiên tuyên bố rằng những công nghệ này sẽ "mở ra một bình minh mới cho nhân loại".

Bản thân DeepMind được Suleyman tạo ra với một mục tiêu "giải quyết câu hỏi về trí thông minh" – nghĩa là tái tạo nhận thức của con người bằng máy tính – và "làm cho thế giới trở thành một nơi tốt đẹp hơn". Google mua lại DeepMind vào năm 2014 để phát triển một kỹ thuật AI được gọi là học sâu (deep learning); và kể từ đó, DeepMind đã tạo ra một loạt thành tựu rực rỡ, bao gồm AlphaFold, nền tảng đột phá cho phép dự đoán cấu trúc ba chiều của protein dựa trên trình tự axit amin của chúng. Không có gì ngạc nhiên khi Suleyman tin tưởng sâu sắc vào lời hứa của AI.

Nhưng tác giả cũng lo sợ rằng sự phổ biến của các công nghệ này sẽ trao quyền cho những kẻ xấu. Họ có thể tung ra các cuộc tấn công mạng quy mô lớn, thiết kế mầm bệnh virus gây đại dịch, hoặc làm dấy lên làn sóng sai lệch thông tin.

Nỗi sợ hãi của ông được thúc đẩy bởi niềm tin rằng công nghệ có xu hướng "rẻ hơn và dễ sử dụng hơn, và cuối cùng nó sinh sôi nảy nở, lan tỏa rộng rãi". Ông đề cập sự chênh lệch giữa quyền kiểm soát công nghệ và xu hướng ngược lại là dân chủ hóa công nghệ đang cùng tồn tại song song.

“Những mô hình AI lớn nhất sẽ tốn hàng trăm triệu USD để đào tạo, cho nên quyền sở hữu sẽ rơi vào tay một số ít. Nhưng [...] chỉ vài ngày sau khi đăng tải trên các tạp chí công khai, những đột phá trong lĩnh vực AI đã được đưa vào kho mã nguồn mở, cho phép ai cũng có thể dễ dàng truy cập, thử nghiệm, xây dựng và sửa đổi các mô hình hàng đầu.” - trích cuốn sách.

Tương tự, giá giải trình tự gen đã giảm mạnh, trong khi khả năng chỉnh sửa gen với các công nghệ như CRISPR được cải thiện rất nhiều, “[...] nghĩa là người yêu thích sinh học ở nhà cũng có thể mày mò khám phá giới hạn tuyệt đối của khoa học. Việc chia sẻ và sao chép DNA là chuyện bình thường. Cởi mở trở thành mặc định, sao chép lan tràn, đường cong chi phí dốc sâu, và các rào cản tiếp cận bị phá vỡ. Năng lực theo cấp số nhân được đặt vào tay bất kỳ ai muốn có.” Ông dự đoán sự cám dỗ để thao túng bộ gen của con người sẽ rất lớn.

Rõ ràng, cuốn sách không phải là về mối đe dọa gây ra bởi các AI siêu thông minh (AGI) như nhiều người thường nghĩ. Hiện nay, chỉ cần đưa ra một loại AI thông minh một chút thôi cũng đủ để người ta cảm thấy kinh ngạc vì chúng đã gia tăng đáng kể sức mạnh của con người trong thời gian rất ngắn.

Theo Suleyman, mối nguy thực sự nằm ở việc chúng ta đang phổ thông hóa nhiều công cụ AI thông minh khiến cho mọi người đều có thể tiếp cận chúng tự do, bao gồm cả những quốc gia đang rạn nứt, các giáo phái, đảng chính trị, phong trào ly khai, mạng xã hội, kẻ cuồng tín, mafia, nhóm khủng bố v.v.

Trong cuốn sách của mình, tác giả liên tục nói với người đọc rằng "làn sóng đang đến", "làn sóng sắp tới đang đến", thậm chí "làn sóng sắp tới thực sự đang đến rồi". Liệu Suleyman có quá phóng đại tốc độ điên cuồng của công nghệ? Nhà tương lai học Roy Amara từng nói rằng “chúng ta có xu hướng đánh giá quá cao tác động của một công nghệ trong ngắn hạn và đánh giá thấp hiệu quả trong dài hạn”, và quan điểm của Suleyman rằng chúng ta đang trên bờ vực của thịnh vượng và diệt vong dường như là một minh chứng cho xu hướng đó.

Mặc dù AI và SB có thể tiến bộ nhanh nhưng có thể không nhanh như ông nghĩ. Khi mô tả sự tiến bộ trong sinh học, nhiều người có xu hướng nhảy vọt từ những thành công ban đầu - ví dụ như tạo ra bộ gen vi khuẩn tổng hợp - đến những gì họ coi là trạng thái cuối cùng, không thể khác, ví dụ các loại thuốc có chi phí cực rẻ hoặc các loại thực phẩm được sản xuất theo yêu cầu. Trên thực tế, tương lai này xa vời hơn nhiều so với tưởng tượng của công chúng.

Nhưng ngay cả khi cảm nhận về thời gian của Suleyman bị lệch thì góc nhìn của ông về tương lai dường như vẫn rất đúng hướng. Ông biết rằng những công nghệ mới đang thiết lập để biến đổi động thái quyền lực toàn cầu.

Bất chấp những rủi ro thấy được, Suleyman nghi ngờ bất kỳ quốc gia nào sẽ nỗ lực để ngăn chặn các công nghệ này. Các quốc gia quá phụ thuộc vào lợi ích kinh tế của họ. Đây là vấn đề nan giải cơ bản: chúng ta không thể không xây dựng chính công nghệ có thể gây ra sự tuyệt chủng của chúng ta.

Vậy làm thế nào để thoát khỏi điều đó? Giải pháp của Suleyman là “kiềm tỏa” (containment). Theo định nghĩa của cuốn sách, containment chỉ "khả năng giám sát, cắt giảm, kiểm soát và thậm chí có thể đóng cửa các công nghệ". Suleyman có nhắc đến các quy định pháp lý (regulation), nhưng nói rằng các quy định hiệu quả cần một thời gian dài để phát triển, và công nghệ chỉ đơn giản là đi quá nhanh so với pháp luật.

Ông lập luận rằng chúng ta không nên trói buộc các công nghệ mới nổi nhiều đến mức “đổ khuôn” chúng và đảm bảo chúng thích nghi theo nhu cầu của chúng ta. Ông đề nghị làm cho những công nghệ này phải chịu sự giám sát và tuân thủ các quy tắc có thể thực thi, bao gồm kiểm toán và đánh giá bởi bên thứ ba. Ông cũng ủng hộ một "môi trường được cấp phép nhiều hơn" (more licensed environment), nơi các hệ thống AI tinh vi nhất sẽ được sản xuất "chỉ bởi các nhà phát triển được chứng nhận có trách nhiệm".

Suleyman viết: “Kiềm tỏa công nghệ cần phải là một chương trình cơ bản hơn nhiều, là sự cân bằng quyền lực không phải giữa các bên cạnh tranh mà giữa con người với công cụ. Đó là điều kiện tiên quyết cho sự tồn tại của loài người trong thế kỷ tới. Kiềm tỏa bao gồm các quy định, an toàn kỹ thuật tốt hơn, mô hình quản trị và quyền sở hữu mới, các mô hình mới về trách nhiệm giải trình và tính minh bạch, tất cả đều là những tiền đề cần thiết (nhưng chưa đủ) cho công nghệ an toàn hơn. Đó là một chiếc khóa tổng thể, kết hợp kỹ thuật tiên tiến, các giá trị đạo đức và các quy định của chính phủ.”

Góc nhìn giải quyết vấn đề của Suleyman tốt hơn so với cách tiếp cận phân tán, không phối hợp hiện hữu ở nhiều nơi. Có điều nó dường như là giấc mơ quá lý tưởng, ít nhất tại thời điểm hiện tại. Suleyman biết điều này, đó là lý do tại sao những chương cuối của cuốn sách lại mang một âm hưởng đầy lo lắng.

Tuy nhiên, ông vẫn bám sát tư tưởng của mình, kết thúc bằng việc đưa ra một kế hoạch 10 bước để kiềm tỏa công nghệ, bao gồm: