Harari tin rằng với AI, lần đầu tiên con người trao quyền “định đoạt tất cả” cho một tạo vật của mình. Chắc chắn AI có hiệu quả đáng kinh ngạc trong trong rất nhiều lĩnh vực, chẳng hạn như phát hiện một số bệnh, thiết kế các vật liệu và thuốc mới, dự đoán bão hoặc cháy rừng. Tuy nhiên, với khả năng có thể tự mình ra quyết định, những mô hình AI này, theo Yuval Noah Harari, sở hữu đủ sức mạnh để phá hủy toàn bộ những nền tảng xã hội mà nhân loại đã xây dựng từ hàng ngàn năm nay.
Nexus được chia thành ba phần chính, mỗi phần đều khắc họa sự tiến hóa của các mạng lưới thông tin qua từng giai đoạn lịch sử và những thách thức mà chúng đặt ra cho nhân loại.
Harari dẫn người đọc đi từ những hình thức giao tiếp ban đầu trong các xã hội loài người sơ khai (truyền miệng, tranh hang động….) cho đến sự trỗi dậy của các phương tiện phát thanh, truyền hình và cuối cùng là Internet. Những câu chuyện trên được kể từ một góc nhìn đủ xa và đủ rộng để làm lộ ra sự liên tục và những bước nhảy vọt đáng ngạc nhiên. Tác giả tập trung công kích cái mà ông gọi là “góc nhìn ngây ngô về thông tin”, cho rằng mỗi khi con người thu thập nhiều thông tin hơn, họ sẽ nắm giữ nhiều sự thật hơn, do đó mang lại cho họ sự khôn ngoan và quyền lực lớn hơn. Bác bỏ luận điểm này, Harari cho rằng không có mối tương quan giữa thông tin, sự thật và khả năng gây ảnh hưởng đến người khác. Thứ gắn kết các mạng thông tin của con người với nhau không phải là sự thật mà chủ yếu là những câu chuyện.
Lịch sử của các cuộc cách mạng thông tin đã xác nhận luận điểm này. Những người tin vào thứ “lý thuyết thông tin ngây thơ” có thể cho rằng cuộc cách mạng Gutenberg về in ấn đã dẫn đến sự sụt giảm mạnh mức độ lan truyền thông tin sai lệch. Tuy nhiên, như Harari viết, thực tế diễn ra hoàn toàn khác. Nếu cuộc cách mạng in ấn cho phép xuất bản các chuyên luận khoa học, nó cũng tạo điều kiện cho việc truyền bá những thuyết âm mưu ngông cuồng nhất, những cuộc tranh cãi và những trò hề vô bổ của các giáo phái, chẳng hạn như những cuộc săn phù thủy ở châu Âu đầu thời cận đại.
Harari tập trung phần lớn dung lượng cuốn sách vào sự phát triển của công nghệ thông tin hiện đại, đặc biệt là vai trò của máy tính và AI cũng như các nguy cơ đi kèm có khả năng dẫn đến sự huỷ diệt của nhân loại. Ông mô tả cách mà các hệ thống kỹ thuật số đã thay đổi bản chất của mạng lưới thông tin, biến chúng từ các công cụ ghi chép và truyền tải thành những thực thể tự động hóa, có khả năng ra quyết định và can thiệp vào đời sống con người.
Trong bài trả lời phỏng vấn báo
Le Point của Pháp mới đây nhân dịp ra mắt ấn bản tiếng Pháp của
Nexus, Harari đã nhấn mạnh: “AI thực sự là công cụ mạnh mẽ nhất mà nhân loại từng phát minh ra, bởi vì nó là công nghệ đầu tiên có khả năng tự ra quyết định. Không giống như những phát minh mạnh mẽ khác, ví dụ như bom nguyên tử, vẫn là công cụ trong tay chúng ta, AI là một tác nhân độc lập. Nó có thể vượt khỏi tầm kiểm soát của chúng ta và bắt đầu làm những việc mà chúng ta không lường trước được. Đây chính là điều khiến nó vừa hấp dẫn vừa nguy hiểm.”
Theo Harari, các hệ thống kỹ thuật số và AI thuộc về các “mạng vô cơ”, chúng không phải là các sản phẩm tự nhiên của sự tiến hóa sinh học, một khi được trang bị các hệ thống giám sát và các thuật toán ra quyết định, chúng có thể vượt khỏi khả năng kiểm soát của con người và trở thành các tác nhân độc lập.
Khái niệm “quyết định” là trọng tâm trong lập luận của Harari. Trong chương mở đầu phần hai, “Những thành viên mới: Máy tính khác với máy in như thế nào”, Harari sử dụng từ “quyết định” hơn 13 lần, và lặp lại nhiều lần các từ như “chọn” và “hành động”. Lựa chọn từ vựng này dường như ngụ ý rằng máy tính sở hữu thứ mà các nhà triết học gọi là “chủ ý” - khả năng thực hiện theo các chuỗi hành động xuất phát từ bên trong chúng chứ không phải từ áp lực cơ học bên ngoài hoặc sự điều hướng của thuật toán “nếu…thì…”.
Harari bày tỏ lo lắng về công nghệ giám sát dưới da (
under-the-skin surveillance), một công nghệ có khả năng theo dõi và phân tích các trạng thái sinh học và cảm xúc của con người. Điều này đặc biệt nguy hiểm khi AI và các hệ thống dữ liệu có thể sử dụng những thông tin đó để dự đoán và điều khiển hành vi của con người. Ông cũng cảnh báo về hệ thống tín dụng xã hội (
social credit system), một hình thức kiểm soát xã hội thông qua việc đánh giá hành vi của công dân. Hệ thống này không chỉ đo lường và giám sát các hành vi công cộng mà còn tác động mạnh mẽ đến quyền tự do và sự riêng tư của con người.
Xuyên suốt cuốn sách, Harari nhấn mạnh vai trò quan trọng của những câu chuyện kể trong xã hội loài người: “Những câu chuyện đã đưa chúng ta đến với nhau”; “Sách truyền bá ý tưởng của chúng ta – và thần thoại của chúng ta.” Từ những huyền thoại tôn giáo đến lịch sử dân tộc, những câu chuyện đã định hình nên hành vi của con người. Chính vì lẽ đó, những câu chuyện sai lệch, những tin tức giả được sáng tác bởi các thuật toán truyền thông xã hội (một dạng trí tuệ phi con người) nhằm gây ảnh hưởng, thao túng chúng ta lại càng trở nên cực kỳ nguy hiểm; những mạng lưới thông tin vô cơ và phi nhân tính này được Harari ví như những khối thuốc nổ, một khi được châm ngòi, có thể đánh sập toàn bộ cấu trúc của xã hội loài người. Một trong những ví dụ khét tiếng nhất là việc các thuật toán của Facebook đã tham gia đắc lực vào việc thổi bùng ngọn lửa bạo lực dẫn đến việc tàn sát những người Rohingya ở Myanmar vào giai đoạn 2016-2017. Các thuật toán của Facebook luôn hướng tới việc tăng mức độ tương tác của người dùng. Thông qua trải nghiệm của hàng triệu người dùng, các thuật toán đã nhận thấy những cơn điên cuồng và phẫn nộ tập thể luôn đẩy số tương tác tăng vọt, vì thế chúng đã đi đến “quyết định” tai hại là lan truyền sự hận thù và phẫn nộ. Đây là dấu ấn đặc trưng của AI - khả năng của một cỗ máy tự tìm hiểu và tự quyết định hành động.
Cũng trong bài trả lời phỏng vấn báo
Le Point được nhắc đến ở trên, Harari đã lên tiếng chống lại cái mà ông gọi là “chủ nghĩa thực dân dữ liệu”. Theo ông, “Chủ nghĩa thực dân dữ liệu đã là một thực tế. Một số chính phủ và công ty, chủ yếu có trụ sở tại Mỹ và Trung Quốc, đã kiểm soát hầu hết thông tin của thế giới, và nhờ đó có được sức mạnh to lớn. Tình trạng này giống cuộc cách mạng công nghiệp cơ khí, khi mà một số ít quốc gia công nghiệp hóa đầu tiên thống trị phần còn lại của thế giới. Các đế chế công nghiệp của thế kỷ 19 và 20 đã khai thác và đàn áp các thuộc địa của họ, và sẽ là không khôn ngoan nếu giờ đây chúng ta mong đợi các đế chế kỹ thuật số mới xuất hiện này hành xử tốt hơn những chế độ thực dân trong quá khứ.”
Hình ảnh bức màn silicon (silicon curtain) được Harari sử dụng như một ẩn dụ để mô tả những tiên đoán của ông về sự chia rẽ thế giới thành các khối kỹ thuật số đối nghịch, giống như bức màn sắt trong Chiến tranh Lạnh. Harari cảnh báo nếu không có sự hợp tác quốc tế và các quy định rõ ràng, thế giới có thể bị phân hóa bởi những công nghệ và hệ tư tưởng khác biệt, dẫn đến các cuộc xung đột và căng thẳng mới.
Mặc dù còn nhiều tranh cãi về tính chính xác và khả năng dự đoán của Harari, với việc công bố tác phẩm
Nexus, Harari đã thành công trong việc tạo ra một khung lý thuyết mới, cho thấy vai trò then chốt của thông tin không chỉ trong việc định hình xã hội loài người mà còn trong việc tạo nên các thực thể như quốc gia, luật pháp và tôn giáo. Và đứng trên lập trường đó, ông đã lên tiếng khẩn thiết cảnh báo về những thách thức của tương lai khi mà các mạng thông tin “vô cơ” như hệ thống kỹ thuật số và AI can thiệp, làm thay đổi, thậm chí là phá hủy hoàn toàn cơ cấu xã hội hiện đại. Vậy thì điều gì có thể ngăn cản một thảm họa như vậy xảy ra với nhân loại? Theo Harari, cần có sự hợp tác toàn cầu và các cơ chế điều tiết hiệu quả để bảo đảm rằng AI sẽ không bao giờ trở thành một công cụ kiểm soát và áp bức mà ngược lại, nó sẽ chỉ hướng đến việc phục vụ lợi ích của con người. Một trong những biện pháp thực tiễn cần thiết mà Harari đề xuất chính là tạo dựng những cơ chế tự sửa sai mạnh mẽ, cho phép chúng ta nhanh chóng nhận ra và sửa chữa những sai lầm tiềm ẩn, những sai lầm đến từ các quyết định của các dạng tư duy phi nhân tính kiểu như AI, trước khi chúng trở nên nghiêm trọng, có khả năng hủy diệt của con người.