Tác giả cuốn Sapiens tuyên bố trước Hội nghị thượng đỉnh Geneva rằng việc lan truyền người giả trên mạng xã hội có thể dẫn đến sự sụp đổ nền dân chủ.
Yuval Noah Harari tuyên bố rằng những người tạo ra các bot AI giả phải đối mặt với án tù khắc nghiệt, tương đương với những người làm tiền giả. Ông cũng kêu gọi nên xử phạt, trong đó có án tù, giám đốc điều hành các công ty công nghệ khi họ không ngăn các tài khoản giả xuất hiện trên nền tảng mạng xã hội của mình.
Phát biểu trước Hội nghị thượng đỉnh AI for Good của Liên hiệp quốc tại Geneva, Thụy Sỹ, tác giả cuốn Sapiens và Homo Deus cho rằng người giả có thể dẫn tới sự suy sụp lòng tin của công chúng và nền dân chủ.
Ông phát biểu: “Hiện nay, lần đầu tiên trong lịch sử, hàng tỷ người giả có thể được tạo ra. Nếu điều này được phép diễn ra, nó sẽ mang đến cho xã hội nguy cơ giống như tiền giả mang đến cho hệ thống tài chính. Nếu không biết ai là người thật thì lòng tin của chúng ta sẽ sụp đổ. Các mối quan hệ có thể có khả năng vượt qua khó khăn này bằng cách nào đó, nhưng nền dân chủ thì không thể”.
Sự ra đời của ChatGPT và các mô hình ngôn ngữ lớn khác đồng nghĩa với việc các bot AI không chỉ có thể khuếch đại nội dung do con người tạo ra, mà còn có thể tự dựng lên nội dung ở quy mô rộng.
“Điều gì sẽ xảy ra nếu có một nền tảng mạng xã hội, trong đó hàng triệu các bot có thể tạo nội dung hơn hẳn con người về nhiều mặt - thuyết phục hơn, hấp dẫn hơn. Nếu chúng ta cho phép điều này diễn ra, con người sẽ mất hoàn toàn sự kiểm soát việc đối thoại công khai. Nền dân chủ sẽ hoàn toàn không còn khả thi”, Harari đặt câu hỏi.
Ông cho rằng một phần của giải pháp là phải đưa ra những bản án nặng cho những người tạo ra bot và lan truyền nội dung nhân tạo trên khắp các diễn đàn công cộng. Theo ông, rất dễ để tạo ra tiền giả dù là đồng xu hay tiền giấy. Để bảo vệ hệ thống tài chính, các chính phủ đã có những điều luật nghiêm ngặt chống lại tiền giả. Nếu các công ty công nghệ bị buộc phải thực hiện những biện pháp đối phó, hoặc sẽ phải chịu phạt tù 20 năm, thì Harari dự đoán các công ty này sẽ “nhanh chóng tìm cách để các nền tảng không bị tràn ngập người giả như hiện nay”.
Ông cũng kêu gọi đầu tư nhiều hơn vào an ninh AI, cho rằng phải có luật đòi hỏi các công ty dành 20% quỹ đầu tư cho việc nghiên cứu các nguy cơ và cách xử lý chúng.
Trước khi Harari phát biểu về vấn đề này, OpenAI, công ty tạo ra ChatGPT cũng thông báo họ sẽ dành 20% năng lực tính toán của mình vào an ninh AI. Trong đó có việc lập nên một nhóm nghiên cứu chuyên tìm hiểu cách kiểm soát và điều khiển AI, tránh việc AI nổi loạn chống lại loài người.