Nhà khoa học lưu ý người dùng tuyệt đối không nên tin vào ChatGPT

Kể từ khi ra mắt vào tháng 11 năm ngoái, ChatGPT đã trở thành một hiện tượng công nghệ gây chú ý. Đây về cơ bản là một chatbot, nhưng được cải tiến bằng công nghệ học máy, có thể đưa ra câu trả lời các câu hỏi, thậm chí viết các bài luận đại học, truyện hư cấu, thơ haiku và thậm chí cả thư xin việc.

Năng lực của Chat GPT được cấu thành từ 2 yếu tố: mô hình ngôn ngữ lớn (LLM) GPT-3, và một lượng văn bản khổng lồ trên internet. AI được cung cấp hàng trăm tỷ từ, sách, hội thoại và bài viết trên internet, từ đó nó thống kê xem các từ và câu nào có xu hướng tiếp nối đằng sau các từ và câu trước. Công nghệ này gần giống cách bàn phím trên điện thoại di động tự hoàn thành văn bản khi người dùng chưa nhập hết từ, nhưng được mở rộng quy mô lớn, cho phép nó tạo ra toàn bộ văn bản thay vì từng từ đơn lẻ.

Đây là quy trình đằng sau hầu hết các chatbot AI ngày nay, nhưng bước tiến quan trọng của ChatGPT nằm ở quy trình đào tạo thêm. Sau bước huấn luyện ban đầu bằng dữ liệu internet, ChatGPT được yêu cầu đưa ra một số câu trả lời khác nhau cho nhiều câu hỏi. Sau đó, các chuyên gia về con người xếp hạng câu trả lời từ tốt nhất đến tệ nhất. ChatGPT được khuyến khích tìm cách đưa ra câu trả lời được đánh giá tốt nhất. Nhờ đó, nó có khả năng đưa ra thông tin hay văn bản được đánh giá cao và phù hợp với thực tế, thay vì chỉ là các đoạn văn trôi chảy nhưng vô nghĩa.

Thêm nữa, không giống như các chatbot cũ hơn, ChatGPT đã được thiết kế để từ chối trả lời các câu hỏi về các vấn đề mà nó chưa được đào tạo, để tránh bịa đặt thông tin. Ví dụ: ChatGPT không biết gì về thế giới sau năm 2021 vì dữ liệu của nó không được cập nhật kể từ đó.

“Nếu tôi viết một tin nhắn văn bản cho vợ mình với nội dung bắt đầu là 'Anh sắp...' thì điện thoại có thể gợi ý những từ tiếp theo là 'đi quán rượu' hoặc 'về muộn', bởi vì đó là những gì tôi đã từng gửi cho vợ mình và có khả năng sẽ lặp lại", Giáo sư Michael Wooldridge, Giám đốc nghiên cứu nền tảng AI tại Viện Alan Turing ở London, giải thích. "ChatGPT thực hiện điều này nhưng trên quy mô lớn".

“ChatGPT đôi khi viết những câu trả lời nghe trôi chảy nhưng không chính xác hoặc vô nghĩa”, OpenAI lưu ý. Nó cũng có thể đưa ra những câu trả lời dài dòng, vì những người huấn luyện AI “thích những câu trả lời dài và có vẻ toàn diện hơn”.

“Một trong những vấn đề lớn nhất với ChatGPT là nó có thể phản hồi rất tự tin bằng thông tin giả. Nó không biết điều gì là đúng hay sai. Nó không biết về thế giới. Người dùng tuyệt đối không nên tin vào nó, và cần phải kiểm tra lại những gì nó phản hồi", Wooldridge lưu ý. “Nếu bạn hỏi nó công thức món trứng tráng, nó có thể đưa ra đúng công thức, nhưng không có nghĩa nó hiểu trứng tráng là cái gì".