Nhưng nguy hiểm lớn nhất mà con người phải đối mặt với sự tự động hóa chính là chúng ta ngày càng phụ thuộc vào nó.
Tháng 5/2009, chiếc phi cơ Airbus 2009 cất cánh lần cuối khi đang bay từ Rio đến Paris thì “chết sững” giữa không trung và lao xuống Đại Tây Dương. Toàn bộ 228 người trên máy bay thiệt mạng. Sau khi tìm thấy hộp đen, người ta phát hiện, hóa ra chế độ tự lái đã “nổi loạn”, các phi công buộc phải tự điều khiển và rủi ro thay họ đã mất đi năng lực xử lý tình huống khẩn cấp vì từ trước đến nay luôn có hệ thống “tự động hóa” giúp đỡ.
Đây là chỉ một ví dụ trong hơn 375 nguồn tài liệu tác giả Nicholas Carr đã tỉ mỉ nghiên cứu để trình bày trong cuốn sách “Lồng kính”, hòng soi xét mối quan hệ giữa tự động hóa và chúng ta, vốn từ trước đến nay vẫn bị phủ bóng bởi những diễn ngôn quá lạc quan về sự nhiệm màu của công nghệ số.
Trong cuốn sách trước đó, “Trí tuệ giả tạo”, Carr đã từng làm nên tên tuổi của mình khi dũng cảm đi ngược lại đám đông “cuồng” công nghệ, vì ông lập luận rằng Internet đang làm con người ngu ngốc đi, không thể tập trung vào đọc sách, và khiến khả năng suy nghĩ ngày càng yếu kém. Công cụ không bao giờ chỉ là một phương tiện, và với sự phát triển như vũ bão của các robot, công nghệ tự động hóa và máy móc tự hành, Carr lại đặt câu hỏi tương tự trong “Lồng kính” rằng liệu loài người có đang đi nhầm đường khi nhắm mắt tin vào vị thần mang tên “Tự động hóa”?
Ví dụ, hiểm họa khi các phi công ngày càng chia sẻ trách nhiệm cầm lái với phần mềm là gì? Carr viết, “Quá phụ thuộc vào tự động hóa máy tính có thể làm xói mòn chuyên môn của các cơ trưởng, làm chậm các phản xạ của họ, và giảm thiểu sự chú tâm của họ dẫn đến điều mà Jan Noeys, chuyên gia về các nhân tố con người tại Đại học Bristol, gọi là ‘một sự biến mất kỹ năng của đội bay.’ “
Tất nhiên, Carr không phải là một kẻ chống công nghệ. Ông hiểu rằng nếu được sử dụng thông minh, các máy móc sẽ mở ra rất nhiều tiềm năng cho con người và thúc đẩy nhân loại đi xa hơn. Nhưng nguy hiểm lớn nhất mà con người phải đối mặt với sự tự động hóa chính là chúng ta ngày càng phụ thuộc vào nó.
“Sự tự mãn vào tự động hóa nảy sinh khi một chiếc máy tính tạo cho chúng ta cảm giác an toàn giả tạo. Chúng ta tự tin rằng máy móc sẽ làm việc hoàn hảo, xử lý bất cứ thách thức nào đến mức cho phép sự tập trung của mình bay bổng. Chúng ta xa lánh khỏi công việc, hoặc ít nhất khỏi mảng công việc mà phần mềm đang xử lý, và vì vậy có thể bỏ lỡ những tín hiệu rằng đang có vấn đề xảy ra.”
Đó chính là nỗi sợ của Carr khi ông viết một cuốn sách «ngược dòng» nữa để đánh thức công chúng với mong muốn họ có một cuộc thảo luận cân bằng hơn về mặt lợi ích cũng như tiêu cực của tự động hóa – cấu phần then chốt của cuộc cách mạng 4.0 sắp tới.