Tuy nhiên, theo tin trên Hoa Nam Nhật Báo (SMCP), quan chức tại nhiều địa phương của đất nước tỷ dân lại đang tìm cách đóng hệ thống này.
Một nhà nghiên cứu tham gia dự án Zero Trust đã nói với SMCP về nguyên nhân khiến các quan chức địa phương muốn ngưng chương trình, có thể là do họ không cảm thấy thoải mái với công nghệ mới. Thế nhưng SCMP lại đưa ra một lời giải thích khác nghe có vẻ kỳ quặc, rằng bởi hệ thống AI đã hoạt động quá tốt.
Cụ thể, Zero Trust đã sàng lọc qua rất nhiều dữ liệu, từ ngân hàng, tài sản cho đến hồ sơ xây dựng, và thậm chí cả dữ liệu vệ tinh để tìm kiếm dấu hiệu tham nhũng và khoanh vùng. Chẳng hạn, nó có thể nhận biết một giao dịch chuyển tiền đáng ngờ, hay đăng ký xe hơi hoặc tài sản mới dưới tên của một thành viên gia đình hoặc bạn bè của quan chức chính phủ.
“Chúng tôi sẽ chỉ sử dụng kết quả phân tích của máy cho mục đích tham khảo” - Zhang Zhang Yi, quan chức tại một tỉnh hiện đang sử dụng nền tảng Zero Trust, nói với SCMP. Ông này cho biết, chính quyền vẫn cần xác minh lại tính chính xác của nó, bởi cỗ máy không thể nhấc điện thoại để gọi cho đối tượng bị tình nghi là có vấn đề. Vì thế, quyết định sau cùng vẫn luôn là do con người.” Mặc dù không ai có thể phủ nhận tình trạng tham nhũng tràn lan ở Trung Quốc, song có lẽ các quan chức cũng đã đúng khi nghi ngờ những thuật toán bên trong chiếc hộp đen sẽ hạ bệ công lý mà chẳng cần phải giải thích lý do.
Một hệ thống AI có thể nhanh chóng chỉ ra hành vi tham nhũng của một quan chức, nhưng để giải thích về quy trình mà nó đã thực hiện để đi đến kết luận như vậy cũng lại là cả một vấn đề – một nhà nghiên cứu giấu tên làm việc trong dự án Zero Trust nói với SCMP. “Mặc dù sự xác nhận của máy có vẻ là đúng trong hầu hết các trường hợp, nhưng chúng ta vẫn cần phải bố trí con người cộng tác chặt chẽ với nó” - ông này nhấn mạnh.