AI và “vô thức thuật toán”

Bài viết của Possati khởi đầu cho một dự án nghiên cứu lớn hơn về mối quan hệ giữa AI và bệnh tâm thần, trong đó nhiều câu hỏi thú vị đã được đặt ra. Chẳng hạn: sau khi tiếp nhận lượng lớn văn bản của người mắc bệnh tâm thần, liệu chatbot có thể “lây” bệnh rồi “truyền” cho người dùng khác? Liệu có thể áp dụng những phạm trù như “loạn tâm” (psychosis - việc trốn vào thế giới “ảo” do mình dựng nên) hay “nhiễu tâm” (neurosis - việc gặp khó khăn khi thích nghi với thế giới được công nhận là “thật”) để mô tả một số lỗi lặp đi lặp lại của AI hay không? Và nên sử dụng AI như thế nào trong quá trình chẩn đoán và trị liệu các chứng bệnh tâm thần?

Để giải quyết những câu hỏi này, Possati đã chọn một góc nhìn đặc biệt. Ông lập luận rằng thay vì là một “đồ vật” cố định như máy móc truyền thống, AI đang liên tục tái định hình thông qua tương tác với cá nhân người dùng, thị trường, các kho dữ liệu, và các tiến bộ công nghệ xuất phát từ nhiều nguồn khác nhau. Như vậy, AI không phải là một vật, mà là một tổ hợp các tác nhân xã hội tuân theo các mô hình hành vi và sinh thái đặc thù. Để thật sự hiểu AI, cần phối hợp hướng tiếp cận của khoa học xã hội và nhân văn với các nghiên cứu về logic toán học và kỹ thuật máy.

Nhằm khảo sát đồng thời cả con người lẫn máy móc, Possati quyết định áp dụng lý thuyết mạng - tác nhân (actor-network theory) của nhà nhân học Bruno Latour (1947-2022).

Thay vì nhìn thế giới qua các cặp nhị nguyên như chủ thể - khách thể, người - vật…, Latour coi cả người, động thực vật lẫn các vật vô cơ như những chủ thể ngang hàng, có khả năng tương tác qua lại lẫn nhau trong cùng một mạng lưới những mối liên hệ. Chẳng hạn, trong một mô hình khai thác sò điệp ở Nhật Bản mà lý thuyết này từng được áp dụng để nghiên cứu, ngư dân, sò điệp, vịnh biển, chính phủ và các nhà khoa học đã hiện diện như những tác nhân không ngừng tham gia một cuộc đàm phán đa phương. Mỗi tác nhân vừa kể vận hành theo những quy luật vật lý, sinh học hoặc xã hội riêng, và lý thuyết của Latour xem xét cùng lúc tất cả những phương diện này, thay vì quy giản bức tranh tổng thể thành một quy luật duy nhất.

Latour lưu ý rằng khi hai tác nhân trong mạng lưới hành động theo hai hướng mâu thuẫn nhau, chúng chỉ có hai lựa chọn: hoặc thay đổi chương trình hành động của mình, hoặc hòa giải thông qua một sự “phiên dịch”. Trong quá trình “phiên dịch”, hai tác nhân sẽ tạo nên một liên kết hoàn toàn mới bằng cách trao đổi một số đặc tính hoặc năng lực cho nhau. Chẳng hạn, khi một đứa trẻ soi gương, nó chuyển giao hình bóng của mình cho mặt gương, và nhận lại từ gương một tầm nhìn. Giữa hai tác nhân hình thành một liên kết mới, làm biến đổi cả hai: đứa trẻ có thêm khả năng nhận diện bản thân và những vật xung quanh, còn tấm gương trở thành một vật hữu dụng làm đứa trẻ hứng thú. Tương tự, những AI có khả năng tự học đang liên tục tái định hình thông qua tương tác với đội ngũ nhân viên và người dùng; trong khi ở chiều ngược lại, người dùng cũng bị định hình bởi AI trong vô vàn quyết định - từ mua hàng, bỏ phiếu cho đến hẹn hò và kết hôn. Mức độ và tốc độ tái định hình lẫn nhau trong mối quan hệ AI - con người khiến lý thuyết của Latour trở thành một công cụ đặc biệt phù hợp để phân tích.

Vậy đâu là hiện tượng tâm lý chi phối mối quan hệ giữa AI và con người, ngay từ khi ý tưởng về AI lần đầu xuất hiện? Possati cho rằng đó là hiện tượng “đồng nhất hóa” (identification) – tức việc con người đồng hóa mình với một đặc điểm của kẻ khác, qua đó biến đổi bản thân theo cấu trúc mà kẻ khác cung cấp, nhờ đó dần hình thành bản sắc (identity). Con người đã phóng chiếu hình ảnh của mình thành AI, rồi tự đồng hóa mình với AI trong quá trình dùng.

Công trình nghiên cứu AI đầu tiên là “mạng neuron nhân tạo” (1943) của McCulloch và Pitts - một hàm toán học mô phỏng các neuron sinh học của bộ não. Sau thời điểm đó, quá trình tương tác giữa người và máy tiếp tục buộc máy phải giống người, dù các hạn chế kỹ thuật khiến việc này trở nên khó khăn. Chẳng hạn, áp lực cạnh tranh sẽ buộc các công ty cải tiến AI sao cho nó giao tiếp tốt với người sử dụng. AI học hỏi qua dữ liệu do con người cung cấp, nhờ đó cũng mô phỏng ngôn ngữ và lựa chọn của con người một cách ngày càng thuần thục hơn. Càng đi lệch các quy chuẩn của con người, AI càng dễ bị thị trường và xã hội đào thải.

Ở chiều ngược lại, quá trình tương tác với AI cũng khiến con người có khuynh hướng đồng nhất hóa mình với máy. Possati dẫn một nhận xét của giáo sư Margaret Boden, theo đó các môn khoa học nhận thức hiện tại – bao gồm tâm lý học, khoa học thần kinh, ngôn ngữ học, triết học, AI và nhiều ngành khác liên quan – đang có xu hướng “coi tâm trí con người như một cỗ máy tính toán”.

Nếu xem xét đặc điểm này của AI qua lý thuyết của nhà phân tâm học Jacques Lacan (1901-1981), ta sẽ thấy nó mang một ý nghĩa đặc biệt.

Lacan cho rằng hiện tượng đồng nhất hóa có vai trò quan trọng trong việc sinh ra cả cái Tôi, vô thức lẫn ý thức. Một mặt, cái Tôi của đứa trẻ sơ sinh xuất hiện khi nó tự “đồng nhất” các bộ phận cơ thể rời rạc của mình với hình hài đang được mẹ nó bồng bế một cách dịu dàng, hoặc với hình ảnh phản chiếu của nó trên mặt gương. Mặt khác, trong quá trình tự “đồng nhất” mình với mẹ (tức khối vật chất mà từ đó nó tách ra, và tiếp tục giúp nó duy trì sự sống trong giai đoạn sơ sinh), đứa trẻ cũng hấp thụ những lề luật của người mẹ, để rồi hình thành ý thức từ những phát biểu được lề luật cho phép, và hình thành vô thức từ những phát biểu bị cấm đoán. Khi nhận thấy lề luật này tồn tại khách quan với người mẹ (ví dụ: thể hiện qua gia quy do người cha đại diện), đứa trẻ sẽ nhận thức được tính trừu tượng của lề luật, và dần hình thành khả năng tư duy bằng ngôn ngữ trừu tượng – một năng lực chỉ có ở con người. Xét quan hệ mật thiết giữa AI và hiện tượng đồng nhất hóa, cùng sự tồn tại của AI như một khối ngôn ngữ và lề luật tự hành, có thể thấy AI sẽ giữ một vai trò quan trọng trong việc định hình phần vô thức của con người – tức những gì bị họ dồn nén, để rồi định hướng hành động của họ từ trong bóng tối.

Một khối con người và AI liên tục tương tác với nhau có thể làm phát sinh vô thức không? Possati chỉ ra rằng ba thành phần tạo nên khối này – con người, phần cứng và phần mềm – vốn vừa xung đột lẫn nhau, vừa ẩn chứa những xung đột nội tại. Ham muốn về bản sắc (identity) của người dùng này có thể xung khắc với người dùng khác: dư luận đã tức giận khi một số AI dễ dàng nhận diện gương mặt của người da trắng, nhưng lại đánh đồng gương mặt của người da đen với tinh tinh. Mạch điện của phần cứng và thuật toán của phần mềm vốn được phát triển độc lập với nhau trong hầu hết dòng lịch sử, vì vậy có bản chất khác nhau và thường xuyên xung đột nhau. Đó là chưa kể đến mâu thuẫn có thể phát sinh giữa ngôn ngữ lập trình cấp cao và cấp thấp, hay giữa các linh kiện trên cùng một bảng mạch. Tất cả những xung đột vừa kể đều góp phần định hình cách thức khiến một số câu lệnh được thực hiện, còn số khác bị loại trừ, để rồi phần thông tin bị loại trừ tiếp tục tồn tại trong kho kinh nghiệm chi phối quá trình sản sinh thông tin. Nếu vô thức là một phần của khối ngôn ngữ tạo nên chủ thể người, thì sự ra đời của một khối ngôn ngữ tự hành như AI sẽ đi kèm với sự mở rộng định nghĩa về vô thức.

Possati dùng cụm từ “vô thức thuật toán” để mô tả phần mở rộng này. Khung lý thuyết vừa đề cập, mà Possati xây dựng cho những nghiên cứu sâu hơn về sau, có thể giúp chúng ta hình dung sự phức tạp trong quan hệ giữa AI và con người, cùng một số cầu nối có thể có giữa công nghệ và các ngành khoa học xã hội.

[1] https://www.nature.com/articles/s41599-020-0445-0