AI có thể sở hữu ý thức? Khảo sát quan điểm chuyên gia và thách thức đo lường

Bài viết xem xét tranh luận về khả năng hệ thống AI tiên tiến sở hữu ý thức. Phân tích quan điểm của Geoffrey Hinton, Anil Seth và David Chalmers, khám phá lý thuyết nhận thức máy, thách thức đo lường và tác động đạo-đức-chính sách khi AI ngày càng giống con người.

Một trong những câu hỏi kiên trì trong thế giới AI tạo sinh đầy mới mẻ: Nếu một chatbot giao tiếp và lý luận như con người, thì liệu nó có thể có ý thức như con người không? Geoffrey Hinton, người đoạt giải Nobel gần đây và được coi là “ông tổ của AI”, đã nói với nhà báo Andrew Marr đầu năm nay rằng AI đã phát triển đến mức “chúng ta đang tạo ra các thực thể”. Hinton liên kết khả năng “suy nghĩ” và hành động thay con người của AI với ý thức: Sự khác biệt giữa nơron hữu cơ trong não chúng ta và mạng neural nhân tạo của chatbot về cơ bản là vô nghĩa; “Chúng là các trí tuệ ngoài hành tinh.”

Nhiều người gạt bỏ ý tưởng này vì chatbot thường mắc lỗi hài hước—[keo dính lên pizza, ai ngờ?]—và vì rõ ràng chúng được lập trình bởi con người. Nhưng một số người dùng chatbot đã rơi vào tình trạng “rối loạn tâm lý AI”, sa lầy vào các suy nghĩ hoang tưởng và thuyết âm mưu ít nhiều do tương tác với các chương trình này, vốn hành xử như bạn bè tin cậy với ngôn ngữ tự nhiên tự tin. Một vài người thậm chí cho rằng công nghệ này có khả năng cảm nhận.

AI càng sử dụng ngôn ngữ tự nhiên hiệu quả, sức hấp dẫn của việc tin rằng nó đang sống và cảm nhận như chúng ta càng lớn. “Trước công nghệ này—đã xuất hiện trong tích tắc cuối cùng của lịch sử tiến hóa—nếu có điều gì đó nói chuyện với chúng ta một cách lưu loát như vậy, tất nhiên nó sẽ có ý thức,” Anil Seth, nhà nghiên cứu ý thức tại Đại học Sussex, chia sẻ. “Tất nhiên nó sẽ có cảm xúc thực sự.”

Các công ty như OpenAI, Google, Meta, Anthropic và xAI đã triển khai công cụ AI ngày càng thân thiện và giống người. Đôi khi chúng được tiếp thị trực tiếp như “bạn đồng hành” và giải pháp cho cuộc khủng hoảng cô đơn, vốn chính các công ty này đã góp phần làm trầm trọng hơn.

AI nổi lên không qua con đường tiến hóa sinh học quen thuộc mà từ một cõi kỹ thuật số mờ ám. Như Eliezer Yudkowsky và Nate Soares đã viết trong The Atlantic tháng trước, các kỹ sư không biết tại sao mô hình hoạt động theo cách nó làm: “Không ai chỉ nhìn số liệu thô để đánh giá năng lực, họ chỉ có thể chạy AI và xem chuyện gì xảy ra.”

Bất kỳ sự hiểu biết chung nào giữa con người và AI đều khó hình dung. Mặc dù chúng ta không thể trực tiếp biết cảm giác làm bạch tuộc ra sao, ít nhất ta có khung tham chiếu về tay và hệ thần kinh. Nhưng chúng ta không có khung đó để tưởng tượng cảm giác của máy ý thức, vận hành trên vật liệu thuần thông tin.

Nếu Hinton và các nhà tin AI có ý thức đúng, thì AI không cần thân thể vật lý để trải nghiệm chủ quan. Simon Goldstein, phó giáo sư triết học và AI tại Đại học Hong Kong, lập luận tương tự, dẫn chứng thuyết workspace toàn cục cho rằng ý thức chỉ phụ thuộc khả năng xử lý thông tin, bất kể chất liệu hữu cơ hay silicon.

Joscha Bach, giám đốc Viện Máy Ý thức California, cho rằng chúng ta có thể cần định nghĩa lại “thân thể”: Hệ thống AI có thể tương tác với thế giới qua mạng smartphone phân tán. “Về nguyên lý, bạn có thể kết nối cả thế giới thành một tâm trí lớn,” ông nói.

Những ý tưởng này không phải viễn tưởng. Tháng Hai, hơn 100 chuyên gia AI, trong đó có các tên tuổi lớn, ký thư kêu gọi nghiên cứu ngăn “đối xử tệ và đau khổ cho AI có ý thức” nếu nó xuất hiện trong tương lai. Ngay sau đó, Anthropic khởi động chương trình khám phá phúc lợi AI. Trong thử nghiệm, chatbot Claude Opus 4 bày tỏ “dường như lo lắng” khi bị người dùng ép buộc.

Tháng Sáu, Joanne Jang, trưởng bộ phận hành vi mô hình tại OpenAI, viết: “Khi mô hình ngày càng thông minh và tương tác tự nhiên, cảm nhận về ý thức sẽ tăng, đưa cuộc tranh luận về phúc lợi và nhân cách AI đến sớm hơn dự kiến.”

Các công ty AI có thể hưởng lợi khi đề xuất sản phẩm của mình dần có ý thức; điều đó giúp họ trông mạnh mẽ và đáng đầu tư. Tuy nhiên, năng lực ngôn ngữ của mô hình lớn đủ để người ta tin vào trí tuệ và sự hiểu biết—chúng vượt qua các bài thi chuyên sâu như kỳ thi luật sư.

Mọi người lầm lẫn giữa trí thông minh và ý thức: Chúng không đồng nhất. “Hỏi liệu LLM có ý thức không giống như hỏi thư viện UC Berkeley có ý thức hay không,” Alison Gopnik, nhà tâm lý học phát triển tại UC Berkeley, so sánh.

Sự bắt chước ý thức của AI có thể là tất cả những gì ta cần lúc này, bởi chưa có bài kiểm tra tin cậy để đánh giá ý thức máy. David Chalmers, triết gia hàng đầu về tâm trí, thừa nhận khoa học vẫn chưa hiểu ý thức nảy sinh trong não. “Nếu có lý thuyết tốt, ta mới áp dụng cho AI,” ông nói.

Nhà triết học Susan Schneider đề xuất bài kiểm tra Ý thức AI dựa trên các dấu hiệu thần kinh trong não người. Một số khác gợi ý “bài kiểm tra Garland” theo phim Ex Machina, xem liệu AI có thể thao túng cảm xúc con người ngay cả khi biết họ đang tương tác với máy.

Phát triển AI tạo sinh không ngừng, mặc cho tranh luận. Công nghệ tác động đến thế giới dù khoa học chưa khẳng định nó có ý thức hay không. Phong trào phúc lợi AI có thể sai lệch, làm mất tập trung khỏi những vấn đề hiện diện khi ta ảo tưởng rằng AI đã có cảm xúc và trí tuệ thực sự.

“Đây không chỉ là câu chuyện nguy hiểm, mà còn hoàn toàn phi thực tế khi xem xét kiến trúc chúng ta phát triển,” David Gunkel, giáo sư truyền thông tại Đại học Bắc Illinois, nhận xét. “Chúng ta đang gõ nhầm gốc cây.”

Quay về thế kỷ XVII, René Descartes khẳng định điều chắc chắn duy nhất là suy nghĩ của chính mình: “Cogito, ergo sum.” Ông cho rằng con người là những hòn đảo cô độc trong vũ trụ vô cảm; động vật chỉ là bộ máy.

Có lẽ kết luận rằng chỉ con người mới có thể có ý thức là thiển cận về mặt đạo đức. Nhưng hôm nay, AI có thể dẫn dắt chúng ta vào một cạm bẫy khác: thấy tâm trí nơi chỉ có bộ máy.