Khi AGI xuất hiện, ai sẽ kiểm soát AI vượt trí tuệ con người?

AGI đang đến gần và cuộc tranh luận về quyền kiểm soát AI

John Thornhill, biên tập viên tờ FT, cho biết gần đây đã tham dự hai cuộc thảo luận chuyên sâu nhưng cũng gây lo ngại về tương lai hậu nhân loại. Hàng chục nhà nghiên cứu AI, học giả và triết gia hàng đầu đã cùng tranh luận về viễn cảnh này. Giả định chung của họ là: Vài năm tới, nhân loại có thể đạt được AGI (AI tổng quát) - dạng AI có khả năng sánh ngang hoặc vượt con người trong mọi nhiệm vụ nhận thức.

Theo Daniel Faggella - nhà nghiên cứu AI tổ chức cả hai cuộc thảo luận trên, khi thời điểm đó đến, mục tiêu của chúng ta nên là tạo ra dạng trí tuệ kế nhiệm xứng đáng.

"Một dạng trí tuệ hậu nhân loại có năng lực vượt trội và giá trị đạo đức cao đến mức con người sẵn sàng để nó quyết định hướng đi tương lai của chính sự sống", ông nhận định

Những quan điểm như vậy ngày càng phổ biến trong giới công nghệ, khi lãnh đạo các hãng AI ngày càng tự tin hơn về khả năng đạt được AGI. Theo lập luận này, AGI khi xuất hiện có thể giúp máy móc tạo ra những hệ thống thông minh hơn nữa, từ đó dẫn tới một dạng siêu trí tuệ hậu nhân loại mạnh hơn rất nhiều.

Trong khi các cuộc tranh luận về tương lai AI đang diễn ra với tốc độ chóng mặt, phần lớn công chúng vẫn đang phải chạy theo để hiểu những thay đổi nhanh chóng này và đối mặt tác động ngày càng lớn của AI đến đời sống hằng ngày.

Tuần trước, Demis Hassabis cho rằng nhân loại đang bước vào "một thời điểm bước ngoặt trong lịch sử".

"Tôi đã dành cả cuộc đời để hướng tới AGI và giờ đây, giống nhiều người trong số chúng ta, tôi cảm thấy nó đang ở rất gần", ông viết trong một thông điệp gửi nhân viên, giải thích quyết định chuyển từ vai trò giám đốc điều hành sang chủ tịch Google DeepMind để tập trung vào mục tiêu này.

Theo Demis Hassabis, nếu được quản lý đúng cách, AGI có thể mở ra "một kỉ nguyên mới đáng kinh ngạc của khám phá và những điều kì diệu".

Tháng 7, Elon Musk - Giám đốc điều hành SpaceX - cũng dự đoán AI có thể vượt qua tổng thể năng lực trí tuệ của con người trong khoảng 5 năm tới, mở ra kỉ nguyên "thịnh vượng đáng kinh ngạc".

Tuy nhiên, ông không rút lại dự báo trước đây rằng có khoảng 10 - 20% khả năng một dạng siêu trí tuệ, nếu phát triển theo hướng mất kiểm soát như "robot sát thủ", có thể trở thành mối đe dọa sống còn với nhân loại.

Elon Musk từng kêu gọi làm chậm tốc độ phát triển AI vì lo ngại những rủi ro này. Song hiện nay, tỉ phú giàu nhất thế giới dường như cho rằng việc ngăn cản quá trình này là gần như không thể.

"Chúng ta có cảm giác rằng mọi con đường đều dẫn tới việc tăng tốc AI. Vậy thì hãy tận hưởng chuyến đi", ông chia sẻ với tờ The Economist.

Chính cảm giác rằng sự tiến hóa của AI là điều không thể đảo ngược này đang khiến nhiều nhà nghiên cứu khác, và ngày càng nhiều người dân, cảm thấy lo lắng hoặc thậm chí tuyệt vọng.

Các hãng công nghệ đang đưa ra những quyết định có ảnh hưởng lớn đến tương lai chung của nhân loại dựa trên những kịch bản về AI vẫn còn nhiều giả định, trong khi chưa có sự tham gia hay đồng thuận đầy đủ từ xã hội.

Làn sóng phản đối ngày càng mạnh mẽ với các công ty AI là hệ quả tất yếu từ việc ngành công nghệ chưa giải quyết thỏa đáng những mối lo trước mắt của người dân, chẳng hạn AI có thể ảnh hưởng thế nào đến việc làm, thu nhập hay môi trường sống.

"Huyền thoại AGI"

Năm ngoái, AI Now Institute đã công bố một bài phê bình gay gắt về "huyền thoại AGI" đang được hình thành trong ngành công nghệ.

AI Now Institute cho rằng khái niệm AGI hiện được sử dụng quá rộng và thiếu một định nghĩa rõ ràng, đến mức gần như mất đi ý nghĩa cụ thể.

Phần lớn nhà nghiên cứu AI không tin rằng việc chỉ mở rộng quy mô các mô hình ngôn ngữ lớn như GPT, Gemini hay Claude sẽ đưa chúng ta đến với AGI. Họ cũng cho rằng phần lớn sự cường điệu xung quanh cả lợi ích lẫn nguy cơ của AGI đôi khi chỉ là một chiến lược tiếp thị giúp các hãng công nghệ huy động hàng tỉ USD vốn đầu tư.

AI Now Institute có lí khi cảnh báo rằng "việc để lãnh đạo các công ty AI thống trị cuộc tranh luận về tương lai công nghệ sẽ khiến tiếng nói chuyên gia từ những lĩnh vực khác bị xem nhẹ". Trong khi đó, những chuyên gia này lại có những hiểu biết quan trọng về cách AI nên được ứng dụng trong đời sống thực.

Viện này kết luận: "Đặt AGI lên trên tất cả hướng tiếp cận khác để giải quyết các vấn đề khó khăn của nhân loại thực chất chỉ là một dạng chủ nghĩa giải pháp công nghệ được đẩy lên mức cực đoan hơn”. Nói cách khác, đó là niềm tin rằng chỉ cần có công nghệ đủ mạnh thì mọi vấn đề của con người đều có thể được giải quyết bằng máy móc.

AGI mở ra cơ hội lớn, nhưng con người phải giữ quyền quyết định

Trong bài luận mới nhất về AI công bố hôm 10/8, Mark Zuckerberg - Giám đốc điều hành Meta - lại đưa ra một góc nhìn khác: Thay vì lo sợ AI chi phối con người, cần trao cho mỗi cá nhân nhiều quyền năng hơn thông qua chính công nghệ này.

Quan điểm của Mark Zuckerberg có thể không hoàn toàn sai dù có phần phiến diện và phục vụ lợi ích cho Meta. Tỉ phú 42 tuổi người Mỹ cho rằng AI có thể trao cho mỗi cá nhân năng lực công nghệ phi thường, tương tự một dạng "siêu trí tuệ cá nhân".

Ông viết: "Cách duy nhất để bảo đảm AI tuân thủ các giá trị nhân văn là trao cho con người nhiều quyền lực hơn".

Tuy nhiên, quyền lực của người dân không thể chỉ được thể hiện thông qua việc sử dụng những công cụ AI tiên tiến. Quyền lực đó phải bao gồm cả việc tham gia định hình cách công nghệ được quản trị. Các tổ chức xã hội dân sự, chính trị gia được bầu chọn dân chủ, công đoàn và cơ quan quản lý cũng phải sử dụng vai trò hợp pháp của mình trong việc quyết định AI được triển khai như thế nào.

Ngay cả lãnh đạo các công ty AI hiện nay cũng nhận ra rằng cần hợp tác nhiều hơn với các tổ chức này nếu không muốn đánh mất niềm tin của người dùng.

Những lợi ích từ cuộc chuyển đổi do AI tạo ra có thể sẽ vô cùng lớn, dù phần lớn tiềm năng đó hiện vẫn chưa được kiểm chứng đầy đủ.

Song trong lúc chờ đợi, phần còn lại của xã hội không thể tiếp tục là những hành khách thụ động ngồi ở hàng ghế sau "chiếc xe AGI", giống những đứa trẻ trong chuyến đi mùa hè nóng bức, liên tục hỏi: "Chúng ta đến nơi chưa?".

John Thornhill nhận định: “Các công ty AI đang muốn đưa nhân loại tới một tương lai mà xã hội chưa có đủ cơ hội để thảo luận, càng chưa đạt được sự đồng thuận chung về việc đó có phải là hướng đi đúng hay không. Vấn đề không chỉ là AI sẽ phát triển đến đâu, mà còn là ai sẽ quyết định con đường phát triển ấy. Đã đến lúc phần còn lại của xã hội phải có tiếng nói và quyền chủ động lớn hơn trong việc định hình tương lai nhân loại”.

Sơn Vân