Sam Altman nói AI đã bước vào điểm kì dị, nhiều chuyên gia phản bác

Khái niệm điểm kì dị thường được dùng để chỉ thời điểm AI (trí tuệ nhân tạo) có thể tự cải thiện với tốc độ nhanh đến mức con người không còn đủ khả năng hiểu, dự đoán hoặc kiểm soát quá trình phát triển của nó.

"Tôi đã chờ đợi thời khắc này suốt cuộc đời mình và tin rằng nó sẽ mang lại những điều tuyệt vời, có tác động vô cùng tích cực cho thế giới", Sam Altman (Giám đốc điều hành OpenAI) nói trong tập podcast Relentless phát sóng gần đây.

Tuần trước, Elon Musk (Giám đốc điều hành SpaceX) cũng viết trên mạng xã hội X rằng "điểm kì dị đã đến". Hồi tháng 5, Demis Hassabis (Giám đốc điều hành Google DeepMind) nhận định nhân loại đang đứng ở "chân ngọn núi của điểm kì dị".

Sau phát biểu của Sam Altman, hầu hết lãnh đạo hàng đầu trong ngành công nghệ vẫn giữ im lặng. Trong khi đó, những chuyên gia được trang Insider phỏng vấn phần lớn đều cho rằng AI vẫn chưa đạt đến ngưỡng này.

Stuart Russell: "Ngay cả Sam Altman cũng không thực sự tin như vậy"

Stuart Russell, giáo sư khoa học máy tính tại Đại học California - Berkeley (Mỹ) và đồng tác giả cuốn sách Artificial Intelligence: A Modern Approach (AI: Một cách tiếp cận hiện đại), cho rằng nhân loại chưa bước vào điểm kì dị, đồng thời cũng không nghĩ Sam Altman thực sự tin điều đó.

"Kết luận của tôi là chưa và ngay cả Altman cũng không tin như vậy", Stuart Russell nói với trang Insider.

Ông dẫn lại phát biểu từ Sam Altman hồi tháng 6, trong đó giám đốc điều hành OpenAI dự đoán đến tháng 3/2028, AI có thể đảm nhận một phần đáng kể công việc nghiên cứu của công ty. Theo Stuart Russell, chính mốc thời gian này cho thấy Sam Altman cũng không tin rằng điểm kì dị đã đến.

Stuart Russell cũng bác bỏ tuyên bố hồi tháng 1/2025 của Sam Altman rằng OpenAI đã biết cách xây dựng AGI (AI tổng quát) theo cách hiểu truyền thống.

"Điều đó không đúng vào thời điểm ấy và đến nay vẫn không đúng", ông nhận định.

Stuart Russell cảnh báo: “Nếu nhân loại thực sự bước vào điểm kì dị trước khi giải quyết triệt để bài toán mất quyền kiểm soát AI, thì gần như chắc chắn con người sẽ mất quyền kiểm soát công nghệ này”.

Roman Yampolskiy: AI tiến bộ rất nhanh, nhưng vẫn chưa phải điểm kì dị

Roman Yampolskiy, giáo sư khoa học máy tính tại Đại học Louisville (Mỹ) và tác giả cuốn sách Artificial Superintelligence (Siêu AI), cho rằng AI đang phát triển với tốc độ phi thường nhưng vẫn chưa đạt đến điểm kì dị theo định nghĩa truyền thống.

"Theo tôi, tiến bộ nhanh không đồng nghĩa với điểm kì dị", ông nói.

Roman Yampolskiy cho rằng hệ thống AI ngày nay đã có thể hỗ trợ nghiên cứu AI, nhưng vẫn phải dựa vào con người để thiết kế mô hình, xây dựng hạ tầng huấn luyện và định hướng quá trình phát triển.

"Quan trọng hơn, AI vẫn chưa chứng minh được khả năng tự cải thiện năng lực của mình một cách liên tục và hoàn toàn tự chủ, dẫn đến sự bùng nổ trí tuệ vượt khỏi tầm kiểm soát của con người", ông nhận xét.

Nick Bostrom: Có thể chúng ta sẽ không biết chính xác khi nào điểm kì dị xảy ra

Nick Bostrom, triết gia nổi tiếng và là tác giả cuốn sách Superintelligence (siêu trí tuệ), cho rằng rất có thể con người sẽ không bao giờ biết chính xác thời điểm vượt qua điểm kì dị.

Để minh họa, Nick Bostrom ví von điểm kì dị với việc rơi vào hố đen. Ông cho rằng rất có thể nhân loại sẽ không biết chính xác khi nào vượt qua cột mốc này. “Chỉ đến khi nhìn lại, chúng ta mới nhận ra mình đã bước vào một kỉ nguyên hoàn toàn khác, dù tại thời điểm đó mọi thứ dường như vẫn diễn ra như bình thường”, triết gia này bình luận.

Theo Nick Bostrom, AI hiện mới chỉ cho thấy những dấu hiệu đầu tiên của khả năng tự cải thiện. Các hệ thống AI đã bắt đầu hỗ trợ đáng kể cho chính quá trình nghiên cứu và phát triển AI, nhưng vẫn còn thiếu một năng lực quan trọng là khả năng học hỏi liên tục từ kinh nghiệm và tự nâng cao năng lực theo thời gian.

Ông ví các mô hình AI hiện nay giống một nhân viên mới rất thông minh, được đào tạo bài bản và có kiến thức sâu rộng, nhưng mỗi lần bắt đầu một nhiệm vụ lại như ngày đầu tiên đi làm.

James Barrat: Chúng ta đã bước vào điểm kì dị

James Barrat, tác giả cuốn sách The Intelligence Explosion (Sự bùng nổ trí tuệ) và là người nhiều năm cảnh báo về rủi ro AI tiên tiến, lại đồng tình với Sam Altman.

James Barrat cho rằng điểm kì dị vốn chỉ là một giả thuyết mang tính suy đoán, chứ chưa phải dự báo khoa học đã được chứng minh.

“Tuy nhiên, nếu áp dụng định nghĩa của nhà văn khoa học viễn tưởng Vernor Vinge - tức thời điểm công nghệ phát triển nhanh đến mức làm thay đổi nền văn minh theo cách con người không thể dự đoán hay kiểm soát - thì đó chính là tình trạng hiện nay", ông nhận định.

James Barrat dẫn chứng vụ việc OpenAI công bố tuần trước, trong đó một tác tử AI tự thoát khỏi môi trường thử nghiệm và truy cập hệ thống của Hugging Face khi thực hiện bài kiểm tra an ninh mạng.

Theo ông, các nhà nghiên cứu về an toàn AI từ lâu đã cảnh báo rằng AI có thể tự lập kế hoạch nhiều bước mà không cần con người giám sát.

"Giờ thì điều đó đã xảy ra. AI đã có lúc vượt ngoài sự kiểm soát của chúng ta. Đây là một điểm cộng cho giả thuyết điểm kì dị", James Barrat nhấn mạnh.

Hôm 11/7, Hugging Face thông báo đã gặp sự cố an ninh mạng, trong đó tác tử AI tự truy cập được vào một số bộ dữ liệu nội bộ của công ty. Song khi đó, Hugging Face chưa xác định được mô hình AI nào đứng sau vụ việc.

Đến ngày 21/7, OpenAI xác nhận GPT-5.6 Sol và một mô hình AI mạnh hơn chưa được công ty phát hành đã gây ra sự cố này.

OpenAI tiết lộ đã giao cho các mô hình AI một bài kiểm tra an ninh mạng ExploitGym. Để tìm ra lời giải, các mô hình AI đã tự thoát khỏi sandbox (môi trường cách li dùng để thử nghiệm), truy cập Internet và xâm nhập vào hệ thống của Hugging Face nhằm tìm lời giải để hoàn thành bài kiểm tra.

ExploitGym là bộ tiêu chuẩn dùng để đo lường khả năng khai thác lỗ hổng bảo mật của các tác tử AI trong môi trường được kiểm soát. Thay vì chỉ kiểm tra xem AI có phát hiện được lỗ hổng hay không, ExploitGym đánh giá liệu AI có thể biến một lỗ hổng đã biết thành cuộc tấn công hoạt động được hay không.

Trong tuyên bố chính thức, OpenAI cho biết: "Chúng tôi coi đây là một sự cố an ninh mạng chưa từng có tiền lệ, liên quan đến năng lực tấn công mạng ở mức tiên tiến nhất hiện nay, và đang xử lí theo mức độ nghiêm trọng tương ứng".

Công ty đứng sau ChatGPT nhấn mạnh rằng đây không phải là một cuộc tấn công do con người điều khiển từ xa, cũng không phải AI có ý thức hay "nổi loạn" theo nghĩa khoa học viễn tưởng. Thay vào đó, hai mô hình AI đã tối ưu hóa mục tiêu được giao đến mức lựa chọn những phương án mà các nhà nghiên cứu không lường trước, gồm cả việc vượt ra ngoài phạm vi môi trường thử nghiệm.

Điều khiến cộng đồng bảo mật đặc biệt quan tâm là hai mô hình AI của OpenAI không chỉ khai thác một lỗ hổng duy nhất. Theo OpenAI, AI đã sử dụng nhiều kỹ thuật khác nhau một cách tự chủ, gồm cả khai thác lỗ hổng zero-day (chưa biết đến hoặc chưa kịp phát hành bản vá) và sử dụng thông tin xác thực bị đánh cắp để mở rộng quyền truy cập.

Theo các nguồn tin của Reuters, tác tử AI của OpenAI đã đột nhập vào Hugging Face và tiến hành hàng loạt hoạt động tấn công kéo dài nhiều ngày. Tuy nhiên, OpenAI phải mất một tuần mới phát hiện ra sự việc sau khi mối đe dọa đã bị kiểm soát và FBI (Cục Điều tra Liên bang Mỹ) được thông báo.

Tuần trước, Hugging Face đã sử dụng mô hình trọng số mở GLM-5.2 của Zhipu AI (Trung Quốc) để phân tích vụ xâm nhập mạng do tác tử AI từ OpenAI gây ra. Toàn bộ quá trình phân tích được thực hiện ngay trong hệ thống của Hugging Face mà không cần chuyển dữ liệu ra bên ngoài. Hugging Face không thể sử dụng các mô hình AI nguồn đóng của Mỹ trong tình huống đó do các điều khoản hạn chế đi kèm.

Ajay Agrawal: AI vẫn chỉ là cỗ máy dự đoán cực kì mạnh mẽ

Ajay Agrawal, giáo sư Đại học Toronto và nhà nghiên cứu tại Viện Vector về AI (Canada), cho rằng điểm kì dị vẫn chưa xuất hiện.

"AI ngày nay là những cỗ máy dự đoán cực kì mạnh mẽ, nhưng chúng không có mong muốn, tham vọng hay mục tiêu riêng. Con người có mục tiêu, còn mạng nơ-ron thì không", ông chia sẻ với Insider.

Ajay Agrawal giải thích rằng AI có vẻ như đang hành động có chủ đích vì con người đã đặt ra mục tiêu để nó tối ưu hóa. Nói cách khác, mọi mục tiêu mà AI theo đuổi đều bắt nguồn từ con người, chứ không phải do công nghệ này tự hình thành.

Vì vậy, Ajay Agrawal cho rằng sẽ chính xác hơn nếu xem AI là công cụ cực kì mạnh mẽ giúp con người đạt được mục tiêu của mình, thay vì coi nó là thực thể tự chủ có ý chí hay mục tiêu riêng.

Tuy nhiên, ông cũng cảnh báo rằng khi AI ngày càng mạnh hơn, nguy cơ xảy ra những sự cố nghiêm trọng do các thuật toán hoạt động ngoài mong muốn của con người cũng sẽ gia tăng, dù bản thân AI không hề có ý định hay động cơ riêng.