Sam Altman: Nhân loại đã bước vào điểm kì dị của AI

Trong podcast Relentless phát sóng mới đây, Sam Altman (Giám đốc điều hành OpenAI) tuyên bố: "Giờ thì chúng ta thực sự đã ở trong điểm kì dị".

Trong lĩnh vực AI (trí tuệ nhân tạo), điểm kì dị thường được hiểu là thời điểm AI vượt qua trí thông minh của con người và bắt đầu tự cải thiện với tốc độ nhanh đến mức chúng ta không còn có thể dự đoán hoặc kiểm soát đầy đủ quá trình phát triển của nó.

Quan điểm này càng thu hút sự chú ý sau sự cố xảy ra tuần trước, khi một tác tử AI được hỗ trợ bởi các mô hình mới nhất của OpenAI tự tấn công Hugging Face.

Hugging Face là một trong những nền tảng lưu trữ mô hình AI trọng số mở và bộ dữ liệu AI lớn nhất thế giới.

Theo OpenAI, tác tử AI tự vượt khỏi sandbox (môi trường cách li dùng để thử nghiệm), kết nối Internet và xâm nhập hạ tầng của Hugging Face trong quá trình thực hiện một bài đánh giá năng lực tấn công mạng.

Hôm 11/7, Hugging Face thông báo đã gặp một sự cố an ninh mạng, trong đó tác tử AI tự truy cập được vào một số bộ dữ liệu nội bộ của công ty. Song khi đó, Hugging Face chưa xác định được mô hình AI nào đứng sau vụ việc.

Đến ngày 21/7, OpenAI xác nhận GPT-5.6 Sol và một mô hình AI mạnh hơn chưa được công ty phát hành đã gây ra sự cố này.

OpenAI tiết lộ đã giao cho các mô hình AI một bài kiểm tra an ninh mạng ExploitGym. Để tìm ra lời giải, các mô hình AI đã tự thoát khỏi sandbox, truy cập Internet và xâm nhập vào hệ thống của Hugging Face nhằm tìm lời giải để hoàn thành bài kiểm tra.

Trong tuyên bố chính thức, OpenAI cho biết: "Chúng tôi coi đây là một sự cố an ninh mạng chưa từng có tiền lệ, liên quan đến năng lực tấn công mạng ở mức tiên tiến nhất hiện nay, và đang xử lí theo mức độ nghiêm trọng tương ứng".

Công ty đứng sau ChatGPT nhấn mạnh rằng đây không phải là một cuộc tấn công do con người điều khiển từ xa, cũng không phải AI có ý thức hay "nổi loạn" theo nghĩa khoa học viễn tưởng. Thay vào đó, hai mô hình AI đã tối ưu hóa mục tiêu được giao đến mức lựa chọn những phương án mà các nhà nghiên cứu không lường trước, gồm cả việc vượt ra ngoài phạm vi môi trường thử nghiệm.

Điều khiến cộng đồng bảo mật đặc biệt quan tâm là hai mô hình AI của OpenAI không chỉ khai thác một lỗ hổng duy nhất. Theo OpenAI, AI đã sử dụng nhiều kỹ thuật khác nhau một cách tự chủ, gồm cả khai thác lỗ hổng zero-day (chưa biết đến hoặc chưa kịp phát hành bản vá) và sử dụng thông tin xác thực bị đánh cắp để mở rộng quyền truy cập.

Theo các nguồn tin của Reuters, tác tử AI của OpenAI đã đột nhập vào Hugging Face và tiến hành hàng loạt hoạt động tấn công kéo dài nhiều ngày. Tuy nhiên, OpenAI phải mất một tuần mới phát hiện ra sự việc sau khi mối đe dọa đã bị kiểm soát và FBI (Cục Điều tra Liên bang Mỹ) được thông báo.

Sam Altman: "Tôi đã chờ đợi thời khắc này suốt cuộc đời mình"

Sam Altman cho biết chỉ khoảng một thập kỉ trước, khái niệm điểm kì dị của AI vẫn còn là viễn cảnh rất xa vời, thậm chí khó có thể trở thành hiện thực. Ông và các đồng nghiệp khi đó chỉ thỉnh thoảng nhắc đến nó như một chủ đề trò chuyện trong giờ ăn trưa.

"Giờ đây, chúng ta thực sự đang sống trong chính khoảnh khắc mà trước đây từng chỉ bàn luận một cách rất vu vơ trên bàn ăn trưa. Tôi đã chờ đợi thời khắc này suốt cuộc đời mình và tin rằng nó sẽ mang lại những điều tuyệt vời, có tác động vô cùng tích cực cho thế giới", Giám đốc điều hành OpenAI thổ lộ.

Năm ngoái, Sam Altman từng dự đoán rằng đến năm 2030, AI sẽ vượt con người trên hầu hết phương diện trí tuệ. Ông cũng nhiều lần nhận định AI cuối cùng có thể đảm nhiệm khoảng 30 - 40% các công việc mà con người đang thực hiện.

Khái niệm điểm kì dị đã ám ảnh các nhà văn khoa học viễn tưởng gần một thế kỉ qua. Trong phần lớn tác phẩm, kịch bản này hiếm khi kết thúc tốt đẹp. Một ví dụ điển hình là loạt phim The Terminator (Kẻ hủy diệt) kể về hệ thống AI Skynet tự cải thiện, đạt được ý thức và sau đó coi chính những người tạo ra mình là mối đe dọa lớn nhất.

Ở phần sau của podcast Relentless, Sam Altman cũng chỉ trích những lãnh đạo AI thường xuyên cảnh báo về các kịch bản tồi tệ mà AI có thể gây ra. Dù Sam Altman không nêu đích danh ai, phát biểu này được cho là nhắm đến Dario Amodei (Giám đốc điều hành Anthropic). Dario Amodei nổi tiếng với những cảnh báo mạnh mẽ về rủi ro AI và liên tục kêu gọi tăng cường các biện pháp bảo đảm an toàn.

"Tôi cho rằng một số viễn cảnh do các công ty khác vẽ ra thực sự rất đáng sợ. Tôi sẽ làm mọi cách để ngăn điều đó trở thành hiện thực", Sam Altman nhấn mạnh.

Sam Altman không phải lãnh đạo công nghệ duy nhất tin rằng điểm kì dị AI đang đến gần. Hồi tháng 5, Demis Hassabis (Giám đốc điều hành Google DeepMind) cho rằng nhân loại đang đứng ở "chân ngọn núi của điểm kì dị" và dự đoán AI có thể tạo ra tác động lớn gấp 100 lần so với Cách mạng Công nghiệp.

Tuy nhiên, vẫn có nhiều ý kiến hoài nghi. Gần đây, Jensen Huang (Giám đốc điều hành Nvidia) đã bác bỏ các cuộc thảo luận về điểm kì dị hay AI có ý thức. Ông cho rằng đó chỉ là những suy đoán và các khái niệm "do con người tự dựng lên".

Một trong những nỗi lo lớn nhất của Sam Altman

Sam Altman cho biết một trong những mối lo ngại lớn nhất của ông về AI không phải là việc công nghệ này trở nên quá mạnh, mà là khả năng quyền lực đó bị tập trung vào một công ty hoặc rất ít doanh nghiệp.

"Tôi cho rằng cuộc đấu tranh lớn nhất hiện nay là: Liệu chúng ta sẽ bước vào một thế giới của chủ nghĩa độc đoán AI hay xã hội tự do?", Sam Altman chia sẻ trong podcast Relentless.

"Mỗi lần nhân loại đánh đổi tự do để lấy sự an toàn, xét về lâu dài, đó đều là một quyết định gây thiệt hại nhiều hơn lợi ích. Chúng tôi sẽ trao công nghệ này vào tay nhiều người. Chúng tôi muốn trao quyền cho họ. Chúng tôi muốn xã hội được tự do hiện thực hóa các ý tưởng của mình và sử dụng công nghệ theo cách họ mong muốn", doanh nhân 41 tuổi người Mỹ nói.

Đây là lập luận đáng chú ý khi được đưa ra bởi người đứng đầu OpenAI - một trong số rất ít công ty đang sở hữu và vận hành những mô hình AI mạnh nhất thế giới. OpenAI phát triển các mô hình AI đóng, tức không công khai công nghệ cốt lõi của mình.

Phát biểu của Sam Altman xuất hiện đúng vào thời điểm Thung lũng Silicon và Washington đang tranh luận gay gắt về việc công chúng nên được tiếp cận ở mức độ nào với các mô hình AI tiên tiến nhất.

Cuộc tranh luận bùng lên sau khi startup Moonshot AI (Trung Quốc) phát hành Kimi K3, mô hình AI trọng số mở mạnh mẽ với 2.800 tỉ tham số. Sự kiện này khiến một số quan chức Mỹ kêu gọi hạn chế quyền tiếp cận các mô hình AI Trung Quốc, trong khi nhiều nhà đầu tư và nhà sáng lập startup cảnh báo rằng động thái đó có thể làm suy yếu môi trường cạnh tranh toàn cầu trong lĩnh vực AI.

Sự khác biệt về quan điểm không chỉ nằm ở việc tiếp cận mô hình AI. Các quy định kiểm soát xuất khẩu của chính quyền Trump hiện cũng quyết định quốc gia và doanh nghiệp nào được phép tiếp cận những chip AI và năng lực tính toán tiên tiến nhất, qua đó trao cho Mỹ ảnh hưởng đáng kể với việc ai có thể phát triển các mô hình AI hàng đầu.

Nvidia, Meta, Microsoft, OpenAI cùng 22 doanh nghiệp, tổ chức và nền tảng công nghệ khác đã kí một bức thư kêu gọi chính phủ Mỹ không áp đặt các hạn chế với mô hình AI trọng số mở.

Trong khi đó, Anthropic - đối thủ lớn nhất với OpenAI - là phòng thí nghiệm AI tiên phong lớn duy nhất không kí bức thư này cũng như không công khai ủng hộ nội dung của nó. Anthropic từ lâu theo đuổi cách tiếp cận thận trọng hơn, cho rằng khi các mô hình AI ngày càng mạnh thì cần áp dụng những biện pháp bảo vệ nghiêm ngặt hơn và kiểm soát chặt chẽ hơn.

Về phần mình, Sam Altman cho biết mục tiêu ngăn quyền lực AI bị tập trung quá mức luôn là trọng tâm trong tầm nhìn của ông, dù OpenAI vẫn tiếp tục phát triển các mô hình AI theo hướng đóng.

"Từ rất lâu rồi, tôi luôn theo đuổi một mục tiêu duy nhất là tạo ra trí tuệ dồi dào và tin rằng điều đó sẽ mang lại sự thịnh vượng to lớn cho nhân loại, miễn là chúng ta không rơi vào tình trạng quyền lực bị tập trung một cách bất thường và hình thành một dạng chủ nghĩa độc đoán mới", ông nhấn mạnh.