Nỗi lo lắng khi AI tự học để thông minh hơn con người

Động thái này xuất hiện trong hoàn cảnh giới nghiên cứu ngày càng quan tâm đến khả năng trí tuệ nhân tạo tham gia trực tiếp vào quá trình tạo ra thế hệ AI tiếp theo; đồng thời một mô hình bí ẩn mang tên Mythos được cho là đã khiến các cơ quan chính phủ Mỹ áp dụng những biện pháp kiểm soát đặc biệt.

Liệu đây có phải là dấu hiệu cho thấy nhân loại đang tiến gần đến thời điểm AI bắt đầu học cách tự nâng cấp chính mình?

Từ chatbot, trí tuệ nhân tạo phát triển thành “nhà nghiên cứu AI” khiến Anthropic lo ngại

Chỉ trong vòng ba năm, trí tuệ nhân tạo đã tiến những bước dài ngoài sức tưởng tượng của phần lớn giới công nghệ. Nếu năm 2023, ChatGPT gây kinh ngạc nhờ khả năng viết văn bản tự nhiên, thì đến năm 2024, các mô hình AI đã có thể lập trình, phân tích dữ liệu và hỗ trợ nghiên cứu khoa học. Bước sang năm 2026, nỗi lo mới xuất hiện: AI không còn là công cụ hỗ trợ con người một cách thuần túy mà đang dần trở thành một tác nhân tham gia trực tiếp vào quá trình phát triển AI.

Trong báo cáo công bố ngày 4/6, Anthropic cho biết các hệ thống Claude hiện đã tham gia tạo ra phần lớn lượng mã nguồn được sử dụng trong nội bộ công ty. Năng suất của các kỹ sư phần mềm tăng nhiều lần so với hai năm trước nhờ sự hỗ trợ của AI. Quan trọng hơn, các mô hình mới bắt đầu đề xuất cách tiếp cận nghiên cứu và các hướng cải tiến thuật toán mà trước đây hoàn toàn do con người đảm nhiệm.

Điều khiến giới khoa học đặc biệt chú ý là khái niệm “recursive self-improvement” (tự cải tiến đệ quy). Hiểu đơn giản, đây là quá trình AI hỗ trợ tạo ra một hệ thống AI mạnh hơn, rồi hệ thống mới tiếp tục tham gia phát triển thế hệ kế tiếp. Nếu vòng lặp này diễn ra liên tục, tốc độ tiến hóa của AI có thể vượt xa tốc độ nghiên cứu truyền thống của con người.

Nhiều chuyên gia coi đây là một trong những cột mốc quan trọng nhất của nền văn minh nhân loại. Nhà toán học Daniel Litt từng chia sẻ sự kinh ngạc tột độ khi lần đầu tiên ông nhìn thấy một kết quả nghiên cứu lý thuyết thực sự đột phá do AI tự suy luận và đề xuất. Trong khi đó, CEO của Anthropic, ông Dario Amodei, đã nhiều lần đưa ra lời cảnh báo rằng các hệ thống AI hoàn toàn có khả năng đạt đến trình độ chuyên môn tương đương, hoặc vượt trội hơn con người trong hàng loạt lĩnh vực cốt lõi ngay trong thập niên này.

Tất nhiên, giới học thuật vẫn duy trì sự điềm tĩnh nhất định. Sự tự cải tiến này không đồng nghĩa với việc AI đã ngay lập tức đạt tới trạng thái “siêu trí tuệ nhân tạo” (AGI). Phần lớn các nhà nghiên cứu cho rằng công nghệ hiện tại vẫn bị trói buộc bởi ba yếu tố cốt lõi do con người nắm giữ: nguồn dữ liệu huấn luyện, giới hạn của hạ tầng trung tâm dữ liệu và hàm mục tiêu ban đầu.

Tuy nhiên, việc máy móc bắt đầu can thiệp vào bản vẽ thiết kế của chính chúng đã làm nảy sinh một câu hỏi triết học và kỹ thuật khổng lồ. Câu hỏi đặt ra là nếu động lực cải tiến ngày càng được thúc đẩy bởi các thuật toán, liệu con người có còn duy trì được vị thế kiến trúc sư trưởng trong quá trình định hình tương lai công nghệ hay không.

Mythos và tín hiệu đầu tiên của một kỷ nguyên mới

Nếu báo cáo của Anthropic là lời cảnh báo, thì Mythos có thể là lý do khiến lời cảnh báo đó được chú ý đặc biệt. Khác với các mô hình được công bố rộng rãi trước đây, Mythos xuất hiện một cách khá bí ẩn. Theo các nguồn tin từ giới nghiên cứu AI Mỹ, đây là hệ thống thử nghiệm sở hữu năng lực vượt trội trong các nhiệm vụ nghiên cứu, phân tích hệ thống và tìm kiếm lỗ hổng bảo mật phức tạp.

Điểm đáng chú ý không nằm ở việc Mythos trả lời câu hỏi nhanh hơn hay viết mã tốt hơn các chatbot hiện nay. Điều khiến giới chuyên môn quan tâm là khả năng thực hiện những chuỗi suy luận dài và tự đề xuất các chiến lược giải quyết vấn đề ở mức độ cao.

Một số báo cáo cho biết mô hình này đã thể hiện khả năng phát hiện các lỗi tồn tại lâu năm trong hệ thống phần mềm mà trước đó chưa được con người nhận ra. Chính vì vậy, các cơ quan quản lý tại Mỹ đã tiến hành những đánh giá nội bộ trước khi xem xét phạm vi ứng dụng của công nghệ này trong các cơ quan liên bang.

Tuy nhiên, cũng cần nhìn nhận thận trọng. Cho đến nay, chưa có bằng chứng cho thấy Mythos là một “siêu AI” hay đã vượt khỏi khả năng kiểm soát của con người. Nhiều chuyên gia cho rằng phần lớn thông tin hiện nay vẫn dựa trên các đánh giá nội bộ và chưa được cộng đồng khoa học kiểm chứng độc lập.

Dẫu vậy, Mythos vẫn mang ý nghĩa biểu tượng rất lớn. Nó cho thấy cuộc cạnh tranh AI đã bước sang một giai đoạn mới, nơi các công ty không còn chỉ chạy đua về chatbot hay trợ lý ảo, mà đang hướng tới những hệ thống có thể hỗ trợ nghiên cứu khoa học, khám phá tri thức và thậm chí tham gia vào quá trình phát triển công nghệ tương lai.

“Hãm phanh” AI hay giành quyền viết luật cho tương lai?

Khi Anthropic kêu gọi xây dựng cơ chế cho phép làm chậm quá trình phát triển AI nếu rủi ro vượt quá ngưỡng an toàn, phản ứng của giới công nghệ lập tức bị chia thành hai luồng.

Nhóm ủng hộ coi đây là một lời nhắc nhở không thể muộn hơn. Trong nhiều năm qua, những chuyên gia đầu ngành và các nhà khoa học lỗi lạc như Geoffrey Hinton, Yoshua Bengio hay Stuart Russell đã không ngừng nhấn mạnh rằng nhân loại đang đi trên băng mỏng.

Họ cho rằng chúng ta phải khẩn trương xây dựng các khuôn khổ quản trị an toàn toàn cầu trước khi AI chạm đến ngưỡng thông minh vượt tầm kiểm soát. Theo quan điểm này, sự tiến bộ công nghệ đang diễn ra với tốc độ tên lửa, trong khi quy trình xây dựng luật pháp và chuẩn mực đạo đức xã hội lại đang đi bộ. Sự lệch pha này có thể tạo ra những hệ lụy thảm khốc không thể đảo ngược.

Anthropic lập luận rằng thế giới cần những “phanh khẩn cấp” cho AI, tương tự như các cơ chế an toàn trong ngành hàng không hay năng lượng hạt nhân. Nếu một mô hình xuất hiện các dấu hiệu nguy hiểm hoặc có khả năng bị lạm dụng ở quy mô lớn, các quốc gia cần có công cụ để can thiệp kịp thời.

Tuy nhiên, phía hoài nghi lại đặt ra câu hỏi khác. Anthropic hiện là một trong những công ty dẫn đầu cuộc đua AI cùng OpenAI và Google DeepMind. Khi những người đang ở tốp đầu kêu gọi siết chặt quy định, liệu mục tiêu hoàn toàn là an toàn hay còn bao gồm mong muốn định hình luật chơi theo hướng có lợi cho các tập đoàn lớn?

Nhiều nhà phân tích cho rằng các quy định quá khắt khe có thể vô tình tạo ra rào cản đối với các công ty khởi nghiệp và nhóm nghiên cứu nhỏ, trong khi các tập đoàn lớn với nguồn lực dồi dào lại dễ dàng đáp ứng yêu cầu quản lý hơn.

Đây có lẽ là cuộc tranh luận quan trọng nhất của ngành AI hiện nay. Bởi phía sau câu chuyện kỹ thuật không chỉ là vấn đề công nghệ, mà còn là câu hỏi ai sẽ có quyền định nghĩa tương lai của trí tuệ nhân tạo.

Trong hơn nửa thế kỷ phát triển máy tính, con người luôn là bên thiết kế công cụ. Nhưng nếu một ngày AI trở thành tác nhân trực tiếp tạo ra thế hệ AI tiếp theo, lịch sử công nghệ có thể bước sang một chương hoàn toàn mới.

Khi đó, câu hỏi lớn nhất không còn là AI có thông minh hơn con người hay không, mà là liệu con người có còn đủ thời gian để đặt ra những giới hạn cho nó trước khi cuộc đua tăng tốc vượt khỏi khả năng kiểm soát.

Bùi Tú