Cựu chuyên gia Google: ‘AI có thể giết chết tất cả chúng ta’

Bilal Chughtai tin AI có thể giết chết tất cả chúng ta

“Tại Google, tôi đã trực tiếp chứng kiến quá trình phát triển AI. Tôi cũng vô cùng lo ngại về hướng phát triển của công nghệ này hiện nay”, Bilal Chughtai viết hôm 14/9 trên cả tài khoản X và LinkedIn.

Bilal Chughtai cho biết ông từng làm việc về an toàn và căn chỉnh AI (đảm bảo AI hoạt động theo đúng mục tiêu, giá trị của con người) tại Google DeepMind, đơn vị nghiên cứu AI chủ chốt của Google.

“Tôi thực sự tin rằng AI có khả năng giết chết tất cả chúng ta”, ông viết.

Google chưa phản hồi khi được đề nghị bình luận về chuyện này.

Bilal Chughtai là nhà nghiên cứu mới nhất bày tỏ lo ngại nghiêm trọng về những năng lực AI ngày càng phát triển nhưng chưa được bảo đảm phù hợp với mục tiêu của con người, có thể cuối cùng dẫn đến nguy cơ hủy diệt nhân loại.

Tuy nhiên, Bilal Chughtai cho biết ông vẫn lạc quan rằng con người có thể tìm ra cách phát triển và sử dụng AI một cách an toàn. Công việc tiếp theo của Bilal Chughtai cũng sẽ tập trung vào mục tiêu này.

Theo hồ sơ LinkedIn, Bilal Chughtai hiện làm việc cho BlueDot Impact, tổ chức phi lợi nhuận đào tạo nhân sự trong nhiều lĩnh vực về an toàn AI.

Tranh luận về khả năng AI có thể khiến nhân loại diệt vong

Hôm 9/9, nhà nghiên cứu Jacob Coxon cho biết ông rời Anthropic vì lo ngại công ty AI này và OpenAI đang “đem mạng sống của chúng ta ra đánh cược”. Jacob Coxon tuyên bố những người xây dựng AI tin rằng công nghệ này có thể “giết chết tất cả chúng ta vào cuối thập niên này”.

"Những người đang phát triển AI thực sự tin rằng nó có thể tiêu diệt toàn bộ nhân loại trước khi thập kỉ này kết thúc. Đây không phải là chiêu trò tiếp thị. Thực tế là nhiều giám đốc điều hành và nhà nghiên cứu cấp cao thường chọn cách diễn đạt chừng mực khi trả lời báo chí để nghe có vẻ hợp lý, nhưng tôi lại nghe chính những người đó bày tỏ nỗi sợ hãi trong các cuộc trò chuyện riêng tư.

Tôi đã dành ba năm qua để nghiên cứu về giai đoạn tiền huấn luyện AI tại cả OpenAI và Anthropic. Cả hai công ty đều đang hành động thiếu trách nhiệm. Họ đang chạy đua trực diện hướng tới siêu trí tuệ có khả năng tự cải thiện và đang đánh cược với mạng sống của chúng ta”, Jacob Coxon viết trên X.

Bài đăng này nhanh chóng lan truyền trên X, thu hút hơn 150 triệu lượt xem và sự chú ý của nhiều nhà làm luật cũng như nhân vật nổi tiếng.

Quan điểm của Evan Hubinger sau đó nhận được sự đồng tình từ một số nhân viên và nhà nghiên cứu AI khác. Đáng chú ý, Evan Hubinger - người phụ trách nghiên cứu căn chỉnh AI của Anthropic - cho rằng cảnh báo của Jacob Coxon là “đúng”.

“Chúng tôi thực sự tin rằng AI có thể giết chết toàn bộ nhân loại”, ông cho biết thêm.

Evan Hubinger đánh giá xác suất AI có thể khiến toàn bộ nhân loại tuyệt chủng trong vòng 10 năm tới là hơn 10%.

Không những thế, Evan Hubinger thừa nhận Anthropic vẫn chưa có lời giải cho bài toán căn chỉnh siêu trí tuệ với con người và cũng chưa thực sự đi đúng hướng để giải quyết vấn đề này.

Đây là lời thừa nhận đặc biệt đáng chú ý bởi Anthropic từ lâu nhấn mạnh vấn đề an toàn và căn chỉnh AI trong cách tiếp cận của mình.

Trên chương trình Newsnight của đài BBC tuần trước, Geoffrey Hinton - nhà khoa học thường được gọi là “cha đỡ đầu của AI” - cho rằng việc đánh giá xác suất AI gây ra sự tuyệt chủng của nhân loại ở mức khoảng 10% không phải con số vô lí, dù ông thừa nhận không ai có thể đưa ra một tỉ lệ chính xác cho một sự kiện chưa từng xảy ra.

"Sẽ thật ngớ ngẩn nếu nói rằng xác suất chỉ là 1%. Chẳng ai biết cách ước tính con số đó cả”, ông nói.

Điều đáng chú ý, Geoffrey Hinton từng đưa ra con số khoảng 10 - 20% cho nguy cơ AI gây tuyệt chủng trong vài thập niên. Song khi chứng kiến tốc độ tiến bộ của AI, ông đã rút ngắn đáng kể thời gian dự đoán.

"Trước đây, tôi từng nghĩ là khoảng 30 đến 50 năm, sau đó tôi rút ngắn xuống còn 10 đến 20 năm. Giờ đây, tôi nghĩ có lẽ là 10 năm, hoặc thậm chí ít hơn. Những người khác còn cho rằng nó sẽ xảy ra sớm hơn nhiều", Geoffrey Hinton thổ lộ.

Về cách thức xảy ra thảm họa, ông đề cập đến nhiều rủi ro, từ các cuộc tấn công mạng cho đến việc AI tự tạo ra một loại virus chết người.

Geoffrey Hinton cho rằng nhân loại có thể sẽ đi vào con đường dẫn đến sự diệt vong, hoặc tìm ra cách "đối phó với những mối nguy hiểm" mà AI gây ra trong khi vẫn hiện thực hóa được những lợi ích to lớn mà nó dự kiến mang lại. Ông kêu gọi thiết lập các quy định toàn cầu, đồng thời lưu ý rằng dù các quốc gia có thể không đồng thuận về mọi vấn đề nhưng đều có chung mong muốn bảo vệ sự tồn vong của nhân loại.

"Trong những vấn đề như ngăn AI giành quyền kiểm soát con người, lợi ích của tất cả các quốc gia đều giống nhau. Vì vậy, họ sẽ hợp tác với nhau về vấn đề này. Câu hỏi đặt ra là liệu họ có hành động kịp thời hay không?", Geoffrey Hinton nhấn mạnh.

Hôm 12/9, Dario Amodei (Giám đốc điều hành Anthropic) đăng một bài luận dài 3.800 từ kêu gọi làm chậm tốc độ phát triển mô hình AI tiên tiến. Dario Amodei đã vạch ra một khuôn khổ nhằm điều chỉnh tốc độ phát triển năng lực của các mô hình AI tiên tiến, đồng thời tạo thêm thời gian để quản lý các rủi ro an toàn đang ngày càng gia tăng.

“Chúng ta phải làm chậm tốc độ cải thiện năng lực của các mô hình AI. Tiến bộ vẫn sẽ có vẻ nhanh chóng và chúng ta phải sử dụng thời gian có được một cách khôn ngoan”, Dario Amodei viết trong bài luận. Ông đưa ra một khuôn khổ gồm ba bước nhằm kiểm soát tốc độ phát triển và tạo thêm thời gian để xử lí những rủi ro đi kèm, gồm:

- Bố trí các đơn vị đánh giá độc lập thường trực bên trong các công ty AI tiên phong, trao cho họ quyền tiếp cận ở mức tương đương nhân viên để kiểm tra các biện pháp an toàn.

- Phối hợp giữa các công ty phát triển AI tiên phong nhằm thiết lập tiêu chuẩn an toàn và hạn chế việc phát triển AI không kiểm soát.

- Thúc đẩy hợp tác quốc tế để giảm thiểu các rủi ro từ AI, kể cả giữa những quốc gia có hệ thống chính trị khác nhau.

Quan điểm này nhận được sự ủng hộ từ Sam Altman (Giám đốc điều hành OpenAI) và Elon Musk (Giám đốc điều hành SpaceX).

Elon Musk viết trên X: “Dario nói đúng”.

Trong khi đó, Sam Altman viết trong phần phản hồi bài đăng của Dario Amodei trên X: "Tôi đồng ý với Dario rằng chúng ta cần kiểm soát tốc độ phát triển các công nghệ tiên phong. Đây là chủ đề thảo luận trọng tâm tại OpenAI trong những tuần gần đây".

“Cam kết cho phép các đơn vị đánh giá độc lập được tiếp cận ở mức tương đương nhân viên là ý tưởng tuyệt vời và chúng tôi cũng sẽ làm như vậy”, Sam Altman nói thêm. Ông cho biết OpenAI sẽ chia sẻ thêm thông tin trong thời gian tới.

Tuy nhiên, không phải tất cả chuyên gia AI đều đồng tình với những cảnh báo trên. Một số nhà nghiên cứu, gồm cả Gary Marcus, cho rằng kịch bản AI khiến nhân loại tuyệt chủng vẫn mang tính suy đoán và sự chú ý nên tập trung trước hết vào những rủi ro đã xuất hiện, chẳng hạn tấn công mạng, lạm dụng AI trong sinh học, gian lận và hành vi khó kiểm soát của các tác tử AI. Cuộc tranh luận vì thế không chỉ xoay quanh việc AI có thể gây tuyệt chủng hay không, mà còn là con người nên quản lí những rủi ro nào ngay từ bây giờ.

Khi được hỏi liệu ông có lo ngại việc AI có thể dẫn đến sự tuyệt chủng của loài người hay không, Tổng thống Trump trả lời rằng: “Không, tôi không hề lo ngại về điều đó”.

“Tôi lo rằng nếu Mỹ không giành chiến thắng trong cuộc đua AI, chúng ta sẽ rơi vào một vị thế rất tồi tệ. Chúng ta đang dẫn trước Trung Quốc khá xa, mà tôi cho rằng khoảng một năm. Các bạn biết đấy, đó được coi là khoảng cách lớn”, ông Trump nói với các phóng viên hôm 11/9.

Mỹ và Trung Quốc đang cạnh tranh quyết liệt để giành ưu thế về AI. Căng thẳng ngày càng gia tăng khi các mô hình AI của Trung Quốc tiến bộ nhanh chóng và được sử dụng rộng rãi hơn trên toàn thế giới.

Ngày 13/9, ông Trump đã bác bỏ lời kêu gọi làm chậm quá trình phát triển AI, nói rằng “các thế lực rất tiêu cực” đang thổi phồng những lo ngại về công nghệ này.

"Chúng ta đang dẫn trước Trung Quốc về AI. Chúng ta là quốc gia tiên tiến nhất thế giới, và thẳng thắn mà nói, tôi muốn duy trì điều đó vì ai thắng trong cuộc đua AI sẽ là người chiến thắng chung cuộc", ông Trump phát biểu trước các phóng viên tại sân golf của mình ở Ireland, khi được hỏi liệu ngành công nghiệp AI có nên giảm tốc hay cần được quản lý chặt chẽ hơn không.

Hôm 14/9, ông Trump đang công khai chỉ trích Dario Amodei vì lời kêu gọi làm chậm tốc độ phát triển AI.

“Chính quyền Trump đã ngăn những người trong lĩnh vực AI làm những điều xấu, hoặc có khả năng gây hại, như Dario (Anthropic), người đang giả vờ mình là một ‘thiên thần nhỏ hoàn hảo’. Chúng tôi sẽ tiếp tục làm như vậy!”, ông Trump viết trên mạng xã hội Truth Social.

Tổng thống Trump một lần nữa nhắc lại quan điểm lâu nay rằng Mỹ không cần áp đặt nhiều quy định với ngành AI, đặc biệt khi ông đang lãnh đạo đất nước.

“Biện pháp kiểm soát hay ‘hàng rào bảo vệ’ duy nhất mà AI cần là một tổng thống mạnh mẽ và thông minh. Nước Mỹ đang có một người như vậy, hơn cả mong đợi!”, ông Trump viết.

Sơn Vân