‘Lời kêu gọi giảm tốc AI của Anthropic là trò Chiến tranh Lạnh nhắm vào Trung Quốc’

Trong bài viết được đăng hôm 12/9, Dario Amodei (Giám đốc điều hành Anthropic) đã vạch ra một khuôn khổ nhằm điều chỉnh tốc độ phát triển năng lực của các mô hình AI tiên tiến, đồng thời tạo thêm thời gian để quản lý các rủi ro an toàn đang ngày càng gia tăng.

“Chúng ta phải làm chậm tốc độ cải thiện năng lực của các mô hình AI. Tiến bộ vẫn sẽ có vẻ nhanh chóng và chúng ta phải sử dụng thời gian có được một cách khôn ngoan”, Dario Amodei viết trong bài luận dài.

Ông đưa ra một khuôn khổ gồm ba bước nhằm kiểm soát tốc độ phát triển và tạo thêm thời gian để xử lý những rủi ro đi kèm. Kế hoạch này gồm:

- Bố trí các đơn vị đánh giá độc lập thường trực bên trong các công ty AI tiên phong, trao cho họ quyền tiếp cận ở mức tương đương nhân viên để kiểm tra các biện pháp an toàn.

- Phối hợp giữa các công ty phát triển AI tiên phong nhằm thiết lập tiêu chuẩn an toàn và hạn chế việc phát triển AI không kiểm soát.

- Tăng cường hợp tác quốc tế để quản lí các rủi ro từ AI.

Đề xuất trên nhận được sự ủng hộ của một số lãnh đạo công ty AI lớn khác, trong đó có Elon Musk và Sam Altman (CEO OpenAI).

"Tôi đồng ý với Dario rằng chúng ta cần kiểm soát tốc độ phát triển các công nghệ tiên phong. Đây là chủ đề thảo luận trọng tâm tại OpenAI trong những tuần gần đây", Sam Altman viết trong phần phản hồi bài đăng của Dario Amodei trên X.

“Cam kết cho phép các đơn vị đánh giá độc lập được tiếp cận ở mức tương đương nhân viên là ý tưởng tuyệt vời và chúng tôi cũng sẽ làm như vậy”, Sam Altman nói thêm. Ông cho biết OpenAI sẽ chia sẻ thêm thông tin trong thời gian tới.

CEO Anthropic: "Trung Quốc vượt lên trong AI có thể trở thành rủi ro với an ninh quốc gia Mỹ"

Theo Dario Amodei, một cách tiếp cận phối hợp sẽ cho phép các công ty AI hàng đầu Mỹ tiến hành nghiên cứu an toàn và xây dựng các biện pháp bảo vệ cần thiết mà không tự khiến mình rơi vào thế bất lợi trong cạnh tranh.

Ông cho rằng cách tiếp cận này có thể cần đến những ngoại lệ có mục tiêu trong luật chống độc quyền của Mỹ, qua đó cho phép các công ty phối hợp trong một số lĩnh vực nhất định.

Dario Amodei cho rằng việc các quốc gia dân chủ làm chậm tốc độ phát triển AI cần được giới hạn ở mức vẫn duy trì lợi thế mà các công ty Mỹ đang có trước Trung Quốc. Theo ông, việc Trung Quốc vượt lên trong AI có thể trở thành rủi ro với an ninh quốc gia Mỹ.

CEO Anthropic kêu gọi Mỹ tăng cường kiểm soát các chip AI tiên tiến, hoạt động chưng cất và đánh cắp trọng số mô hình nhằm ngăn Trung Quốc thu hẹp khoảng cách.

Chưng cất là sử dụng một mô hình AI mạnh để tạo dữ liệu hoặc đầu ra nhằm huấn luyện mô hình khác.

“Tôi cho rằng tất cả phòng thí nghiệm AI tiên phong nên hợp tác với chính phủ để chính thức hóa việc bố trí các đơn vị đánh giá độc lập thường trực bên trong công ty. Điều này sẽ giúp ngăn chặn và ghi nhận tốt hơn những sự cố liên quan đến việc bảo đảm AI phù hợp với yêu cầu an toàn, chẳng hạn các vụ đã xảy ra vài tháng qua, đồng thời triển khai quy định nhằm duy trì sự cân bằng giữa năng lực AI và mức độ an toàn”, Dario Amodei viết.

Trong cuộc phỏng vấn với CBS News hôm 13/9, Dario Amodei cho biết “tình thế tiến thoái lưỡng nan lớn nhất” với đề xuất làm chậm tiến trình phát triển AI của ông sẽ xuất hiện nếu Trung Quốc và các quốc gia đối địch khác không hành động tương tự.

“Cuộc Chiến tranh Lạnh AI âm thầm”

Thời báo Hoàn Cầu cho rằng mục tiêu thực sự của bài viết do Dario Amodei đưa ra là “cố gắng kiềm chế sự phát triển AI của Trung Quốc thông qua các rào cản công nghệ và sự độc quyền về quy định, duy trì vị thế bá quyền độc quyền của Mỹ trong công nghệ tiên tiến, đồng thời loại Trung Quốc khỏi hệ thống quản trị AI toàn cầu”.

“Cuộc Chiến tranh Lạnh AI âm thầm này là đạo đức giả và thiển cận”, Thời báo Hoàn Cầu viết, đồng thời cảnh báo việc loại Trung Quốc khỏi đổi mới AI toàn cầu sẽ “làm gia tăng đáng kể chi phí thử và sai cũng như rủi ro mất kiểm soát trong quá trình phát triển AI toàn cầu”.

Thời báo Hoàn cầu là ấn phẩm thuộc trực thuộc Nhân dân Nhật báo - cơ quan ngôn luận chính thức của Đảng Cộng sản Trung Quốc.

Các nhà làm luật Mỹ đã kêu gọi xây dựng những quy định mới để quản lý các hệ thống AI sau khi nhà nghiên cứu Jacob Coxon (vừa rời Anthropic) và Evan Hubinger (người phụ trách Alignment Science của Anthropic) cảnh báo rằng công nghệ đang phát triển nhanh chóng này có thể dẫn đến nguy cơ loài người bị tuyệt chủng trong tương lai không quá xa.

Hôm 9/9, Jacob Coxon cho biết ông rời Anthropic vì lo ngại công ty AI này và OpenAI đang “đem mạng sống của chúng ta ra đánh cược”. Jacob Coxon tuyên bố những người xây dựng AI tin rằng công nghệ này có thể “giết chết tất cả chúng ta vào cuối thập niên này”.

"Những người đang phát triển AI thực sự tin rằng nó có thể tiêu diệt toàn bộ nhân loại trước khi thập kỉ này kết thúc. Đây không phải là chiêu trò tiếp thị. Thực tế là nhiều giám đốc điều hành và nhà nghiên cứu cấp cao thường chọn cách diễn đạt chừng mực khi trả lời báo chí để nghe có vẻ hợp lý, nhưng tôi lại nghe chính những người đó bày tỏ nỗi sợ hãi trong các cuộc trò chuyện riêng tư.

Tôi đã dành ba năm qua để nghiên cứu về giai đoạn tiền huấn luyện AI tại cả OpenAI và Anthropic. Cả hai công ty đều đang hành động thiếu trách nhiệm. Họ đang chạy đua trực diện hướng tới siêu trí tuệ có khả năng tự cải thiện và đang đánh cược với mạng sống của chúng ta”, Jacob Coxon viết trên X.

Quan điểm này sau đó nhận được sự đồng tình từ một số nhân viên và nhà nghiên cứu AI khác. Đáng chú ý, Evan Hubinger - người phụ trách nghiên cứu căn chỉnh AI của Anthropic - cho rằng cảnh báo của Jacob Coxon là “đúng”.

“Chúng tôi thực sự tin rằng AI có thể giết chết toàn bộ nhân loại”, ông cho biết thêm.

Evan Hubinger đánh giá xác suất AI có thể khiến toàn bộ nhân loại tuyệt chủng trong vòng 10 năm tới là hơn 10%.

Không những thế, Evan Hubinger thừa nhận Anthropic vẫn chưa có lời giải cho bài toán căn chỉnh siêu trí tuệ với con người và cũng chưa thực sự đi đúng hướng để giải quyết vấn đề này.

Đây là lời thừa nhận đặc biệt đáng chú ý bởi Anthropic từ lâu nhấn mạnh vấn đề an toàn và căn chỉnh AI trong cách tiếp cận của mình.

Tuy nhiên, không phải tất cả chuyên gia AI đều đồng tình với những cảnh báo trên. Một số nhà nghiên cứu, gồm cả Gary Marcus, cho rằng kịch bản AI khiến nhân loại tuyệt chủng vẫn mang tính suy đoán và sự chú ý nên tập trung trước hết vào những rủi ro đã xuất hiện, chẳng hạn tấn công mạng, lạm dụng AI trong sinh học, gian lận và hành vi khó kiểm soát của các tác tử AI. Cuộc tranh luận vì thế không chỉ xoay quanh việc AI có thể gây tuyệt chủng hay không, mà còn là con người nên quản lí những rủi ro nào ngay từ bây giờ.

Khi được hỏi liệu ông có lo ngại việc AI có thể dẫn đến sự tuyệt chủng của loài người hay không, Tổng thống Trump trả lời rằng: “Không, tôi không hề lo ngại về điều đó”.

“Tôi lo rằng nếu Mỹ không giành chiến thắng trong cuộc đua AI, chúng ta sẽ rơi vào một vị thế rất tồi tệ. Chúng ta đang dẫn trước Trung Quốc khá xa, mà tôi cho rằng khoảng một năm. Các bạn biết đấy, đó được coi là khoảng cách lớn”, ông Trump nói với các phóng viên hôm 11/9.

Mỹ và Trung Quốc đang cạnh tranh quyết liệt để giành ưu thế về AI. Căng thẳng ngày càng gia tăng khi các mô hình AI của Trung Quốc tiến bộ nhanh chóng và được sử dụng rộng rãi hơn trên toàn thế giới.

Ngày 13/9, ông Trump đã bác bỏ lời kêu gọi làm chậm AI, nói rằng “các thế lực rất tiêu cực” đang thổi phồng những lo ngại về công nghệ này.

"Chúng ta đang dẫn trước Trung Quốc về AI. Chúng ta là quốc gia tiên tiến nhất thế giới, và thẳng thắn mà nói, tôi muốn duy trì điều đó vì ai thắng trong cuộc đua AI sẽ là người chiến thắng chung cuộc", ông Trump phát biểu trước các phóng viên tại sân golf của mình ở Ireland, khi được hỏi liệu ngành công nghiệp AI có nên giảm tốc hay cần được quản lý chặt chẽ hơn không.

Trung Quốc lên tiếng về lời kêu gọi làm chậm việc phát triển AI của các lãnh đạo Mỹ

Khi được hỏi về lời kêu gọi của các lãnh đạo công nghệ Mỹ nhằm làm chậm phát triển AI, Bộ Ngoại giao Trung Quốc kêu gọi tất cả các bên “thúc đẩy cách tiếp cận cởi mở, bao trùm và thiện chí với AI”.

“Việc kích động các mối đe dọa khác nhau, đối đầu và cạnh tranh ác ý sẽ chỉ làm gián đoạn tiến trình quản trị AI toàn cầu và không phục vụ lợi ích của bất kì bên nào”, Quách Gia Côn - người phát ngôn Bộ Ngoại giao Trung Quốc - nói tại cuộc họp báo thường kì hôm 14/9.

Mỹ và Trung Quốc đang lên kế hoạch thảo luận về những rủi ro an toàn liên quan đến các công nghệ AI tiên tiến vào giữa tháng 9, theo các nguồn tin của Reuters. Vấn đề này cũng có thể được đưa ra thảo luận tại cuộc gặp thượng đỉnh giữa Tổng thống Trump và Chủ tịch Trung Quốc Tập Cận Bình vào ngày 24/9.

Sơn Vân