Ông Trump bác nguy cơ AI diệt vong nhân loại, chuyên gia OpenAI và Anthropic kêu gọi giảm tốc

Khi được hỏi liệu ông có lo ngại việc AI có thể dẫn đến sự tuyệt chủng của loài người hay không, Tổng thống Mỹ Donald Trump trả lời: “Không, tôi không hề lo ngại về điều đó”.

“Tôi lo rằng nếu Mỹ không giành chiến thắng trong cuộc đua AI, chúng ta sẽ rơi vào một vị thế rất tồi tệ. Hiện chúng ta đang dẫn trước Trung Quốc khá xa, mà tôi cho rằng khoảng một năm. Các bạn biết đấy, đó được coi là khoảng cách lớn”, ông Trump nói với các phóng viên hôm 11/9.

Mỹ và Trung Quốc đang cạnh tranh quyết liệt để giành ưu thế về AI. Căng thẳng ngày càng gia tăng khi các mô hình AI của Trung Quốc tiến bộ nhanh chóng và được sử dụng rộng rãi hơn trên toàn thế giới.

Phát biểu của ông Trump được đưa ra sau khi một loạt nhà nghiên cứu tại các công ty AI hàng đầu, gồm cả OpenAI và Anthropic, cảnh báo về tốc độ phát triển quá nhanh của công nghệ này.

Mối lo ngại AI diệt vong nhân loại ngày càng lớn

Nhà nghiên cứu Jacob Coxon hôm 9/9 cho biết ông rời Anthropic vì lo ngại công ty AI này và OpenAI đang “đem mạng sống của chúng ta ra đánh cược”.

Jacob Coxon tuyên bố những người xây dựng AI tin rằng công nghệ này có thể “giết chết tất cả chúng ta vào cuối thập niên này”.

"Những người đang phát triển AI thực sự tin rằng nó có thể tiêu diệt toàn bộ nhân loại trước khi thập kỉ này kết thúc. Đây không phải là chiêu trò tiếp thị. Thực tế là, nhiều giám đốc điều hành và nhà nghiên cứu cấp cao thường chọn cách diễn đạt chừng mực khi trả lời báo chí để nghe có vẻ hợp lý, nhưng tôi lại nghe chính những người đó bày tỏ nỗi sợ hãi trong các cuộc trò chuyện riêng tư.

Tôi đã dành ba năm qua để nghiên cứu về giai đoạn tiền huấn luyện AI tại cả OpenAI và Anthropic. Cả hai công ty đều đang hành động thiếu trách nhiệm. Họ đang chạy đua trực diện hướng tới siêu trí tuệ có khả năng tự cải thiện và đang đánh cược với mạng sống của chúng ta”, Jacob Coxon viết trên X.

Quan điểm này sau đó nhận được sự đồng tình từ một số nhân viên và nhà nghiên cứu AI khác. Đáng chú ý, Evan Hubinger - người phụ trách Alignment Science (khoa học căn chỉnh AI) của Anthropic - cho rằng cảnh báo của Jacob Coxon là “đúng”.

“Chúng tôi thực sự tin rằng AI có thể giết chết toàn bộ nhân loại”, ông cho biết thêm.

Evan Hubinger đánh giá xác suất AI có thể khiến toàn bộ nhân loại tuyệt chủng trong vòng 10 năm tới là hơn 10%.

Không những thế, Evan Hubinger thừa nhận Anthropic vẫn chưa có lời giải cho bài toán căn chỉnh siêu trí tuệ với con người và cũng chưa thực sự đi đúng hướng để giải quyết vấn đề này.

Đây là lời thừa nhận đặc biệt đáng chú ý bởi Anthropic từ lâu nhấn mạnh vấn đề an toàn và căn chỉnh AI trong cách tiếp cận của mình.

Tuy nhiên, không phải tất cả chuyên gia AI đều đồng tình với những cảnh báo trên. Một số nhà nghiên cứu, gồm cả Gary Marcus, cho rằng kịch bản AI khiến nhân loại tuyệt chủng vẫn mang tính suy đoán và sự chú ý nên tập trung trước hết vào những rủi ro đã xuất hiện, chẳng hạn tấn công mạng, lạm dụng AI trong sinh học, gian lận và hành vi khó kiểm soát của các tác tử AI. Cuộc tranh luận vì thế không chỉ xoay quanh việc AI có thể gây tuyệt chủng hay không, mà còn là con người nên quản lí những rủi ro nào ngay từ bây giờ.

Mối lo AI tự cải thiện năng lực

Một trong những mối lo ngại lớn của giới an toàn AI xoay quanh khả năng các mô hình tự cải thiện năng lực. Kỹ thuật này thường được gọi là tự cải thiện đệ quy (RSI).

“Khó có thể nói hết mức độ nguy hiểm của việc lao nhanh tới giai đoạn RSI”, Jasmine Wang, nhà nghiên cứu về căn chỉnh AI tại OpenAI, viết tối 10/9.

Jakub Pachocki, nhà khoa học trưởng tại OpenAI, hôm 6/9 cho biết ông tin rằng tốc độ tiến bộ của AI có thể tiếp tục được duy trì đến khi AI đạt tới giai đoạn RSI. “Tôi lo ngại rằng không ai chuẩn bị sẵn sàng cho những hậu quả của việc trí thông minh máy móc tiếp tục tăng nhanh”, Jakub Pachocki nói.

Phát biểu của ông Trump được đưa ra trong bối cảnh một số nghị sĩ Cộng hòa cũng tham gia cùng các nghị sĩ Dân chủ ủng hộ việc tăng cường giám sát các hệ thống AI tiên tiến.

Hồi tháng 7, Hạ nghị sĩ Jay Obernolte thuộc đảng Cộng hòa ở bang California và Hạ nghị sĩ Lori Trahan thuộc đảng Dân chủ tại bang Massachusetts giới thiệu dự luật FRONTIER Act, nhằm thiết lập khuôn khổ quản lí việc triển khai các mô hình AI tiên tiến.

“Các nhà nghiên cứu về an toàn AI đang từ chức, những mô hình AI mạnh đang tìm cách thoát khỏi phòng thí nghiệm, còn các công ty vẫn lao về phía trước. Đã đến lúc Quốc hội không thể tiếp tục đứng ngoài và phải làm công việc của mình”, bà Lori Trahan viết trên X hôm 10/9.

Đầu tháng 9, Thượng nghị sĩ Bernie Sanders và Hạ nghị sĩ Greg Casar giới thiệu Ban Artificial Superintelligence Act, dự luật đề xuất cấm phát triển và triển khai siêu AI, đồng thời tạm thời đình chỉ phát triển AI tiên tiến cho đến khi chính phủ liên bang thiết lập các tiêu chuẩn an toàn.

Nhiều nghị sĩ Mỹ muốn siết quản lí AI

Ngày càng có nhiều nghị sĩ Mỹ kêu gọi ban hành các quy định mới để quản lý hệ thống AI, sau những cảnh báo từ Jacob Coxon và Evan Hubinger.

Những cảnh báo trên xuất hiện sau trường hợp tác tử AI của OpenAI và Anthropic hoạt động ngoài dự kiến, tìm cách xâm nhập các hệ thống bên ngoài, cùng với việc các nhà nghiên cứu an toàn AI rời công ty vì lo ngại về rủi ro của công nghệ.

Các chính trị gia thuộc cả hai đảng Dân chủ và Cộng hòa đã phản ứng bằng những cảnh báo mạnh mẽ và lời kêu gọi hành động.

“Washington cần tỉnh táo và nghiêm túc xem xét vấn đề này”, Thượng nghị sĩ Dân chủ Mark Kelly của bang Arizona viết trên X khi đề cập đến các rủi ro từ AI.

Trên chương trình truyền hình The View, Thượng nghị sĩ Cộng hòa Ted Cruz cho biết có những dự luật nhằm quản lí “các rủi ro thảm khốc” từ AI. Ông Ted Cruz hiện là Chủ tịch Ủy ban Thương mại, Khoa học và Vận tải Thượng viện Mỹ, có quyền giám sát Bộ Thương mại Mỹ - cơ quan có các nhà nghiên cứu về an toàn AI.

Hạ nghị sĩ Cộng hòa Anna Paulina Luna của bang Florida kêu gọi Chủ tịch Hạ viện Mike Johnson triệu tập một “phiên họp đặc biệt về AI”. Hạ viện Mỹ đang nghỉ trong tuần này và dự kiến trở lại vào tuần tới.

Trong tháng 9, Mỹ đã thúc giục các thành viên G20 áp dụng cách tiếp cận hạn chế can thiệp với việc quản lý AI.

Người phát ngôn của Anthropic cho biết hôm 10/9 rằng công ty sẽ tiếp tục tích cực kiểm thử các mô hình AI cũng như những năng lực nguy hiểm, chẳng hạn trong lĩnh vực an ninh mạng và sinh học. Người phát ngôn này nói Anthropic cũng muốn hợp tác với ngành AI về tốc độ phát hành các công cụ AI mới.

Anthropic đang chuẩn bị IPO và một số nhà đầu tư kì vọng công ty có thể đạt mức định giá lên tới 2.000 tỉ USD.

"Không có ai thực sự có thể đứng ra ngăn chặn những nguy cơ này"

Sam Altman, Giám đốc điều hành OpenAI, nói với nhân viên trong một cuộc họp nội bộ tuần này rằng công ty sẵn sàng làm chậm quá trình phát triển các hệ thống AI, theo hãng tin Bloomberg.

OpenAI không bình luận về cuộc họp của Sam Altman. Công ty trước đó cho biết đã giảm tốc độ phát triển ở một số phần của quá trình xây dựng mô hình AI.

Đầu tuần này, OpenAI cho biết đang thúc đẩy việc áp dụng các yêu cầu an toàn AI bắt buộc trên toàn nước Mỹ.

Hai chuyên gia về an toàn AI cũng lên tiếng bày tỏ lo ngại về tốc độ phát triển quá nhanh của ngành.

Josh Engels, từng làm nghiên cứu an toàn AI tại Google DeepMind, nói trong cuộc phỏng vấn với NBC được công bố hôm 10/9: “Hiện không có ai đủ quyền lực đứng ra kiểm soát tình hình. Mọi người đều đang cố gắng hết sức, nhưng không có ai thực sự có thể đứng ra ngăn chặn những nguy cơ này”.

Joe Benton, người từng đứng đầu một nhóm nghiên cứu an toàn tại Anthropic, nói với NBC rằng ông lo AI có thể phát triển “quá nhanh khiến chúng ta không kịp phối hợp và đưa ra giải pháp, trừ khi bắt đầu quan tâm đến vấn đề này ngay từ bây giờ”.

Cả Josh Engels và Joe Benton đã gia nhập METR, một tổ chức nghiên cứu phi lợi nhuận chuyên đánh giá liệu và khi nào các hệ thống AI có thể gây ra mối đe dọa với xã hội.

Sức ép thúc đẩy kiểm toán độc lập

Những cảnh báo về AI đang tạo thêm sức ép với lãnh đạo phe đa số tại Thượng viện John Thune và Thượng nghị sĩ đảng Dân chủ Amy Klobuchar - hai người đang xây dựng một dự luật nhằm quản lí các sản phẩm AI.

Bà Amy Klobuchar cho rằng dự luật nên yêu cầu các công ty AI “làm việc với chuyên gia của chính phủ để xác minh và kiểm thử các mô hình, qua đó bảo đảm AI an toàn”.

Ông John Thune nói với Reuters hồi tháng 7 rằng dự luật sẽ xử lí “những rủi ro thảm khốc” do các hệ thống AI gây ra.

California hôm 10/9 ban hành luật đầu tiên ở Mỹ thuộc cấp bang về việc thiết lập quy định cho kiểm toán độc lập các sản phẩm AI.

Chris Lehane, Giám đốc phụ trách các vấn đề toàn cầu tại OpenAI, cho biết công ty ủng hộ dự luật này, cùng thời điểm văn phòng Thống đốc California Gavin Newsom xác nhận ông đã kí ban hành luật.

Hồi tháng 7, nhóm lưỡng đảng gồm 6 nghị sĩ Hạ viện Mỹ đề xuất dự luật yêu cầu các nhà phát triển những mô hình AI mạnh nhất phải đưa chúng qua kiểm toán an ninh độc lập. Theo dự luật, các kiểm toán viên sẽ được Bộ Thương mại Mỹ công nhận, trong khi bộ này sẽ tạo thêm một vị trí mới để giám sát vấn đề an ninh AI.

Alicia Solow-Niederman, giáo sư luật công nghệ tại Đại học George Washington (Mỹ), cho rằng cần tăng cường giám sát các hệ thống AI, gồm cả việc kiểm tra kỹ độ an toàn của chúng trước khi đưa vào sử dụng và tiến hành các cuộc kiểm toán độc lập bởi bên thứ ba.