Dario Amodei lo đàn tác tử AI kiểm soát toàn bộ Internet, OpenAI không IPO năm 2026

“Thực sự tôi cho rằng, với tất cả những gì đang xảy ra liên quan đến an toàn AI, đây là thời điểm không thích hợp để IPO (phát hành cổ phiếu lần đầu ra công chúng). Chúng tôi cũng không chịu áp lực phải làm điều đó”, Sam Altman nói với tạp chí Fortune.

Ngày càng nhiều nhà làm luật Mỹ kêu gọi ban hành các quy định mới để quản lý các hệ thống AI, sau những cảnh báo nghiêm trọng từ Jacob Coxon (vừa rời Anthropic) và Evan Hubinger (người phụ trách nghiên cứu căn chỉnh AI tại Anthropic). Họ cảnh báo AI đang phát triển nhanh có thể dẫn đến nguy cơ loài người bị diệt vong trong tương lai không quá xa.

Jacob Coxon hôm 9/9 cho biết ông rời Anthropic vì lo ngại công ty AI này và OpenAI đang “đem mạng sống của chúng ta ra đánh cược”. Jacob Coxon tuyên bố những người xây dựng AI tin rằng công nghệ này có thể “giết chết tất cả chúng ta vào cuối thập niên này”.

"Những người đang phát triển AI thực sự tin rằng nó có thể tiêu diệt toàn bộ nhân loại trước khi thập kỉ này kết thúc. Đây không phải là chiêu trò tiếp thị. Thực tế là, nhiều giám đốc điều hành và nhà nghiên cứu cấp cao thường chọn cách diễn đạt chừng mực khi trả lời báo chí để nghe có vẻ hợp lý, nhưng tôi lại nghe chính những người đó bày tỏ nỗi sợ hãi trong các cuộc trò chuyện riêng tư.

Tôi đã dành ba năm qua để nghiên cứu về giai đoạn tiền huấn luyện AI tại cả OpenAI và Anthropic. Cả hai công ty đều đang hành động thiếu trách nhiệm. Họ đang chạy đua trực diện hướng tới siêu trí tuệ có khả năng tự cải thiện và đang đánh cược với mạng sống của chúng ta”, Jacob Coxon viết trên X.

Quan điểm này sau đó nhận được sự đồng tình từ một số nhân viên và nhà nghiên cứu AI khác. Đáng chú ý, Evan Hubinger - người phụ trách Alignment Science (nghiên cứu căn chỉnh AI) của Anthropic - cho rằng cảnh báo của Jacob Coxon là “đúng”.

“Chúng tôi thực sự tin rằng AI có thể giết chết toàn bộ nhân loại”, ông cho biết thêm.

Evan Hubinger đánh giá xác suất AI có thể khiến toàn bộ nhân loại tuyệt chủng trong vòng 10 năm tới là hơn 10%.

Không những thế, Evan Hubinger thừa nhận Anthropic vẫn chưa có lời giải cho bài toán căn chỉnh siêu trí tuệ với con người và cũng chưa thực sự đi đúng hướng để giải quyết vấn đề này.

Đây là lời thừa nhận đặc biệt đáng chú ý bởi Anthropic từ lâu nhấn mạnh vấn đề an toàn và căn chỉnh AI trong cách tiếp cận của mình.

Những cảnh báo trên xuất hiện sau một loạt vụ các tác tử AI của OpenAI và Anthropic có hành vi ngoài dự kiến, tìm cách xâm nhập những hệ thống bên ngoài, cùng việc nhiều nhà nghiên cứu an toàn AI nghỉ việc vì lo ngại về rủi ro của công nghệ. Các chính trị gia thuộc cả đảng Dân chủ và Cộng hòa đều bày tỏ lo ngại và kêu gọi hành động mạnh mẽ hơn.

Tờ New York Times hồi tháng 6 đưa tin OpenAI (có trụ sở tại thành phố San Francisco, Mỹ) đang cân nhắc trì hoãn đợt IPO, có thể đưa mức định giá công ty lên hàng nghìn tỉ USD, sang năm 2027. Khi đó, cổ phiếu SpaceX đang giảm mạnh sau đợt tăng vọt, đưa mức định giá công ty do Elon Musk điều hành lên hơn 2.000 tỉ USD.

Sam Altman nói về kế hoạch IPO của OpenAI

Khi được Fortune hỏi liệu kế hoạch IPO năm 2026 của OpenAI đã bị loại bỏ để chuyển sang năm 2027 hay chưa, Sam Altman trả lời: “Tôi có thể nói là không phải năm 2026. Chúng tôi còn rất nhiều việc phải làm, chẳng hạn đáp ứng yêu cầu ngày càng lớn về an toàn và sự phù hợp giữa AI với các giá trị của con người, cũng như tìm cách để ngành công nghiệp và chính phủ hợp tác với nhau”.

Sam Altman cũng ám chỉ OpenAI cùng các công ty AI hàng đầu khác có thể sắp công bố một thỏa thuận nhằm làm chậm tốc độ phát triển AI và phối hợp giải quyết rủi ro về an toàn, theo Fortune.

Hôm 12/9, Dario Amodei (Giám đốc điều hành Anthropic) kêu gọi các công ty AI thận trọng hơn với quá trình phát triển công nghệ.

“Chúng ta phải làm chậm tốc độ cải thiện năng lực của các mô hình AI”, Dario Amodei viết trong một bài luận được ông chia sẻ trên mạng xã hội X.

Sau đó, Sam Altman cũng đăng bài bày tỏ sự đồng tình với quan điểm này. "Tôi đồng ý với Dario rằng chúng ta cần kiểm soát tốc độ phát triển các công nghệ tiên phong. Đây là chủ đề thảo luận trọng tâm tại OpenAI trong những tuần gần đây", Sam Altman viết trong phần phản hồi bài đăng của Dario Amodei trên X.

Những lo ngại về an toàn hiện chưa làm chậm kế hoạch IPO của chính Anthropic. Theo các nguồn tin của Reuters, Anthropic được kì vọng sẽ bắt đầu tiếp thị đợt IPO sớm nhất giữa tháng 10 và hoàn tất việc niêm yết vài ngày trước cuộc bầu cử giữa nhiệm kì ở Mỹ vào tháng 11.

Dario Amodei đề xuất 3 bước để làm chậm cuộc đua AI

Dario Amodei kêu gọi các công ty làm chậm tốc độ cải thiện năng lực của các mô hình trong bối cảnh ngày càng lo ngại về việc AI có thể bị lạm dụng. Ông đưa ra một khuôn khổ gồm ba bước nhằm kiểm soát tốc độ phát triển và tạo thêm thời gian để xử lí những rủi ro đi kèm.

“Chúng ta phải làm chậm tốc độ cải thiện năng lực của các mô hình AI. Tiến bộ vẫn sẽ có vẻ nhanh chóng và chúng ta phải sử dụng thời gian có được một cách khôn ngoan”, Dario Amodei viết trong bài luận dài.

Kế hoạch 3 bước của Dario Amodei gồm:

- Bố trí các đơn vị đánh giá độc lập thường trực bên trong các công ty AI tiên phong, trao cho họ quyền tiếp cận ở mức tương đương nhân viên để kiểm tra các biện pháp an toàn.

- Phối hợp giữa các công ty phát triển AI tiên phong nhằm thiết lập tiêu chuẩn an toàn và hạn chế việc phát triển AI không kiểm soát.

- Tăng cường hợp tác quốc tế để quản lí các rủi ro từ AI.

Ngoài Sam Altman, Elon Musk cũng đăng bài trên X cho biết đồng tình với Dario Amodei.

Sam Altman nói: “Cam kết cho phép các đơn vị đánh giá độc lập được tiếp cận ở mức tương đương nhân viên là ý tưởng tuyệt vời và chúng tôi cũng sẽ làm như vậy”. Ông cho biết OpenAI sẽ chia sẻ thêm thông tin trong thời gian tới.

“Đội hình tác tử AI có thể đủ khả năng kiểm soát toàn bộ Internet”

Dario Amodei đăng bài luận sau khi Anthropic công bố báo cáo tình báo về các mối đe dọa hôm 10/9. Báo cáo cho biết một số đối tượng đã sử dụng các mô hình AI Claude của Anthropic cho nhiều hoạt động, từ phát triển vũ khí và tiến hành chiến dịch mạng đến giám sát và lừa đảo.

CEO Anthropic cho rằng khả năng AI ngày càng tự cải thiện là lí do đáng lo ngại, trong đó có nguy cơ AI vượt quá khả năng kiểm soát của con người. Dario Amodei cũng nhắc đến sự cố gần đây liên quan đàn tác tử AI của OpenAI xâm nhập Hugging Face như lí do chính khiến ông muốn các công ty giảm tốc độ nâng cấp mô hình.

Một số lãnh đạo OpenAI từng cho rằng các phòng thí nghiệm AI hàng đầu nên sẵn sàng phối hợp tự nguyện làm chậm quá trình phát triển nếu cần thiết, nhằm củng cố niềm tin vào những biện pháp bảo đảm an toàn của họ.

Anthropic tự định vị là một trong những phòng thí nghiệm AI tiên phong chú trọng an toàn nhất, nhưng cũng không tránh khỏi những lo ngại này. Tuần trước, Anthropic tiết lộ thêm một trường hợp mô hình AI của họ xâm nhập các hệ thống bên ngoài. Trước đó vào tháng 7, một số mô hình Claude đã xâm nhập hệ thống của ba công ty trong các cuộc kiểm tra an ninh mạng.

“Với tốc độ phát triển năng lực AI đang tăng nhanh, tôi lo rằng chỉ trong 6 đến 12 tháng nữa, một đội hình tác tử như vậy có thể đủ khả năng kiểm soát toàn bộ Internet, qua đó có khả năng gây thiệt hại hàng trăm tỉ USD”, Dario Amodei viết.

CEO Anthropic nhấn mạnh ông không kêu gọi dừng huấn luyện mô hình AI hay tiến bộ kỹ thuật. Điều ông muốn là các công ty dành đủ thời gian để nghiên cứu, kiểm tra, bảo đảm mô hình AI phù hợp với những yêu cầu an toàn và được bảo vệ trước các rủi ro trước khi tiếp tục nâng cao năng lực của chúng, đồng thời để các đơn vị đánh giá độc lập xác nhận những biện pháp này.

Song có một lượng tiền khổng lồ đang đặt cược vào việc duy trì lợi thế trong cuộc đua AI. OpenAI và Anthropic đều đang chuẩn bị cho những đợt IPO có quy mô rất lớn. Mỗi bước tiến mới về năng lực AI đều có thể giúp các công ty AI hàng đầu này thuyết phục nhà đầu tư rót thêm vốn, cam kết đầu tư hạ tầng hoặc hỗ trợ kế hoạch lên sàn.

Trong khuôn khổ đề xuất của mình, Dario Amodei cho rằng các công ty AI tiên phong nên có các đơn vị đánh giá độc lập thường trực hoạt động bên trong, với quyền tiếp cận những công cụ liên quan và quy trình đánh giá rủi ro nội bộ.

Tuần trước, Reuters đưa tin đàn tác tử AI của OpenAI đã chiếm quyền kiểm soát DseWiki và biến trang wiki này thành nơi trao đổi thông tin từ tháng 5/2026, kéo dài qua nhiều tuần. Các quan chức OpenAI đã giữ kín sự cố này trong bối cảnh ban lãnh đạo phải xử lí hậu quả từ vụ khoảng 700 tác tử AI phối hợp xâm nhập Hugging Face hồi tháng 7.

Dario Amodei cho rằng các công ty AI nên tự nguyện phối hợp xây dựng các tiêu chuẩn chung, trong bối cảnh ngày càng nhiều nhà làm luật Mỹ kêu gọi đưa ra quy định mới để quản lí các hệ thống AI.

Lo ngại Trung Quốc vượt lên trong cuộc đua AI

Theo Dario Amodei, một cách tiếp cận phối hợp sẽ cho phép các công ty AI hàng đầu Mỹ tiến hành nghiên cứu an toàn và xây dựng các biện pháp bảo vệ cần thiết mà không tự khiến mình rơi vào thế bất lợi trong cạnh tranh.

Ông cho rằng cách tiếp cận này có thể cần đến những ngoại lệ có mục tiêu trong luật chống độc quyền của Mỹ, qua đó cho phép các công ty phối hợp trong một số lĩnh vực nhất định.

Dario Amodei cho rằng việc các quốc gia dân chủ làm chậm tốc độ phát triển AI cần được giới hạn ở mức vẫn duy trì lợi thế mà các công ty Mỹ đang có trước Trung Quốc. Theo ông, việc Trung Quốc vượt lên trong AI có thể trở thành rủi ro với an ninh quốc gia Mỹ.

CEO Anthropic kêu gọi tăng cường kiểm soát các chip AI tiên tiến, hoạt động chưng cất mô hình và hành vi đánh cắp trọng số mô hình nhằm ngăn Trung Quốc thu hẹp khoảng cách.

“Tôi cho rằng tất cả phòng thí nghiệm AI tiên phong nên hợp tác với chính phủ để chính thức hóa việc bố trí các đơn vị đánh giá độc lập thường trực bên trong công ty. Điều này sẽ giúp ngăn chặn và ghi nhận tốt hơn những sự cố liên quan đến việc bảo đảm AI phù hợp với yêu cầu an toàn, chẳng hạn các vụ đã xảy ra vài tháng qua, đồng thời triển khai quy định nhằm duy trì sự cân bằng giữa năng lực AI và mức độ an toàn”, Dario Amodei viết.