CEO Google DeepMind muốn Mỹ lập cơ quan kiểm định mô hình AI tiên tiến nhất

Trong bài viết đăng trên mạng xã hội X hôm 14/7, ông Demis Hassabis - Giám đốc Google DeepMind đoạt giải Giải Nobel Hóa học năm 2024 - cho rằng cần có hành động khẩn cấp để ứng phó với các rủi ro liên quan đến AI tổng quát (AGI). AGI là giai đoạn mà AI có thể thực hiện hầu hết các nhiệm vụ trí tuệ ở mức tương đương hoặc vượt con người.

Ông viết: "Chúng ta đã chứng kiến những thách thức mà các mô hình AI tiên tiến nhất gây ra với an ninh mạng. Trong tương lai gần, khi năng lực AI tiếp tục phát triển, các nguy cơ khác như vũ khí hạt nhân hay sinh học cũng có thể xuất hiện".

Demis Hassabis nhấn mạnh rằng tốc độ tiến bộ quá nhanh của AI đòi hỏi một cách tiếp cận hoàn toàn mới trong việc kiểm tra và đánh giá các mô hình AI tiên tiến. Hệ thống này cần đủ linh hoạt để theo kịp sự phát triển của công nghệ, đồng thời phải nghiêm ngặt để phát hiện kịp thời các rủi ro. Theo ông, với lợi thế về kinh tế và công nghệ, Mỹ là quốc gia phù hợp nhất để đi đầu xây dựng khuôn khổ kiểm định như vậy.

CEO Google DeepMind đề xuất thành lập cơ quan tiêu chuẩn AI

Demis Hassabis đề xuất Mỹ thành lập cơ quan xây dựng tiêu chuẩn AI theo mô hình hợp tác công - tư hoặc tổ chức tự quản có sự giám sát của chính phủ liên bang, tương tự Cơ quan Quản lý Ngành Tài chính Mỹ (FINRA). Hội đồng quản trị của cơ quan này sẽ bao gồm các chuyên gia kỹ thuật độc lập hàng đầu cùng đại diện cộng đồng AI mã nguồn mở. Hiện FINRA là tổ chức giám sát các công ty môi giới chứng khoán và thị trường giao dịch tại Mỹ.

Theo đề xuất của Demis Hassabis, tất cả mô hình AI được xếp vào nhóm tiên tiến nhất, bất kể là mã nguồn mở hay mã nguồn đóng và được phát triển ở bất kì quốc gia nào, đều phải trải qua quá trình kiểm định trước khi được triển khai. Cơ quan này cũng sẽ thực hiện các bài kiểm tra nhằm đánh giá xem những cơ chế bảo vệ an toàn của AI có thể bị vô hiệu hóa hoặc vượt qua hay không.

Demis Hassabis cho rằng cơ quan đó cần được cấp nguồn tài chính đáng kể để thu hút các chuyên gia kỹ thuật hàng đầu thế giới và đầu tư vào hạ tầng tính toán đủ mạnh phục vụ việc thử nghiệm các mô hình AI quy mô lớn. Theo ông, phần lớn kinh phí nhiều khả năng sẽ đến từ chính các doanh nghiệp trong ngành.

Ở giai đoạn đầu, các công ty phát triển AI tiên tiến sẽ tự nguyện gửi mô hình AI của mình cho cơ quan đánh giá trước tối đa 30 ngày so với thời điểm phát hành. Nếu cơ chế kiểm định này được chứng minh là hiệu quả, việc đánh giá sẽ trở thành bắt buộc với các mô hình AI muốn được triển khai tại thị trường Mỹ.

Demis Hassabis nói các bài kiểm tra dành cho agentic AI (AI có tính tự chủ) có thể bao gồm việc phát hiện liệu AI có tìm cách vượt qua các hàng rào an toàn, có dấu hiệu đánh lừa con người hay không. Ngoài ra, cơ quan này cũng sẽ khuyến khích áp dụng các biện pháp bảo đảm an toàn như gắn hình mờ kỹ thuật số lên ảnh do AI tạo ra và yêu cầu các mô hình AI cung cấp thông tin mà con người có thể đọc, theo dõi để hiểu cách chúng đưa ra kết luận.

Bên cạnh các đề xuất về quản lý, Demis Hassabis cũng đưa ra góc nhìn lạc quan về tương lai của AI. Theo ông, công nghệ này có thể tạo ra những bước đột phá lớn trong y học và năng lượng.

Doanh nhân người Anh dự đoán AGI có lẽ chỉ còn cách vài năm nữa. Theo ông, đây là khoảng thời gian quý giá để xã hội chuẩn bị và xây dựng các biện pháp quản lí phù hợp.

"Tác động của AGI sẽ chưa từng có tiền lệ, có thể lớn gấp 10 lần Cách mạng Công nghiệp nhưng diễn ra với tốc độ nhanh gấp 10 lần", Giám đốc điều hành Google DeepMind viết.

Ông cũng dùng một hình ảnh so sánh để nhấn mạnh sự kì diệu của AI: Con người đã tìm ra cách biến cát - nguyên liệu dùng để sản xuất chip bán dẫn - thành những cỗ máy có khả năng suy nghĩ. "Nếu ngẫm kỹ, chúng ta thực sự đã khiến cát biết suy nghĩ. Đó là điều kì diệu", Demis Hassabis kết luận.

CEO OpenAI đề xuất thành lập diễn đàn quốc tế do Mỹ dẫn đầu để xây dựng tiêu chuẩn AI toàn cầu

Những phát biểu trên được đưa ra khoảng một tháng sau khi các nguồn tin nói với kênh CNBC rằng Demis Hassabis cùng Dario Amodei (Giám đốc điều hành Anthropic) đã kêu gọi thành lập một liên minh do Mỹ dẫn đầu nhằm xây dựng các quy tắc và tiêu chuẩn về AI tại cuộc họp G7 với các lãnh đạo công nghệ và nguyên thủ quốc gia, trong đó có Tổng thống Mỹ Donald Trump.

Dù ngày càng nhiều lãnh đạo công nghệ kêu gọi thành lập một cơ quan giám sát AI, việc quản lý các mô hình tiên tiến vẫn là chủ đề gây nhiều tranh cãi giữa khu vực công và tư.

Những tuần gần đây, Anthropic đã phải đàm phán với giới chức Mỹ sau khi chính quyền Trump tạm thời áp đặt các biện pháp kiểm soát xuất khẩu với hai mô hình AI tiên tiến của hãng là Claude Mythos 5 và Claude Fable 5. OpenAI cũng từng đối mặt với yêu cầu của chính phủ Mỹ về việc giới hạn việc triển khai dòng mô hình GPT-5.6.

Khác với Demis Hassabis, Sam Altman (Giám đốc điều hành OpenAI) đầu tháng 7 đề xuất thành lập một diễn đàn quốc tế do Mỹ dẫn đầu, quy tụ chính phủ các nước, chuyên gia kỹ thuật độc lập và đại diện ngành AI, với mục đích xây dựng các tiêu chuẩn an toàn được quốc tế chấp nhận với AI tiên tiến.

Theo Sam Altman, tổ chức này cần có khả năng cung cấp các phân tích chuyên môn khách quan về khả năng cũng như mức độ nguy hiểm của các mô hình AI mới, thay vì để từng công ty tự đánh giá.

Cuộc đua AI của Mỹ - Trung

Lời kêu gọi tăng cường giám sát AI xuất hiện trong bối cảnh cuộc cạnh tranh giữa Mỹ và Trung Quốc về phát triển và triển khai các mô hình AI ngày càng gay gắt.

Các mô hình AI mới từ một số công ty Trung Quốc như DeepSeek và Z.ai được nhiều chuyên gia đánh giá có khả năng cạnh tranh trực tiếp với sản phẩm tiên tiến của Anthropic và OpenAI. Ngoài ra, các mô hình Trung Quốc cũng đang được nhiều doanh nghiệp Mỹ sử dụng khi chi phí triển khai AI ngày càng tăng.

Trước xu hướng đó, các nhà làm luật Mỹ đang xem xét các biện pháp nhằm hạn chế việc doanh nghiệp trong nước sử dụng các mô hình AI Trung Quốc. Bộ Ngoại giao Mỹ nói với CNBC rằng xu hướng này đang làm dấy lên "những lo ngại nghiêm trọng".

Sơn Vân