Chuyên gia an ninh Mỹ - Trung đề xuất cơ chế an toàn kiểu hạt nhân để giảm rủi ro từ AI
Các chuyên gia an ninh Mỹ và Trung Quốc đề xuất thiết lập lằn ranh đỏ xung quanh hệ thống hạt nhân, duy trì quyền kiểm soát của con người và lập đường dây nóng, để ngăn AI đẩy sự cố ngoài ý muốn thành xung đột quân sự.
Theo các chuyên gia an ninh Mỹ - Trung, trong trường hợp một hệ thống AI can thiệp vào mạng lưới chỉ huy hạt nhân hoặc tự tiến hành một cuộc tấn công mạng quân sự, Mỹ hay Trung Quốc có thể chỉ có vài phút để xác định liệu đó là một sự cố do AI gây ra hay cuộc tấn công có chủ đích từ chính phủ đối phương.
Họ kêu gọi hai nước sớm chuẩn bị cho những tình huống như vậy, trong bối cảnh các hệ thống AI ngày càng mạnh và tự chủ. Các chuyên gia này tham gia một cơ chế đối thoại Mỹ - Trung, trong đó những nghiên cứu và khuyến nghị được đưa ra có thể góp phần cung cấp thông tin cho cuộc thảo luận chính thức giữa hai nước.
Những đề xuất của họ bao gồm thiết lập lằn ranh đỏ với hệ thống hạt nhân, duy trì quyền kiểm soát của con người với các cuộc tấn công mạng có hậu quả nghiêm trọng và thiết lập đường dây nóng để xử lí các sự cố liên quan đến AI có tính tự chủ.
Các khuyến nghị được công bố gần đây, trước các cuộc đàm phán cấp chính phủ về AI và cuộc gặp dự kiến vào ngày 24/9 tại Washington giữa Tổng thống Mỹ Donald Trump và Chủ tịch Trung Quốc Tập Cận Bình.
Bà Melanie Sisson (chuyên gia cấp cao tại Viện Brookings) và ông Tianjiao Jiang (phó giáo sư Viện Nghiên cứu Phát triển tại Đại học Phúc Đán) là thành viên tham gia cơ chế đối thoại Mỹ - Trung về AI và an ninh quốc gia, được Viện Brookings (Mỹ) và Trung tâm Chiến lược và An ninh Quốc tế thuộc Đại học Thanh Hoa (Trung Quốc) đồng tổ chức từ năm 2019.
Các đề xuất trên cho thấy cạnh tranh AI giữa Mỹ và Trung Quốc đang vượt ra ngoài cuộc đua về chip và mô hình tiên tiến để chuyển sang những vấn đề vốn từ lâu gắn với kiểm soát vũ khí: Làm thế nào để ngăn một sự cố vô tình bị hiểu nhầm là hành động tấn công, hạn chế việc máy móc tự đưa ra các quyết định quân sự và thiết lập quy trình liên lạc giữa những quốc gia sở hữu vũ khí hạt nhân khi công nghệ hoạt động ngoài dự kiến.
Trong một bài viết tuần này, Bộ trưởng An ninh quốc gia Trung Quốc Trần Nhất Tân nhận định: “AI đang thay đổi về cơ bản hình thức đấu tranh quân sự". Ông cho rằng AI đã chuyển từ vai trò hỗ trợ trên chiến trường sang đóng vai trò then chốt, đồng thời dẫn ví dụ về các cuộc tấn công do AI điều phối trong cuộc chiến giữa Mỹ - Israel và Iran.
Thiết lập lằn ranh đỏ quanh các hệ thống hạt nhân
Melanie Sisson cho rằng con người nên là bên duy nhất có quyền khởi động các cuộc tấn công mạng có sự hỗ trợ của AI nhắm vào hệ thống chỉ huy, kiểm soát và liên lạc hạt nhân của nước kia hoặc các hạ tầng có tầm quan trọng chiến lược.
Một hệ thống tự hành có thể gặp trục trặc, hoạt động vượt quá phạm vi chỉ dẫn hoặc xâm nhập, trong khi quốc gia bị tấn công có thể gặp khó khăn trong việc xác định xem hành động đó là sự cố ngoài ý muốn hay do chính phủ đối thủ chỉ đạo.
Tianjiao Jiang đề xuất thiết lập những lằn ranh đỏ rõ ràng, ngăn AI tự đưa ra quyết định sử dụng vũ khí hạt nhân hoặc tự động tấn công các hệ thống chỉ huy hạt nhân. Ông cũng đề nghị tăng cường bảo vệ các hạ tầng quan trọng như năng lượng, tài chính và y tế.
Tianjiao Jiang đồng thời kêu gọi Mỹ và Trung Quốc thống nhất định nghĩa chung về “quyền kiểm soát có ý nghĩa của con người” để tránh tình trạng hai nước sử dụng cùng một thuật ngữ nhưng lại viện dẫn nó để biện minh cho những mức độ trao quyền tự chủ khác nhau cho máy móc.
Ý tưởng này kế thừa một nguyên tắc được ông Joe Biden và Tập Cận Bình cùng ủng hộ vào tháng 11/2024, theo đó con người phải duy trì quyền kiểm soát với các quyết định sử dụng vũ khí hạt nhân. Thời điểm đó, ông Joe Biden còn là Tổng thống Mỹ.
Lora Saalman, chuyên gia nghiên cứu cấp cao tại Viện Nghiên cứu Hòa bình Quốc tế Stockholm (SIPRI), viết hồi tháng 2 rằng đây là một điểm quan trọng cho thấy sự đồng thuận giữa Mỹ và Trung Quốc, dù cả hai nước đều có dấu hiệu ngày càng tích hợp AI sâu hơn vào các hệ thống hạt nhân và liên quan đến hạt nhân.
Khi máy móc hành động nhanh hơn con người
Tianjiao Jiang cũng đề xuất thiết lập một đường dây nóng quân sự Mỹ - Trung chuyên xử lí các sự cố liên quan đến AI, cảnh báo rằng những cuộc đối đầu trên không gian mạng do hệ thống tự động thực hiện có thể leo thang quá nhanh để con người kịp can thiệp.
Hệ thống AI phòng thủ của một nước có thể tự động phản ứng trước các hoạt động đáng ngờ. Trong khi đó, phía bên kia lại hiểu lầm phản ứng đó là cuộc tấn công và tiến hành đáp trả trước khi kịp hiểu rõ chuyện gì thực sự đang diễn ra.
Đường dây nóng có thể cho phép một chính phủ thông báo với bên kia rằng một hoạt động AI bất thường là do sự cố, không được cấp phép hoặc vẫn đang được điều tra, trước khi bị coi là một hành vi có chủ đích.
Tuy nhiên, bà Carla Freeman, Giám đốc Viện Chính sách Đối ngoại thuộc Trường Nghiên cứu Quốc tế Cao cấp Johns Hopkins (SAIS), đặt câu hỏi về hiệu quả của đường dây liên lạc quân sự khẩn cấp Mỹ - Trung hiện nay. Bà trích dẫn việc các quan chức Trung Quốc từng không trả lời cuộc gọi từ phía Mỹ liên quan đến “sự cố khinh khí cầu do thám” hồi tháng 2/2023.
Trong một bài viết trên trang War on the Rocks hồi tháng 1, Carla Freeman cho rằng bộ máy hành chính Trung Quốc với cơ cấu thứ bậc chặt chẽ từ trên xuống khiến các sĩ quan cấp thấp không có quyền chủ động khi tương tác với phía Mỹ.
Bà viết: “Không ai trong hệ thống Trung Quốc muốn liên lạc với Mỹ cho đến lúc lãnh đạo cấp cao đưa ra quyết định về cách phản ứng, sau khi tham vấn các bên liên quan trong bộ máy đảng - nhà nước. Quá trình này có thể mất vài ngày hoặc lâu hơn”.
Quan điểm tại Mỹ và Trung Quốc
Chưa chính phủ nào công khai ủng hộ các đề xuất của Viện Brookings và Đại học Thanh Hoa. Tuy nhiên, Trung Quốc ngày càng đưa AI vào cơ chế kiểm soát vũ khí hiện có.
AI hiện là một lĩnh vực chính thức thuộc phạm vi phụ trách của Vụ Kiểm soát Vũ khí thuộc Bộ Ngoại giao Trung Quốc. Cơ quan này đồng thời xử lí các vấn đề về vũ khí hạt nhân, không phổ biến vũ khí hạt nhân, tên lửa và những vấn đề an ninh quốc tế khác.
Tháng 6, ông Shen Jian - Đại sứ Trung Quốc phụ trách các vấn đề giải trừ quân bị - nói tại một cuộc họp của Liên Hợp Quốc ở Geneva (Thụy Sĩ) rằng AI quân sự có thể tác động đến ổn định chiến lược, đồng thời làm gia tăng nguy cơ tính toán sai lầm và leo thang xung đột. Shen Jian cũng nhấn mạnh vũ khí phải tiếp tục nằm dưới sự kiểm soát của con người.
Trung Quốc lập luận rằng an toàn AI không nên trở thành cái cớ để dựng lên các rào cản công nghệ.
Mỹ hiện không có một cơ quan duy nhất tương đương phụ trách kiểm soát vũ khí AI. Chính sách an ninh quốc gia liên quan đến lĩnh vực này được phân bổ giữa Hội đồng An ninh Quốc gia Nhà Trắng, Bộ Ngoại giao, Lầu Năm Góc và các cơ quan khác.
Cả hai chính phủ vẫn thận trọng với những biện pháp có thể làm chậm quá trình phát triển công nghệ AI của chính mình. Tổng thống Trump từng cảnh báo rằng những hạn chế quá rộng có thể trao lợi thế cho Trung Quốc. Trong khi đó, Trung Quốc coi nhiều biện pháp kiểm soát công nghệ của Mỹ là nỗ lực nhằm duy trì ưu thế cho nước này.