Nhân loại có kịp hãm phanh trước khi AI trở thành vũ khí hủy diệt?
Lời kêu gọi cấm "robot sát thủ" của Tổng thư kí Liên Hợp Quốc António Guterres phản ánh sự lo ngại về việc AI có thể phát triển thành vũ khí hủy diệt.
Khi AI dân sự ngày càng được tích hợp vào hệ thống quân sự, thế giới đang đứng trước một câu hỏi mang tính sống còn: Liệu con người có kịp đặt ra giới hạn trước khi thuật toán có quyền điều khiến vũ khí hủy diệt?
AI đang tiến từ "trợ lí thông minh" thành " vũ khí hủy diệt"
Trong nhiều năm, trí tuệ nhân tạo được quảng bá như một công nghệ phục vụ con người. AI có thể viết văn bản, dịch ngôn ngữ, phân tích hình ảnh y tế, dự báo thời tiết hay hỗ trợ nghiên cứu khoa học. Tuy nhiên, lịch sử công nghệ cho thấy gần như mọi đột phá lớn đều có hai mặt: Phục vụ đời sống dân sự và ứng dụng quân sự. Ngày nay, ranh giới đó đang mờ đi với tốc độ chưa từng có.
Phát biểu tại hội nghị về quản trị AI ở Geneva, Tổng thư kí Liên Hợp Quốc António Guterres tuyên bố các hệ thống vũ khí tự động sát thương (Lethal Autonomous Weapons Systems - LAWS), thường được gọi là "killer robots", là không thể chấp nhận về mặt đạo đức và cần bị cấm theo luật pháp quốc tế. Theo ông, việc để một cỗ máy tự lựa chọn và tấn công mục tiêu mà không có sự kiểm soát thực chất của con người là điều không thể biện minh.
Thông điệp của người đứng đầu Liên Hợp Quốc không xuất hiện trong khoảng trống. Nó được đưa ra vào thời điểm AI dân sự đang được tích hợp ngày càng sâu vào hoạt động quân sự, từ phân tích tình báo, lập kế hoạch tác chiến cho tới hỗ trợ chỉ huy trên chiến trường.
Khác với những hình dung trong các bộ phim khoa học viễn tưởng, "vũ trang hóa AI" không nhất thiết đồng nghĩa với việc chế tạo những người máy cầm súng. Trên thực tế, phần lớn các ứng dụng quân sự hiện nay diễn ra ở tầng vô hình hơn rất nhiều.
AI có thể phân tích hàng triệu hình ảnh vệ tinh để phát hiện mục tiêu, xử lí dữ liệu từ hàng nghìn máy bay không người lái, nhận diện chuyển động bất thường, tính toán đường bay của tên lửa, đánh giá xác suất thành công của một cuộc tấn công hay đề xuất mục tiêu ưu tiên chỉ trong vài giây.
Con người vẫn là người nhấn nút cuối cùng. Nhưng vấn đề nằm ở chỗ, khi lượng thông tin trở nên quá lớn và tốc độ chiến tranh ngày càng nhanh, liệu người chỉ huy còn thực sự đưa ra quyết định hay chỉ đang phê duyệt đề xuất của AI? Đó chính là "vùng xám" khiến nhiều chuyên gia lo ngại.
Khi chiến tranh tăng tốc, trách nhiệm của con người có thể bị thuật toán thay thế
Những người ủng hộ AI quân sự lập luận rằng công nghệ này có thể giúp giảm thương vong, tăng độ chính xác và bảo vệ binh sĩ. Một thuật toán có thể xử lí khối dữ liệu chiến trường khổng lồ nhanh hơn con người hàng nghìn lần. AI cũng không biết mệt mỏi, không bị ảnh hưởng bởi cảm xúc hay căng thẳng tâm lí trong điều kiện tác chiến.
Nếu được sử dụng đúng cách, AI có thể giảm thiểu những sai sót do con người gây ra. Tuy nhiên, những lợi ích đó đi kèm với các rủi ro rất khó kiểm soát. Thuật toán chỉ hoạt động tốt khi dữ liệu đầu vào chính xác. Nhưng chiến trường luôn là môi trường hỗn loạn nhất mà con người từng tạo ra.
Khói bụi, thời tiết, tín hiệu gây nhiễu, thông tin giả, dân thường lẫn với lực lượng quân sự hay những thay đổi diễn ra từng giây đều có thể khiến AI nhận diện sai mục tiêu. Một sai số nhỏ trong phòng thí nghiệm có thể chỉ khiến chatbot trả lời nhầm.
Nhưng một sai số tương tự trên chiến trường có thể cướp đi sinh mạng của hàng chục con người. Nguy hiểm hơn là hiện tượng mà giới nghiên cứu gọi là "automation bias", xu hướng con người quá tin tưởng vào các quyết định của máy móc.
Trong môi trường tác chiến, nơi mỗi giây đều quyết định thắng bại, người chỉ huy rất dễ mặc định rằng AI đã tính toán chính xác hơn mình. Lúc đó, vai trò "giám sát của con người" chỉ còn mang tính hình thức.
Chính vì vậy, tranh luận hiện nay không còn xoay quanh việc có nên sử dụng AI trong quân đội hay không. AI chắc chắn sẽ tiếp tục hiện diện. Điều thế giới đang tranh cãi là giới hạn cuối cùng nằm ở đâu. AI có thể hỗ trợ phân tích. AI có thể đề xuất, AI có thể cảnh báo… Nhưng AI có được phép tự quyết định khai hỏa hay không? Theo ông Guterres, câu trả lời dứt khoát phải là không.
Một vấn đề khác cũng chưa có lời giải là trách nhiệm pháp lí. Nếu một hệ thống AI tự động tấn công nhầm bệnh viện hoặc đoàn xe dân sự, ai sẽ chịu trách nhiệm? Là sĩ quan triển khai hệ thống? Quốc gia sử dụng? Doanh nghiệp phát triển mô hình AI? Hay nhóm kỹ sư đã viết thuật toán?
Luật nhân đạo quốc tế hiện nay được xây dựng trên nền tảng trách nhiệm của con người. Khi thuật toán ngày càng tham gia sâu vào chuỗi quyết định, việc truy cứu trách nhiệm trở nên mơ hồ hơn bao giờ hết. Đó là khoảng trống pháp lí mà cộng đồng quốc tế vẫn chưa thể lấp đầy.
Cuộc đua công nghệ đang nhanh hơn khả năng xây dựng luật chơi
Một trong những diễn biến cho thấy mức độ phức tạp của vấn đề là tranh cãi gần đây giữa Bộ Quốc phòng Mỹ và Anthropic, công ty phát triển mô hình AI Claude.
Sau khi xuất hiện thông tin Claude được sử dụng trong một hoạt động liên quan tới cựu Tổng thống Venezuela Nicolás Maduro, Anthropic tái khẳng định lập trường rằng các mô hình AI của hãng không nên phục vụ giám sát quy mô lớn hoặc hệ thống vũ khí tự động hoàn toàn.
Trong khi đó, Lầu Năm Góc cho rằng AI cần được sử dụng cho các hoạt động an ninh quốc gia hợp pháp. Bất đồng này phản ánh một xu hướng mới: Các công ty AI ngày càng trở thành bên quyết định cách công nghệ của mình được sử dụng, trong khi chính phủ coi AI tiên tiến là tài sản chiến lược không thể thiếu.
Điều này đặt ra câu hỏi lớn hơn nhiều. Ai sẽ quyết định giới hạn của AI khi phần lớn công nghệ cốt lõi hiện nay được phát triển bởi khu vực tư nhân thay vì nhà nước? Trong khi đó, cuộc chiến tại Ukraine đã cho thấy tốc độ thích nghi đáng kinh ngạc của công nghệ dân sự.
Máy bay không người lái thương mại được cải tiến thành phương tiện tấn công. Thuật toán xử lí hình ảnh dân sự được dùng để nhận diện mục tiêu. Các mô hình AI vốn được thiết kế để phân tích dữ liệu kinh doanh có thể nhanh chóng được chuyển sang xử lí thông tin tình báo.
Điều này đồng nghĩa khoảng cách giữa AI dân sự và AI quân sự đang thu hẹp từng ngày. Một công cụ hôm nay dùng để tóm tắt tài liệu có thể ngày mai trở thành một mắt xích trong chuỗi xác định mục tiêu trên chiến trường.
Đó là lí do cuộc tranh luận về "robot sát thủ" không còn chỉ thuộc về các nhà sản xuất vũ khí. Nó đã trở thành vấn đề của các công ty AI, chính phủ, luật sư nhân quyền, giới quân sự, nhà khoa học và toàn bộ cộng đồng quốc tế.
Trong nhiều năm qua, các quốc gia thành viên Liên Hợp Quốc đã thảo luận về vũ khí tự động trong khuôn khổ Công ước về Một số loại Vũ khí Thông thường (CCW). Ngày càng nhiều nước ủng hộ việc xây dựng một hiệp ước ràng buộc pháp lí nhằm cấm hoặc kiểm soát các hệ thống vũ khí không có sự kiểm soát có ý nghĩa của con người. Chỉ có điều, tiến trình này diễn ra rất chậm.
Các cường quốc quân sự như Mỹ, Trung Quốc hay Nga đều thận trọng trước những đề xuất có thể hạn chế lợi thế công nghệ của mình. Đây cũng là nghịch lí lớn nhất của cuộc đua AI.
Quốc gia nào cũng mong muốn thế giới có luật chơi để tránh thảm họa. Nhưng không quốc gia nào muốn mình là bên chậm chân nếu đối thủ tiếp tục phát triển AI quân sự. Đó chính là "thế lưỡng nan an ninh" quen thuộc trong lịch sử chạy đua vũ trang, nay được tái hiện trong kỉ nguyên thuật toán.
Lời kêu gọi của ông António Guterres vì thế không hẳn chỉ là phản đối một loại vũ khí mới. Đó là nỗ lực xác lập một nguyên tắc đạo đức nền tảng: Quyền quyết định tước đi sinh mạng của một con người phải luôn thuộc về một con người khác, chứ không phải một dòng mã lệnh.
Lịch sử từng chứng kiến nhân loại mất hàng chục năm mới xây dựng được các hiệp ước kiểm soát vũ khí hạt nhân, vũ khí hóa học hay bom chùm, thường chỉ sau khi những hậu quả khủng khiếp đã xảy ra. Với AI, thế giới đang đứng trước một cơ hội hiếm hoi để hành động trước thảm họa thay vì sau đó.
Câu hỏi đặt ra không còn là liệu AI có thể trở thành vũ khí hay không, bởi điều đó đã bắt đầu diễn ra. Điều quan trọng hơn là liệu cộng đồng quốc tế có đủ quyết tâm chính trị để thiết lập "lằn ranh đỏ" trước khi quyền sinh sát dần được chuyển giao từ con người sang thuật toán. Nếu không, bờ vực mà Liên Hợp Quốc cảnh báo hôm nay có thể nhanh chóng trở thành hiện thực của những cuộc xung đột trong tương lai.
