Mối lo vũ khí sát thương tự động và chiến tranh, do AI điều khiển
Các chỉ huy quân sự muốn sở hữu lực lượng được tăng cường bằng công nghệ số. Nhưng việc sử dụng vũ khí tự động, có thể khiến họ mất quyền kiểm soát hay không?
Helen Warrell (phóng viên điều tra của tờ FT và cựu biên tập viên mảng quốc phòng – an ninh), cùng James O’Donnell (phóng viên cao cấp chuyên về AI của trang MIT Technology Review) đã bàn luận vấn đề đạo đức và động cơ tài chính xoay quanh việc quân đội sử dụng AI (trí tuệ nhân tạo).
Helen Warrell lo ngại viễn cảnh một cường quốc tấn công nước nhỏ hơn trong tương lai bằng AI. Kịch bản mà Helen Warrell đưa ra là: “Máy bay không người lái (drone) tự động có khả năng nhắm mục tiêu bằng AI, được cường quốc triển khai để áp đảo hệ thống phòng không đối phương. Trong khi hàng loạt cuộc tấn công mạng, do AI tạo ra, khiến nguồn năng lượng và các kênh liên lạc quan trọng bị cắt đứt. Sau đó, một chiến dịch tung tin giả quy mô lớn được cường quốc vận hành bằng AI lan rộng khắp mạng xã hội toàn cầu, làm giảm mức độ phản đối trước hành động của họ”.
Những kịch bản như vậy sẽ mang đến nỗi kinh hoàng về một tương lai đen tối cho cuộc tranh luận, về việc sử dụng AI trong chiến tranh.
Giới chỉ huy quân sự hy vọng có thể sở hữu một lực lượng được tăng cường bằng công nghệ, nhanh hơn và chính xác hơn so với chiến đấu do con người chỉ huy. Song nỗi lo lớn là khi AI ngày càng giữ vai trò trung tâm. Những người chỉ huy này có thể đánh mất quyền kiểm soát trước cuộc xung đột leo thang quá nhanh, thiếu giám sát về mặt đạo đức và pháp lý. Trước khi qua đời vào tháng 11.2023, Henry Kissinger, cựu ngoại trưởng Mỹ, từng cảnh báo thảm họa chiến tranh do AI điều khiển sắp xảy ra.
Hiểu rõ và kiểm soát những rủi ro này là ưu tiên hàng đầu của quân đội hiện nay, với nhiều người gọi đó là “khoảnh khắc Oppenheimer” của thời đại chúng ta.
“Khoảnh khắc Oppenheimer” là một cách nói ví von để chỉ thời điểm mà nhân loại; hoặc lĩnh vực nào đó, phải đối mặt với trách nhiệm đạo đức cực kỳ lớn. Khi tạo ra công nghệ có sức mạnh thay đổi thế giới, giống như khi J. Robert Oppenheimer và các nhà khoa học của Dự án Manhattan, tạo ra bom nguyên tử rồi thực hiện vụ thử đầu tiên vào ngày 16.7.1945.
Một sự đồng thuận đang nổi lên ở phương Tây, là các quyết định liên quan đến việc triển khai vũ khí hạt nhân không nên được giao phó cho AI. Tổng thư ký Liên Hợp Quốc António Guterres, thậm chí đi xa hơn khi kêu gọi cấm hoàn toàn các hệ thống vũ khí sát thương hoàn toàn tự động. Điều cần thiết là việc xây dựng quy định phải theo kịp sự phát triển của công nghệ.
Thế nhưng trong sự phấn khích do khoa học viễn tưởng mang lại, chúng ta dễ dàng quên mất những gì thực sự có thể xảy ra. Các nhà nghiên cứu tại Trung tâm Belfer của Đại học Harvard (Mỹ) chỉ ra rằng những người lạc quan về AI thường đánh giá thấp những thách thức khi triển khai vũ khí hoàn toàn tự động. Hoàn toàn có thể khả năng của AI trong chiến đấu đang bị thổi phồng quá mức.
Giáo sư Anthony King, một trong những học giả ủng hộ quan điểm này, cho rằng AI sẽ không thay thế con người mà chỉ giúp quân đội hiểu tình hình tốt hơn. Dù cách tiến hành chiến tranh đang thay đổi và công nghệ điều khiển từ xa đang làm cho vũ khí ngày càng tinh vi, ông vẫn khẳng định: “Tự động hóa hoàn toàn chiến tranh chỉ là ảo tưởng”.
Trong ba ứng dụng quân sự chính của AI hiện nay, không có ứng dụng nào đạt mức độ tự động hoàn toàn. AI đang được phát triển cho lập kế hoạch và hậu cần, chiến tranh mạng (phá hoại, gián điệp, tấn công mạng, chiến dịch thông tin) và gây tranh cãi nhất là nhắm mục tiêu vũ khí (xác định và chọn mục tiêu để tấn công bằng một loại vũ khí cụ thể). Phương pháp cuối đã được sử dụng trên chiến trường Ukraine và Gaza.
Quân đội Ukraine sử dụng phần mềm AI để điều khiển drone có thể né tránh hệ thống gây nhiễu của Nga khi tiếp cận mục tiêu nhạy cảm. Lực lượng Phòng vệ Israel đã phát triển hệ thống hỗ trợ quyết định dựa trên AI có tên Lavender, giúp xác định khoảng 37.000 mục tiêu tiềm năng là con người tại Gaza.
Rõ ràng có nguy cơ cơ sở dữ liệu của Lavender lặp lại các thiên kiến có trong dữ liệu mà nó được huấn luyện. Thế nhưng, binh sĩ cũng có thiên kiến. Một sĩ quan tình báo Israel sử dụng Lavender cho biết anh tin rằng hệ thống AI (dựa trên thống kê và dữ liệu) đưa ra quyết định khách quan và công bằng hơn so với một người lính đang trong trạng thái đau buồn, dễ bị cảm xúc chi phối.
Một số người lạc quan về công nghệ thiết kế vũ khí AI thậm chí phủ nhận rằng cần có thêm cơ chế kiểm soát đặc thù. Keith Dear, cựu sĩ quan quân đội Anh hiện điều hành công ty dự báo chiến lược Cassi AI, cho rằng luật hiện hành là đủ: “Bạn phải đảm bảo không có dữ liệu huấn luyện nào có thể khiến hệ thống hành xử sai lệch khi tự tin triển khai. Với tư cách là người chỉ huy, bạn phải chịu trách nhiệm cho bất kỳ sai sót nào có thể xảy ra”.
Một ý tưởng thú vị là nỗi sợ và cảm giác sốc về việc sử dụng AI trong chiến tranh có thể xuất phát từ những người không quen với các chuẩn mực quân sự vốn khốc liệt nhưng thực tế.
Thái độ của các công ty AI với ứng dụng quân sự thay đổi mạnh mẽ
Helen Warrell hỏi James O’Donnell: “Anh nghĩ sao, James? Liệu một phần sự phản đối dùng AI trong chiến tranh thực chất không phải nhắm vào hệ thống tự động, mà là chống lại chiến tranh nói chung?”.
James O’Donnell trả lời cô: “Một điều tôi nhận thấy là thái độ của các công ty AI với ứng dụng quân sự đã thay đổi mạnh mẽ. Đầu năm 2024, OpenAI cấm tuyệt đối việc sử dụng công cụ của họ cho mục đích chiến tranh. Song cuối năm 2024, OpenAI ký thỏa thuận với Anduril Industries để hỗ trợ bắn hạ drone trên chiến trường.
Anduril Industries là hãng công nghệ quốc phòng Mỹ, chuyên phát triển các hệ thống vũ khí và giám sát tự động hóa, sử dụng AI và robot. Công ty này được thành lập năm 2017, đang đóng vai trò quan trọng trong việc định hình tương lai của an ninh quốc gia và chiến tranh kỹ thuật số.
Anduril Industries vận hành theo mô hình tích hợp dọc: Vừa phát triển phần mềm, vừa sản xuất phần cứng quốc phòng. Điều này giúp họ kiểm soát tốt hơn tốc độ phát triển và chi phí.
Trụ sở chính của công ty nằm ở thành phố Costa Mesa, bang California.
Anduril Industries được thành lập bởi Palmer Luckey, người từng tạo ra kính thực tế ảo Oculus, cùng với Trae Stephens, Matt Grimm, Joe Chen và Brian Schimpf. Tất cả đều xuất thân từ môi trường công nghệ ở Thung lũng Silicon và mong muốn mang tinh thần khởi nghiệp nhanh, linh hoạt vào ngành công nghiệp quốc phòng truyền thống. Phần lớn vốn đầu tư của Anduril Industries đến từ các quỹ mạo hiểm, trong đó có Founders Fund do tỷ phú Peter Thiel đồng sáng lập.
Bước đi này tuy không tạo ra vũ khí tự động hoàn toàn, nhưng rõ ràng là một ứng dụng AI trong thực chiến, đánh dấu sự xoay trục lớn về cách các hãng công nghệ công khai gắn mình với lĩnh vực quốc phòng.
Điều gì đã xảy ra? Trước hết là do làn sóng thổi phồng về AI. Người ta được hứa hẹn rằng AI không chỉ mang lại siêu trí tuệ và đột phá khoa học, mà còn có thể làm chiến tranh chính xác hơn, sắc bén hơn và ít sai sót như con người hơn trong lĩnh vực an ninh quốc gia. Tôi từng nói chuyện với lính thủy đánh bộ Mỹ, những người đã thử nghiệm hệ thống AI được quảng cáo là có thể phân tích tình báo nước ngoài nhanh hơn con người trong các chuyến tuần tra ở Nam Thái Bình Dương.
Thứ hai, đồng tiền lên tiếng. OpenAI và các công ty khác cần bắt đầu thu hồi khoản chi khổng lồ để huấn luyện và vận hành mô hình AI. Và ít ai có túi tiền rủng rỉnh hơn Bộ Quốc phòng Mỹ. Giới lãnh đạo quốc phòng châu Âu cũng đang sẵn sàng bạo chi. Trong khi đó, vốn đầu tư mạo hiểm đổ vào công nghệ quốc phòng năm nay đã gấp đôi so với cả năm 2024, nhắm vào nhu cầu mua sắm mới của Quân đội Mỹ và sự sẵn sàng hợp tác với các công ty khởi nghiệp.
Tôi cho rằng sự phản đối AI trong chiến tranh đến từ vài nhóm khác nhau. Một nhóm đơn giản bác bỏ ý kiến cho rằng nhắm mục tiêu chính xác hơn (nếu đúng như vậy) sẽ giảm thương vong, mà cho rằng điều đó chỉ tạo ra nhiều chiến tranh hơn. Hãy xét thời kỳ đầu của chiến tranh drone ở Afghanistan. Khi việc triển khai drone trở nên rẻ hơn, liệu có thể nói rằng điều này làm giảm mức tàn phá không, hay thực chất chỉ giúp tạo ra sự hủy diệt nhiều hơn trên mỗi USD?
Nhóm thứ hai phản đối gồm những người hiểu rõ bản chất chiến tranh, nhưng có phê phán rất cụ thể về những hạn chế căn bản của công nghệ. Chẳng hạn, Missy Cummings, cựu phi công chiến đấu của Hải quân Mỹ, hiện là giáo sư kỹ thuật và khoa học máy tính tại Đại học George Mason, kiên quyết cho rằng các mô hình ngôn ngữ lớn đặc biệt dễ mắc lỗi nghiêm trọng trong môi trường quân sự.
Phản biện phổ biến cho quan điểm này là AI luôn có con người kiểm tra kết quả. Song nếu một mô hình AI dựa trên hàng nghìn dữ liệu đầu vào để đưa ra câu trả lời, liệu một người có thể kiểm tra toàn bộ kết luận đó?
Các hãng công nghệ đang đưa ra những lời hứa phi thường về khả năng của AI trong môi trường rủi ro cao, trong khi áp lực triển khai thì rất lớn. Theo tôi, đây là lúc cần hoài nghi hơn, chứ không phải ít đi".
Cuối cùng, Helen Warrell chia sẻ với James O’Donnell rằng: “Chúng ta chắc chắn cần tiếp tục đặt câu hỏi về mức độ an toàn và giám sát của các hệ thống vũ khí AI, đồng thời buộc các lãnh đạo chính trị phải chịu trách nhiệm. Chúng ta cũng nên hoài nghi trước những lời hứa phi thường mà anh vừa nhắc đến về những gì AI có thể đạt được trên chiến trường.
Quân đội vừa có cơ hội vừa đối mặt với rủi ro từ những công nghệ quốc phòng còn mới mẻ nhưng phát triển nhanh. Trong cuộc chạy đua vũ khí AI diễn ra với tốc độ cao và nhiều bí mật, những công nghệ mới này có thể không được xem xét và bàn luận kỹ càng, trong khi điều đó là vô cùng cần thiết”.