Sai lầm của trí tuệ nhân tạo đã khiến tên lửa bắn nhầm trường học ở Iran?

Đây không còn là những kịch bản trên bàn giấy hay trong các phòng thí nghiệm thử nghiệm vũ khí, mà có thể được xem là "cuộc chiến AI" đúng nghĩa đầu tiên của nhân loại. Theo một báo cáo phân tích chuyên sâu mới nhất từ tờ The Wall Street Journal, các công cụ trí tuệ nhân tạo đã thâm nhập sâu vào mọi ngóc ngách của cỗ máy chiến tranh, từ khâu thu thập tình báo, sàng lọc và khóa mục tiêu, cho đến lập kế hoạch tác chiến và đánh giá thiệt hại sau không kích (BDA).

Sự hiện diện của thuật toán giúp liên quân Mỹ - Israel tối ưu hóa nguồn lực và đẩy nhanh nhịp độ tấn công lên những giới hạn chưa từng có. Tuy nhiên, đằng sau sự hào nhoáng của các số liệu về hiệu suất, chiến trường khốc liệt cũng phơi bày những lỗ hổng chết người của công nghệ. Trong môi trường tác chiến phức tạp, đầy rẫy thông tin nhiễu loạn và "sương mù chiến tranh", những hạn chế như dữ liệu lỗi thời, sai số hệ thống và sự ỷ lại thái quá vào quyết định của máy móc đang dẫn đến những thảm họa nhân đạo khôn lường, đẩy cái giá của sự sai lầm lên mức thảm khốc.

Xử lý tình báo: Từ "đọc không xuể" đến "có thể trích xuất tức thì"

Trong mọi cuộc chiến, tình báo luôn là huyết mạch định đoạt thành bại của mọi chiến dịch quân sự. Thế nhưng, nghịch lý của chiến tranh hiện đại trong kỷ nguyên kỹ thuật số không nằm ở việc thiếu hụt thông tin, mà nằm ở khối lượng dữ liệu khổng lồ đến mức áp đảo khả năng xử lý của con người. Các phương tiện trinh sát tối tân như vệ tinh quang học, máy bay không người lái (UAV), hệ thống do thám điện tử liên tục dội về các trung tâm chỉ huy hàng petabyte dữ liệu mỗi ngày.

Một quan chức tiền phương của quân đội Mỹ thừa nhận một thực tế phũ phàng: các nhà phân tích tình báo bằng sức người, dù được đào tạo bài bản và làm việc với cường độ cao nhất, thường chỉ có thể xem xét và xử lý khoảng 4% tổng số tài liệu thu thập được. Nút thắt cổ chai này khiến vô số manh mối mang tính quyết định bị chôn vùi vĩnh viễn trong biển dữ liệu.

Sự xuất hiện của AI đã phá vỡ hoàn toàn rào cản vật lý này. Đại tá Yishai Kohn, quan chức phụ trách mảng quy hoạch, kinh tế và công nghệ thông tin của Bộ Quốc phòng Israel, khẳng định rằng tác động tức thời và lớn nhất của AI trên chiến trường nằm ở khâu tình báo. Ông chỉ ra rằng trước đây, có rất nhiều phương án tác chiến tiềm năng đã bị bỏ lỡ hoặc không bao giờ được thực thi chỉ vì quân đội không có đủ nhân lực để phân tích, đánh giá các mảnh thông tin quan trọng một cách kịp thời.

Theo các báo cáo rò rỉ, cơ quan tình báo Israel đã tiến hành các chiến dịch tấn công mạng, xâm nhập thành công vào hệ thống camera giao thông nội đô tại thủ đô Tehran, đồng thời nghe lén quy mô lớn các kênh liên lạc của giới chức cấp cao Iran. Việc đối mặt với hàng triệu giờ video và hàng trăm ngàn đoạn băng ghi âm giờ đây không còn là trở ngại. Bằng cách ứng dụng công nghệ thị giác máy tính và xử lý ngôn ngữ tự nhiên (NLP), AI trở thành một cỗ máy cày xới dữ liệu không biết mệt mỏi.

Matan Goldner, Giám đốc điều hành của công ty phần mềm Israel Conntour, giải thích rằng AI hiện nay có khả năng nhận diện mục tiêu với độ chính xác kinh ngạc, từ việc phân biệt từng chủng loại xe cơ giới, nhận diện khuôn mặt giữa đám đông, cho đến việc bóc băng và tóm tắt những đoạn hội thoại chứa từ khóa nhạy cảm từ các đoạn ghi âm bị đánh chặn. Các cơ quan tình báo đã chuyển trạng thái từ việc bị chìm ngập trong dữ liệu sang khả năng truy xuất, định vị chính xác "cây kim dưới đáy biển" chỉ trong tích tắc.

Lập kế hoạch tác chiến: Rút ngắn từ "vài tuần" xuống "vài ngày"

Vượt ra ngoài ranh giới của việc phân tích tình báo thụ động, trí tuệ nhân tạo đang chứng minh sức mạnh của một kiến trúc sư quân sự trong việc quản lý hậu cần và lập kế hoạch tác chiến. Theo phương thức truyền thống, việc lên kịch bản cho một chiến dịch không kích hoặc tấn công hiệp đồng binh chủng là một quá trình cực kỳ cồng kềnh.

Nó đòi hỏi sự họp bàn và phối hợp liên tục giữa các sĩ quan tình báo, chỉ huy tác chiến, chuyên gia vũ khí, chuyên gia khí tượng và đội ngũ quản lý hậu cần. Quá trình tính toán thủ công này thường phải kéo dài nhiều tuần lễ để cho ra đời một bản kế hoạch hoàn chỉnh. Giờ đây, với năng lực siêu máy tính của AI, toàn bộ chu trình phức tạp này đang được nén lại chỉ còn vài ngày, thậm chí vài giờ.

Đặc thù của việc lập kế hoạch quân sự là sự liên đới chặt chẽ giữa các biến số. Chỉ cần một yếu tố nhỏ thay đổi trên thực địa – ví dụ như việc mục tiêu bất ngờ di chuyển sang một tọa độ khác cách đó vài kilomet, hoặc thời tiết khu vực mục tiêu chuyển xấu – toàn bộ chuỗi mắt xích sẽ bị ảnh hưởng. Bộ chỉ huy sẽ phải tính toán lại từ đầu lịch trình trực ban của phi hành đoàn, tải trọng vũ khí mang theo, lượng nhiên liệu cần nạp, phương án tiếp nhiên liệu trên không và hành lang bay an toàn để tránh lưới phòng không đối phương.

Trước đây, việc cập nhật những thay đổi này diễn ra cực kỳ chậm chạp và thường mang nặng tính chủ quan của người ra quyết định. Hiện tại, các thuật toán AI có khả năng đồng bộ hóa và xử lý hàng vạn tương tác chéo này ngay trong thời gian thực, lập tức kết xuất ra phương án điều chỉnh tối ưu nhất mà không làm gián đoạn nhịp độ tấn công.

Lầu Năm Góc đang đi đầu trong xu hướng này khi ngày càng phụ thuộc vào AI để chạy các mô hình mô phỏng và sa bàn chiến tranh kỹ thuật số (digital wargaming). Thay vì chỉ tranh luận dựa trên một vài kịch bản do con người phác thảo, các siêu máy tính của quân đội Mỹ có thể tự động chạy hàng triệu vòng lặp (iterations), thử nghiệm vô số các phương án phân bổ hỏa lực và kết hợp vũ khí khác nhau. Từ hàng triệu viễn cảnh mô phỏng đó, các nhà hoạch định chiến lược có thể nhanh chóng chọn lọc và chốt hạ lộ trình hành động có xác suất thành công cao nhất, đồng thời giảm thiểu tối đa rủi ro tổn thất cho quân nhà.

Khi hiệu suất song hành cùng rủi ro thảm họa

Tuy nhiên, chiến tranh chưa bao giờ là một bài toán toán học thuần túy. Nó là lĩnh vực hỗn loạn, phi tuyến tính và phức tạp nhất trong mọi hoạt động của con người. Việc trao quyền định đoạt chiến trường cho các dòng mã đang phơi bày những rủi ro đạo đức và thảm họa nhân đạo sâu sắc. Tốc độ và hiệu suất mà AI mang lại đang trở thành một lưỡi gươm hai lưỡi sắc bén, và cái giá phải trả cho những sai số của máy móc đôi khi được tính bằng máu của những người vô tội.

Jack Shanahan, Trung tướng Không quân Mỹ đã nghỉ hưu và là Giám đốc đầu tiên của Trung tâm Trí tuệ Nhân tạo Liên quân trực thuộc Lầu Năm Góc, đã thẳng thắn chỉ ra những góc khuất chết người của quân sự hóa thuật toán. Ông cảnh báo rằng nền tảng của AI là dữ liệu, nhưng một phần rất lớn dữ liệu được sử dụng để huấn luyện các hệ thống vũ khí hiện nay đã lỗi thời, hoặc được thu thập trong những điều kiện không rõ ràng, mang nhiều định kiến. Trên một chiến trường thực tế, nơi kẻ thù liên tục ngụy trang, thay đổi chiến thuật và sử dụng dân thường làm lá chắn, sự sai lệch nhỏ nhất của hệ thống nhận diện cũng có thể dẫn đến những thảm kịch tàn khốc.

Theo những báo cáo nội bộ gây chấn động, các nhà điều tra quân sự Mỹ đang đặt nghi vấn lớn về việc một sai sót nghiêm trọng của hệ thống tình báo AI đã cung cấp tọa độ sai lệch trong ngày đầu tiên của cuộc chiến. Hậu quả là hỏa lực của liên quân đã dội thẳng vào một trường tiểu học nữ ở Iran, cướp đi sinh mạng của hàng chục trẻ em. Thảm kịch này là minh chứng đẫm máu cho hiện tượng "ảo giác AI" (AI hallucination) khi áp dụng vào môi trường động học (kinetic environment).

Điều khiến giới chuyên gia lo ngại nhất chính là hội chứng ỷ lại thái quá vào sự lựa chọn của máy móc. Áp lực thời gian và nhịp độ chiến đấu dồn dập khiến các sĩ quan chỉ huy có xu hướng nhắm mắt bấm nút đồng ý với bất kỳ danh sách mục tiêu nào do AI đề xuất mà không đủ thời gian để xác minh chéo. Emelia Probasco, học giả cấp cao tại Trung tâm An ninh và Công nghệ Mới nổi thuộc Đại học Georgetown, đã gióng lên hồi chuông cảnh báo: việc ủy thác sinh sát và quyền ra quyết định tối hậu cho trí tuệ nhân tạo "là một vấn đề cực kỳ nghiêm trọng".

Bà nhấn mạnh rằng cuộc chạy đua vũ trang AI đang diễn ra quá nhanh, trong khi các khoản đầu tư vào hạ tầng giám sát, xây dựng các chốt chặn an toàn (guardrails) và bộ quy tắc đạo đức lại bị bỏ ngỏ trầm trọng. Trong sự khốc liệt của chiến tranh, tính toán lạnh lùng của máy móc có thể mang lại chiến thắng về mặt chiến thuật, nhưng sự phán xét, lòng trắc ẩn và tư duy đạo đức của con người mới là thứ duy nhất giữ cho nhân loại không bước qua lằn ranh của sự man rợ.

Bùi Tú