Craig Martell, quan chức hàng đầu về trí tuệ nhân tạo (AI) của Bộ Quốc phòng Mỹ, đã kêu gọi các nhà phát triển AI phải minh bạch hơn.

Bộ Quốc phòng Mỹ kêu gọi các công ty tiết lộ nhiều hơn về công nghệ AI

Sơn Vân | 30/09/2023, 12:20

Craig Martell, quan chức hàng đầu về trí tuệ nhân tạo (AI) của Bộ Quốc phòng Mỹ, đã kêu gọi các nhà phát triển AI phải minh bạch hơn.

Theo Craig Martell, Bộ Quốc phòng Mỹ cần biết thêm về các công cụ AI trước khi hoàn toàn cam kết sử dụng chúng. Ông muốn các công ty chia sẻ những hiểu biết sâu sắc về cách xây dựng phần mềm AI của họ để Bộ Quốc phòng Mỹ có thể cảm thấy thoải mái và an toàn khi áp dụng nó.

Hiện tại, phần mềm AI dựa trên các mô hình ngôn ngữ lớn (LLM), sử dụng các bộ dữ liệu khổng lồ để cung cấp sức mạnh cho các công cụ như chatbot và trình tạo hình ảnh. Tuy nhiên, những dịch vụ này thường được phát hành mà không tiết lộ cách thức hoạt động bên trong của chúng, khiến người dùng khó hiểu cách công nghệ đưa ra quyết định hoặc cải thiện theo thời gian.

Craig Martell bày tỏ lo ngại về việc thiếu thông tin liên quan đến cấu trúc và dữ liệu được sử dụng trong các mô hình AI này. Ông cũng nhấn mạnh những mối nguy hiểm do hệ thống AI gây ra mà các công ty thường không tiết lộ.

Để giải quyết những vấn đề đó, Craig Martell đang mời giới công nghiệp và giới học thuật tới tham dự một hội nghị chuyên đề ở Washington vào tháng 2.2024. Hội nghị chuyên đề nhằm xác định cách sử dụng phù hợp cho mô hình ngôn ngữ lớn trong Bộ Quốc phòng và phát triển các tiêu chuẩn liên quan đến các vấn đề như ảo giác (trả lời câu hỏi sai nhưng y như thật), thành kiến và nguy hiểm.

Nhóm của Craig Martell đã xác định được 200 cách sử dụng tiềm năng cho mô hình ngôn ngữ lớn trong Bộ Quốc phòng Mỹ. Ông nhấn mạnh rằng không muốn ngừng sử dụng hoàn toàn mà muốn hiểu rõ lợi ích, mối nguy hiểm và cách giảm thiểu những nguy cơ đó.

Bộ Quốc phòng Mỹ có hơn 800 dự án AI đang được triển khai, một số liên quan đến hệ thống vũ khí. Với mức đầu tư cao liên quan đến các dự án này, Bộ Quốc phòng Mỹ sẽ áp dụng tiêu chuẩn cao hơn cách sử dụng các mô hình thuật toán so với khu vực tư nhân. Craig Martell tin rằng việc cho phép xảy ra ảo giác hoặc kết quả sai là không thể chấp nhận được, đặc biệt là trong những tình huống nguy cấp khi tính mạng đang bị đe dọa.

Bằng cách tìm kiếm sự minh bạch và hiểu biết cao hơn về các công cụ AI, Bộ Quốc phòng Mỹ muốn đảm bảo triển khai chúng một cách có trách nhiệm và hiệu quả trong các hoạt động của mình.

bo-quoc-phong-my-keu-goi-cac-cong-ty--chia-se-nhieu-hon-ve-cong-nghe-ai.jpg
Lầu Năm Góc, trụ sở Bộ Quốc phòng Mỹ, nhìn từ trên cao - Ảnh: AFP

Quân đội Mỹ đang mở cửa hợp tác với Thung lũng Silicon trong bối cảnh AI dần thay đổi cách tác chiến hiện đại.

Ngoài khơi bang Alaska (Mỹ), những chiếc thuyền buồm không người lái màu cam nổi bật đã xuất hiện trong 8 năm qua, thu thập và cung cấp dữ liệu cho cơ quan khám phá đại dương của chính phủ Mỹ.

Những con thuyền tự động của Saildrone, công ty khởi nghiệp thành lập năm 2013 có trụ sở tại thành phố San Francisco (Mỹ), đã đóng góp quan trọng vào nghiên cứu biến đổi khí hậu.

Khi cạnh tranh địa chính trị Mỹ - Trung leo thang và cuộc chiến Nga - Ukraine nổ ra, Saildrone là một trong số những hãng công nghệ ở Thung lũng Silicon (bang California, Mỹ) chạy đua phát triển AI với kỳ vọng nhận sự chú ý từ Bộ Quốc phòng Mỹ, cơ quan có nguồn ngân sách khổng lồ và nhiều mục tiêu cấp bách.

Vào năm 2021, Saildrone là nhà thầu chính giúp Hải quân Mỹ phát triển đội tàu sử dụng AI với khả năng do thám và trinh sát biển sâu.

Richard Jenkins, Giám đốc điều hành Saildrone, cho rằng Saildrone "đã đi trước 10 năm" và là ví dụ cho thấy công nghệ từ các công ty thương mại tiên tiến hơn nhiều so với hệ thống đang được quân đội Mỹ phát triển.

Giới quan sát quân sự cho rằng Mỹ nên tập trung vào phát triển khí tài AI, có thể là nhân tố thay đổi tác chiến hiện đại, thay vì dồn toàn lực cho khí tài truyền thống như xe tăng, máy bay và tàu chiến.

Ba nhân tố thúc đẩy sự thay đổi này đến từ việc Trung Quốc tăng tốc phát triển công nghệ tiên tiến có khả năng vượt qua lớp phòng thủ của Mỹ, cuộc chiến ở Ukraine làm nổi bật lợi thế của việc tích hợp công nghệ thương mại vào quân đội của một quốc gia, cuối cùng là tiến bộ đáng kể của AI.

Công nghệ lưỡng dụng mà Ukraine đang phát triển phần nào là chất xúc tác để giới quân đội ở Mỵ xích lại gần các công ty ở Thung lũng Silicon. Đây là những công nghệ có thể được dùng cho cả mục đích quân sự và thương mại, như ảnh vệ tinh hay máy bay không người lái (UAV) tự động.

Tại Ukraine, hơn 200 công ty tham gia sản xuất UAV đang hợp tác với quân đội. Những mẫu UAV tích hợp AI đã được thử nghiệm tại Ukraine, với khả năng tiếp tục hoạt động và tiêu diệt mục tiêu ngay cả khi bị hệ thống gây nhiễu can thiệp.

Bộ Quốc phòng Ukraine cũng chia sẻ thông tin về công nghệ gây nhiễu của Nga mà họ có được cho các công ty sản xuất UAV, nhằm nghiên cứu công nghệ có khả năng chống lại thiết bị gây nhiễu tinh vi từ Nga. Đây được coi là đặc quyền mà không nhiều công ty chế tạo UAV trên thế giới có được.

Khi Elon Musk đưa dịch vụ internet vệ tinh Starlink hoạt động tại Ukraine, SpaceX trở thành công ty thương mại đầu tiên cung cấp giải pháp cho năng lực quân sự của một quốc gia trong chiến sự.

"Những gì diễn ra ở Ukraine thật sự đã thay đổi cuộc chơi. Chưa từng có cuộc xung đột nào trước đây sử dụng nhiều công nghệ thương mại như lần này", theo Mike Brown, nhà đầu tư mạo hiểm tại hãng Shield Capital.

Ngày càng có nhiều áp lực lên chính phủ Mỹ nhằm thu hút những bộ óc từ Thung lũng Silicon và các nhà đầu tư giàu có tại đây, trong bối cảnh nước này cần đối phó với khí tài công nghệ cao từ Trung Quốc. Trung Quốc đang thử nghiệm các mẫu tên lửa đạn đạo chống hạm và tên lửa siêu vượt âm tầm xa, những vũ khí có thể vượt qua hệ thống phòng thủ của Mỹ.

Giới quan sát nhận định khi AI được phát triển trong quốc phòng, các khí tài hiện đại có thể thay thế binh sĩ thực hiện toàn bộ quá trình "chuỗi tiêu diệt", bao gồm xác định, theo dõi và kết liễu mục tiêu, thậm chí có thể thực hiện với tốc độ siêu thanh.

Một số hãng khởi nghiệp công nghệ quốc phòng khai thác sức mạnh của AI đã thay đổi cách quân đội Mỹ thu thập và triển khai thông tin tình báo, nâng cấp khí tài quân sự, thu thập hình ảnh vệ tinh.

Trong doanh thu 1,9 tỉ USD của công ty Palantir năm ngoái, một nửa là đến từ những hợp đồng với chính phủ Mỹ, bao gồm cả cung cấp phần mềm AI có công nghệ do thám và phân tích dữ liệu, chẳng hạn để theo dõi những ai bị nghi là khủng bố.

Vào tháng 12.2022, công ty khởi nghiệp ShieldAI đã điều khiển tiêm kích F-16 không người lái đầu tiên tại sân bay ở Los Angeles. Đây được xem là bước đột phá với không quân Mỹ, vốn đã có hợp đồng với ShieldAI phát triển các loại UAV.

Trong khi đó, BlackSky, Capella và PlanetLabs là những công ty khởi nghiệp viễn thám đã tích hợp AI và vệ tinh để đưa ra những hình ảnh thời gian thực chi tiết, giúp xác định các vị trí đóng quân trong vùng xung đột.

Bài liên quan
Huyền thoại thiết kế của Apple và CEO OpenAI thảo luận việc xây dựng phần cứng AI mới
Jony Ive (cựu Giám đốc thiết kế của Apple) và Sam Altman (Giám đốc điều hành OpenAI) đã thảo luận về việc xây dựng một thiết bị phần cứng trí tuệ nhân tạo (AI) mới, trang The Information đưa tin, trích dẫn hai người quen thuộc với vấn đề này.

(0) Bình luận
Nổi bật Một thế giới
Không khí lạnh tăng cường, miền Bắc rét đậm
2 giờ trước Sự kiện
Nối tiếp đợt rét đang diễn ra, miền Bắc đón thêm không khí lạnh tăng cường khiến nhiệt độ tiếp tục giảm sâu, vùng núi cao có nơi dưới 5 độ C.
Đừng bỏ lỡ
Mới nhất
POWERED BY ONECMS - A PRODUCT OF NEKO
Bộ Quốc phòng Mỹ kêu gọi các công ty tiết lộ nhiều hơn về công nghệ AI