Vụ Anthropic kiện Lầu Năm Góc: Luật Mỹ có bảo vệ 'đạo đức' của Claude?

Ngành trí tuệ nhân tạo (AI) Mỹ vừa chứng kiến một sự kiện hiếm thấy: Anthropic kiện Bộ Quốc phòng Mỹ sau khi bị gắn nhãn là “rủi ro chuỗi cung ứng”.

Anthropic cho rằng hành động của Bộ Quốc phòng Mỹ là “một chiến dịch trả đũa bất hợp pháp” sau khi công ty từ chối gỡ bỏ các giới hạn đạo đức với Claude, đặc biệt là việc cấm sử dụng mô hình AI này cho giám sát người dân hàng loạt hoặc vũ khí tự động hoàn toàn. Quyết định của Bộ Quốc phòng Mỹ buộc các nhà thầu quân sự phải dần loại bỏ công nghệ của Anthropic khỏi hệ thống trong vòng 6 tháng.

Vụ kiện trên trở thành tâm điểm của cuộc tranh luận lớn hơn: Doanh nghiệp hay chính phủ Mỹ nên kiểm soát AI?

Hàng rào đạo đức của Claude được bảo vệ bởi luật nào?

Trung tâm của cuộc tranh chấp giữa Anthropic và Bộ Quốc phòng Mỹ là các “hàng rào an toàn” hoặc “hàng rào đạo đức” mà công ty khởi nghiệp AI hàng đầu này thiết lập cho mô hình Claude. Nói một cách đơn giản, đó là những quy tắc được lập trình sẵn trong hệ thống để đảm bảo AI không bị sử dụng cho các mục đích nguy hiểm, phi đạo đức hoặc vi phạm pháp luật.

Trong trường hợp của Claude, các hàng rào đạo đức không chỉ là những bộ lọc đơn giản như chặn nội dung độc hại hay bạo lực, mà còn là hệ thống nguyên tắc rộng hơn nhằm kiểm soát cách mô hình AI được triển khai trong thế giới thực.

Claude được xây dựng dựa trên phương pháp huấn luyện đặc biệt mà Anthropic gọi là Constitutional AI. Ý tưởng của phương pháp này là huấn luyện mô hình dựa trên một bộ nguyên tắc cốt lõi về đạo đức, pháp lý và xã hội, đóng vai trò như kim chỉ nam để AI tự đánh giá và điều chỉnh câu trả lời của mình. Khi AI tạo ra câu trả lời, hệ thống sẽ tự đánh giá xem phản hồi đó có vi phạm các nguyên tắc hay không. Nếu vi phạm, mô hình sẽ điều chỉnh lại câu trả lời để tránh gây hại. Cách tiếp cận này được Anthropic phát triển nhằm giảm phụ thuộc vào việc kiểm duyệt thủ công của con người, đồng thời giúp AI tự học cách hành xử phù hợp với các giá trị xã hội.

Với Claude, Anthropic đặt ra nhiều nguyên tắc cơ bản như không hỗ trợ các hoạt động bất hợp pháp, không tạo ra thông tin có thể gây tổn hại lớn cho xã hội, không hỗ trợ phát triển vũ khí hủy diệt hàng loạt, không tham gia vào các hành vi có thể đe dọa an toàn của con người. Claude cũng được thiết kế để tránh việc thao túng tâm lý người dùng hoặc cung cấp hướng dẫn cho các hoạt động tấn công mạng, phá hoại cơ sở hạ tầng hoặc các hành vi nguy hiểm khác.

Trong bối cảnh tranh chấp với Bộ Quốc phòng Mỹ, hai giới hạn cụ thể mà Anthropic kiên quyết giữ lại đã trở thành tâm điểm. Thứ nhất là không cho phép Claude được sử dụng cho việc giám sát đại trà người dân Mỹ. Theo Anthropic, nếu được kết hợp với lượng dữ liệu khổng lồ về email, lịch sử duyệt web, vị trí và các thông tin cá nhân khác, AI có thể giúp chính phủ tạo ra hồ sơ chi tiết về từng người.

Giới hạn thứ hai là không cho phép Claude được tích hợp vào các hệ thống vũ khí tự động hoàn toàn, tức có thể tự xác định mục tiêu và tấn công mà không cần sự phê duyệt của con người. Anthropic cho rằng các mô hình AI hiện nay vẫn chưa đủ đáng tin cậy để đưa ra các quyết định sống còn như vậy. Ngay cả những mô hình AI tiên tiến nhất vẫn có thể mắc lỗi, hiểu sai dữ liệu hoặc phản ứng theo những cách không thể dự đoán. Vì vậy, công ty cho rằng việc trao quyền “bóp cò” cho AI là quá nguy hiểm trong giai đoạn hiện nay.

Anthropic nhấn mạnh công ty không phản đối việc AI hỗ trợ quân đội Mỹ nói chung. Trên thực tế, Claude đã được sử dụng trong nhiều hệ thống phân tích dữ liệu và tình báo của chính phủ Mỹ. AI có thể giúp xử lý khối lượng thông tin khổng lồ từ vệ tinh, radar, cảm biến và các nguồn tình báo khác, từ đó hỗ trợ các nhà phân tích đưa ra quyết định nhanh hơn. Tuy nhiên, theo quan điểm của Anthropic, AI nên đóng vai trò công cụ hỗ trợ, chứ không phải người ra quyết định cuối cùng trong các tình huống liên quan đến sinh mạng con người.

Theo trang WSJ, Claude được quân đội Mỹ sử dụng trong các cuộc không kích vào Iran gần đây cũng như cho việc bắt giữ lãnh đạo Venezuela Nicolás Maduro và vợ ông là bà Cilia Flores hồi tháng 1.

Về mặt pháp lý, những giới hạn này không phải là luật quốc gia mà là điều kiện sử dụng sản phẩm do chính Anthropic đặt ra. Điều này giống cách nhiều công ty phần mềm quy định rằng sản phẩm của họ không được sử dụng cho các hoạt động bất hợp pháp. Trong hệ thống pháp luật Mỹ, doanh nghiệp có quyền kiểm soát cách sản phẩm của mình được sử dụng thông qua các điều khoản hợp đồng và giấy phép sử dụng. Vì Claude là tài sản trí tuệ của mình, Anthropic có quyền đặt ra các điều kiện về cách công nghệ này được sử dụng và triển khai.

Ngoài ra, Anthropic cũng dựa vào các lập luận trong hiến pháp để bảo vệ lập trường của mình. Trong đơn kiện Bộ Quốc phòng Mỹ, công ty cho rằng việc thiết kế AI với những nguyên tắc đạo đức cụ thể cũng là một dạng biểu đạt quan điểm của doanh nghiệp. Theo cách hiểu này, việc chính phủ Mỹ trừng phạt một công ty vì các nguyên tắc đạo đức mà họ áp dụng cho sản phẩm của mình có thể vi phạm quyền tự do biểu đạt được bảo vệ trong Tu chính án thứ nhất thuộc Hiến pháp Mỹ.

Doanh nghiệp có thể từ chối yêu cầu của chính phủ Mỹ

Câu hỏi pháp lý quan trọng hơn là: Một công ty tư nhân có thể từ chối yêu cầu của chính phủ Mỹ hay không? Trong hệ thống pháp luật Mỹ, câu trả lời nhìn chung là có.

Về nguyên tắc, một công ty tư nhân tại Mỹ không có nghĩa vụ phải cung cấp công nghệ cho chính phủ. Chính phủ Mỹ có thể yêu cầu, thương lượng hoặc ký hợp đồng, nhưng không thể buộc một công ty phải thay đổi sản phẩm của mình nếu không có cơ sở pháp lý đặc biệt, chẳng hạn luật khẩn cấp trong thời chiến hoặc các đạo luật liên quan đến an ninh quốc gia.

Dù vậy, chính phủ Mỹ vẫn có những công cụ mạnh để gây áp lực. Trong trường hợp này, Bộ Quốc phòng Mỹ đã sử dụng quyền của mình trong lĩnh vực mua sắm quốc phòng. Thay vì ép Anthropic thay đổi quy tắc với Claude, Lầu Năm Góc đã chọn cách gắn nhãn công ty là “rủi ro chuỗi cung ứng”. Quyết định này buộc các nhà thầu quân sự phải dần loại bỏ công nghệ của Anthropic khỏi hệ thống, nếu không muốn mất hợp đồng với chính phủ Mỹ.

Nói cách khác, đây không phải việc chính phủ Mỹ trực tiếp kiểm soát công nghệ của một công ty, mà là sử dụng sức mạnh của thị trường quốc phòng để gây áp lực. Với nhiều doanh nghiệp công nghệ, đặc biệt là những công ty hoạt động trong lĩnh vực AI và quốc phòng, việc bị loại khỏi hệ sinh thái hợp đồng của chính phủ Mỹ có thể gây thiệt hại rất lớn.

Chính vì vậy, Anthropic đã quyết định đưa vụ việc ra tòa. Anthropic cho rằng việc gắn nhãn “rủi ro chuỗi cung ứng” không phải là quyết định kỹ thuật nhằm bảo vệ an ninh quốc gia, mà là hình thức trừng phạt vì công ty từ chối gỡ bỏ các hàng rào đạo đức của Claude.

Đây là một cuộc thử nghiệm quan trọng về ranh giới quyền lực giữa doanh nghiệp và chính phủ Mỹ trong kỷ nguyên AI. Nếu tòa án đứng về phía Anthropic, điều đó có thể củng cố quyền của các công ty công nghệ trong việc đặt ra các giới hạn đạo đức cho sản phẩm của mình. Ngược lại, nếu chính phủ Mỹ thắng trong vụ kiện thì có thể mở đường cho việc họ can thiệp sâu hơn vào cách các công nghệ AI được thiết kế và triển khai trong tương lai.

Sự việc chưa từng có tiền lệ

Nhiều chuyên gia đánh giá quyết định của Bộ Quốc phòng Mỹ gắn nhãn Anthropic là “rủi ro chuỗi cung ứng” là động thái cực kỳ bất thường và chưa từng xảy ra trước đây.

Trong hệ thống chính sách của chính phủ Mỹ, nhãn này thường được sử dụng như một biện pháp an ninh nhằm ngăn chặn các nhà cung cấp có khả năng gây nguy hiểm cho hệ thống công nghệ của chính phủ hoặc quân đội. Khi một công ty bị xếp vào diện rủi ro chuỗi cung ứng, các cơ quan liên bang và đặc biệt là các nhà thầu quốc phòng có thể bị yêu cầu chấm dứt hợp tác hoặc ngừng sử dụng sản phẩm của công ty đó.

Trong quá khứ, biện pháp này chủ yếu được áp dụng với các công ty nước ngoài bị coi là mối đe dọa an ninh quốc gia, chẳng hạn gã khổng lồ viễn thông Huawei (Trung Quốc). Việc gắn nhãn như vậy thường gắn với lo ngại rằng phần cứng hoặc phần mềm của các công ty này có thể bị khai thác để thu thập dữ liệu, phá hoại hạ tầng hoặc gây ảnh hưởng đến hệ thống quốc phòng.

Quyết định này có tác động rất rộng. Theo quy định của Bộ Quốc phòng Mỹ, nếu một nhà cung cấp bị coi là rủi ro chuỗi cung ứng, các đối tác làm ăn với quân đội Mỹ cũng phải chứng minh rằng họ không sử dụng công nghệ thuộc công ty đó trong hệ thống của mình. Điều này có thể buộc hàng loạt doanh nghiệp, trường đại học và tổ chức nghiên cứu phải nhanh chóng loại bỏ công nghệ của Anthropic khỏi các dự án liên quan đến quốc phòng.

Tuy nhiên, điều khiến vụ việc trở nên gây tranh cãi là lý do dẫn đến quyết định này. Trong trường hợp của Anthropic, tranh chấp không bắt nguồn từ việc công ty bị nghi ngờ làm gián điệp hay có liên hệ với chính phủ nước ngoài. Thay vào đó, mâu thuẫn xuất phát từ bất đồng về cách sử dụng AI trong quân sự.

Sau khi đàm phán thất bại, Bộ Quốc phòng Mỹ đã quyết định áp dụng biện pháp mạnh. Bộ trưởng Quốc phòng Mỹ Pete Hegseth tuyên bố rằng các nhà thầu quốc phòng không được tiếp tục hợp tác thương mại với Anthropic.

Anthropic cho rằng động thái này không chỉ gây thiệt hại lớn về kinh doanh mà còn mang tính trừng phạt chính trị. Michael Mongan, luật sư của Anthropic, cho biết quyết định của Bộ Quốc phòng Mỹ đang mang lại "tổn hại thực sự và không thể khắc phục" cho công ty mỗi ngày.

Michael Mongan cho biết các khách hàng đã bắt đầu “bày tỏ sự nghi ngờ” về việc tiếp tục hợp tác với Anthropic. Ông cáo buộc chính phủ Mỹ đang tiến hành chiến dịch gây sức ép nhằm buộc khách hàng của Anthropic ngừng sử dụng dịch vụ của họ và chuyển sang các công ty AI cạnh tranh.

Nếu cáo buộc này là đúng, nhiều chuyên gia lo ngại rằng vụ việc có thể tạo ra một tiền lệ nguy hiểm. Chính phủ Mỹ từ lâu có quyền lựa chọn nhà cung cấp cho các hợp đồng quốc phòng, nhưng việc sử dụng nhãn “rủi ro chuỗi cung ứng” với một công ty nội địa chỉ vì bất đồng về chính sách công nghệ có thể mở ra khả năng mới. Đó là chính phủ Mỹ sử dụng sức mạnh của hệ thống hợp đồng và mua sắm công để buộc các hãng công nghệ phải tuân theo định hướng chính sách của mình.

Trong bối cảnh AI ngày càng trở thành công nghệ chiến lược, điều này đặt ra một câu hỏi lớn hơn nhiều: Liệu chính phủ có nên sử dụng các công cụ chính sách công nghiệp để định hình cách các công ty phát triển và triển khai AI hay không? Với một số người, việc kiểm soát chặt chẽ AI là cần thiết để bảo vệ an ninh quốc gia. Song với nhiều người khác ở Thung lũng Silicon, việc trừng phạt một công ty vì giữ các giới hạn đạo đức cho công nghệ của mình có thể làm suy yếu tinh thần đổi mới và tạo ra môi trường chính sách khó lường cho toàn bộ ngành công nghệ.

Điểm đáng chú ý là Microsoft cùng 37 nhân viên Google, OpenAI đã nộp bản đệ trình ủng hộ vụ kiện của Anthropic, đề nghị tòa án tạm thời chặn quyết định từ Bộ Quốc phòng Mỹ xếp công ty này là “rủi ro chuỗi cung ứng”.

“Nỗ lực trừng phạt một trong những công ty AI hàng đầu Mỹ chắc chắn sẽ gây ra những hệ quả với năng lực cạnh tranh công nghiệp và khoa học của Mỹ trong lĩnh vực AI và nhiều lĩnh vực khác”, nhóm nhân viên Google và OpenAI viết.