Tác tử AI mắc lỗi: Doanh nghiệp hay thuật toán chịu trách nhiệm?

Sau khi bị từ chối hơn 100 công việc trên nền tảng Workday, Derek Mobley đã kiện công ty này, tuyên bố rằng các thuật toán của họ đã phân biệt đối xử với anh dựa trên tuổi tác.

Đáp lại, Workday tuyên bố không chịu trách nhiệm với quyết định xuất phát từ sở thích hay lựa chọn từ các công ty sử dụng phần mềm của họ. Thế nhưng, một tòa án đã phán quyết rằng vụ kiện của Derek Mobley, gồm cả những người khác cũng tin rằng họ bị Workday phân biệt đối xử, có thể được tiếp tục.

Workday là hãng công nghệ Mỹ chuyên cung cấp phần mềm quản lý doanh nghiệp trên nền tảng đám mây.

Các công ty bảo hiểm và đội ngũ pháp lý của họ đang theo dõi sát sao vụ kiện này, bởi nó có thể tạo ra tác động vượt xa trường hợp phân biệt đối xử trong tuyển dụng, khi các doanh nghiệp ngày càng giao nhiều nhiệm vụ kinh doanh cho các tác tử AI (trí tuệ nhân tạo).

Tác tử AI là hệ thống AI có khả năng tự đưa ra quyết định và hành động để đạt một mục tiêu cụ thể, thay vì chỉ trả lời câu hỏi như chatbot thông thường.

Vấn đề cốt lõi trong vụ kiện của Derek Mobley là liệu tòa án có quy trách nhiệm pháp lý cho các tác tử AI với quyết định mà chúng đưa ra thay mặt doanh nghiệp không, hay trách nhiệm sẽ thuộc về chính những công ty khiến họ có thể phải đối mặt với các vụ kiện. Mức bồi thường trong các vụ kiện tập thể tại Mỹ ngày càng lên tới hàng tỉ USD.

Trong một tuyên bố với tờ FT, Workday cho biết: “Những cáo buộc trong vụ kiện là sai sự thật. Công cụ tuyển dụng AI từ Workday không đưa ra quyết định tuyển dụng và được thiết kế với sự giám sát của con người làm cốt lõi. Công nghệ của chúng tôi chỉ xem xét các tiêu chuẩn công việc, chứ không phải đặc điểm được bảo vệ như chủng tộc, tuổi tác hay khuyết tật. Không có bằng chứng cho thấy công cụ của chúng tôi gây hại cho các nhóm được bảo vệ”.

Các luật sư và nhà môi giới bảo hiểm nói với FT rằng có lẽ sẽ mất nhiều năm để tòa án phán quyết mức độ trách nhiệm thuộc về các công ty phát triển mô hình AI, doanh nghiệp triển khai chúng hay người dùng cuối của công nghệ đang thay đổi nhanh chóng này.

Bảo hiểm quay lưng với rủi ro AI, mở ra thị trường mới

Doanh nghiệp có thể kỳ vọng được bảo vệ phần nào từ các hợp đồng bảo hiểm trách nhiệm, chẳng hạn bảo hiểm cho lỗi công nghệ hoặc thiếu sót. Tuy nhiên, các công ty bảo hiểm đã bắt đầu loại bỏ các tổn thất liên quan đến AI khỏi hợp đồng, trong đó có AIG. Công ty này đã xin phép cơ quan quản lý để loại trừ các thiệt hại liên quan đến AI khỏi phạm vi bảo hiểm doanh nghiệp.

Một số công ty bảo hiểm khác vẫn chấp nhận chi trả cho thiệt hại do AI gây ra ở mức độ nhất định, nhưng áp dụng các “giới hạn phụ”, tức là đặt mức trần số tiền bồi thường.

Kevin Kalinich, người đứng đầu bộ phận chuyển giao rủi ro AI tại hãng môi giới Aon, lập luận rằng khi công nghệ này lan rộng trong các công ty, nó có thể gây ra rủi ro hệ thống cho toàn bộ nền kinh tế và trở nên không thể bảo hiểm được.

Các tác tử AI đặt ra thách thức bảo hiểm chưa từng có vì hành vi của công nghệ này và do đó rủi ro mà chúng gây ra về cơ bản là không thể dự đoán được, Kevin Kalinich nói. Ông cho biết các nhà phát triển tác tử AI đơn giản là “không biết nó sẽ làm gì 100% thời gian”.

Sự không chắc chắn đó khiến việc bảo hiểm tác tử AI về cơ bản khác biệt so với các rủi ro kinh doanh như bão, tấn công khủng bố hoặc khiếu nại quấy rối tình dục, nơi các thông số của mối đe dọa dễ xác định hơn.

Các công ty bảo hiểm và môi giới cho rằng doanh nghiệp sẽ ngày càng tìm cách phủ nhận trách nhiệm với hành động do phần mềm AI thực hiện thay mặt họ. Thế nhưng, nhiều người cho rằng họ sẽ khó tách mình khỏi những hành động đó.

Một số người lạc quan hơn về quy mô của các rủi ro tiềm tàng liên quan đến AI. Thay vì coi đây là bằng chứng về rủi ro hệ thống, họ xem việc các công ty bảo hiểm loại trừ AI khỏi hợp đồng hiện tại là quyết định kinh doanh khôn ngoan. Lý do vì các công ty có thể tách AI thành một loại bảo hiểm riêng.

“Đây là cơ hội để bán thêm sản phẩm bảo hiểm”, Gretchen Hoff Varner, luật sư tại hãng luật Covington & Burling, cho biết.

Các luật sư cho rằng việc ngày càng nhiều hợp đồng bảo hiểm loại trừ rủi ro liên quan đến AI giống cách ngành này từng làm từ nhiều thập kỷ trước. Cụ thể là họ từng loại bỏ các rủi ro công nghệ khỏi bảo hiểm trách nhiệm thông thường, sau đó tách ra và bán dưới dạng một sản phẩm riêng gọi là bảo hiểm an ninh mạng.

“Khi bắt đầu xuất hiện các vụ rò rỉ dữ liệu, tổn thất do máy tính gây ra và các vụ kiện tập thể sau đó, các công ty bảo hiểm đã quyết định loại trừ tổn thất do mạng và tạo ra một danh mục sản phẩm hoàn toàn mới. Chúng ta đang thấy kịch bản tương tự được áp dụng với AI”, Hoff Varner nói.

“Chưa có loại bảo hiểm nào để giải quyết những rủi ro đó”

Ngay cả trước khi AI được sử dụng rộng rãi, các cơ quan giám sát và quản lý ổn định tài chính như Ủy ban Giao dịch Hàng hóa Tương lai Mỹ (CFTC) đã bắt đầu xem xét các rủi ro hệ thống tiềm tàng bắt nguồn từ các cuộc tấn công mạng và thậm chí cả các bản cập nhật phần mềm. Chẳng hạn sự cố CNTT liên quan đến hãng an ninh mạng CrowdStrike năm 2024, khi một bản cập nhật nội dung đã làm sập hàng triệu máy tính và máy chủ Windows.

Kevin Kalinich cảnh báo việc ứng dụng AI có thể làm giảm rào cản cho các cuộc tấn công như vậy, với những kịch bản nghiêm trọng nhất nhắm vào hạ tầng vật lý.

“Rủi ro hệ thống thực sự đến từ các dịch vụ thiết yếu, chẳng hạn hạ tầng, nước và điện, có thể làm tê liệt cả một thành phố hoặc thậm chí một quốc gia”, ông nhận định.

Tuy nhiên, các vụ kiện liên quan đến AI có thể xuất hiện ở những lĩnh vực rất khó lường, không chỉ dừng lại ở lỗi bịa thông tin của chatbot hay các sai sót tốn kém khi luật sư dùng AI trong công việc pháp lý.

Kevin Kalinich chỉ ra một phán quyết mang tính bước ngoặt gần đây trong vụ kiện chống lại Meta và Google, trong đó bồi thẩm đoàn phán quyết các công ty này tắc trách về các nền tảng mạng xã hội được thiết kế để gây nghiện cho trẻ em.

Hiện nay, các nền tảng này phải đối mặt với hàng ngàn khiếu nại tương tự trên khắp Mỹ, gồm cả từ cá nhân và học khu cho rằng họ đã bị tổn hại bởi công nghệ này.

Cả Meta và Google đều cho biết không đồng ý với phán quyết đó.

Kevin Kalinich tin rằng những tổn thất liên quan đến AI có thể còn lan rộng hơn nữa.

“Nếu bạn đang sử dụng tác tử AI để tăng doanh số bán hàng tại cửa hàng bán lẻ, ngân hàng hoặc bất kỳ lĩnh vực nào, và nó gây nghiện hoặc mắc sai lầm, thì hiện chưa có loại bảo hiểm nào để giải quyết những rủi ro đó”, ông nhấn mạnh.