Lo ngại về công nghệ giám sát AI tại Olympic 2024

Olympic 2024 đang thu hút sự chú ý lớn khi vận động viên cùng du khách từ khắp nơi tập trung về Pháp. Và không chỉ người dân toàn thế giới, hệ thống AI cũng dõi theo sự kiện này. Chính phủ nước chủ nhà bắt tay với một số công ty tư nhân sử dụng trí tuệ nhân tạo kết hợp nhiều công nghệ khác để tiến hành giám sát an ninh toàn diện và liên tục trước, trong lẫn sau Olympic.

Biện pháp phải tương đương rủi ro

Rủi ro an ninh khi tổ chức Olympic là rất lớn, buộc Pháp phải triển khai biện pháp mạnh mẽ hơn thông thường. Kế hoạch giám sát nhằm giảm thiểu rủi ro rộng lớn đến mức họ phải thay đổi luật. Văn phòng Thủ tướng Pháp đang đàm phán một sắc lệnh tạm thời cho phép chính phủ tăng cường đáng kể loạt công cụ giám sát và thu thập thông tin - gồm nghe lén, lấy định vị cùng dữ liệu khác trong máy tính hoặc điện thoại, ghi hình, ghi âm - trong suốt thời gian sự kiện diễn ra.

Tuy nhiên, có ý kiến chỉ trích chính phủ Pháp lợi dụng Olympic như lý do bình thường hóa hoạt động giám sát nhà nước với toàn xã hội. Ngoài ra không ít người còn lo ngại công tác giám sát thiếu hiệu quả, giống như Sở Mật vụ Mỹ (USSS) không thể ngăn chặn vụ ám sát cựu Tổng thống Donald Trump xảy ra mới đây.

Giám sát bằng AI

Nhờ quy định được nới lỏng, giới chức Pháp bắt tay với AI Videtics, Orange Business, ChapsVision, Wintics triển khai công nghệ giám sát rộng rãi bằng AI.

Họ từng dùng giám sát AI tại ga xe lửa, ga tàu điện ngầm, sự kiện thể thao hay âm nhạc lớn chẳng hạn buổi diễn của ca sĩ Taylor Swift và Liên hoan phim Cannes. Những lần thí điểm này cho thấy hiệu quả, đủ sức thuyết phục họ tiếp tục dùng trí tuệ nhân tạo trong tương lai.

Phần mềm AI hiện tại có thể ghi nhận thay đổi về quy mô hay chuyển động của đám đông, đồ vật bị bỏ lại, sự hiện diện và hành động sử dụng vũ khí, thi thể trên mặt đất, khói lửa và một số vi phạm giao thông. Mục tiêu là để hệ thống giám sát phát hiện theo thời gian thực diễn biến như đám đông ùa về phía cổng hay có người đặt ba lô ở nơi đông người, qua đó kịp thời cảnh báo lực lượng an ninh. Dường như công nghệ được dùng một cách hợp lý.

Nhưng cách thức phần mềm hoạt động đặt ra vô vàn câu hỏi về pháp lý và quyền riêng tư. Cần thu thập loại dữ liệu gì? Thu thập bao nhiêu dữ liệu để huấn luyện AI biết ghi nhận diễn biến rủi ro? Tỷ lệ lỗi là bao nhiêu? Dữ liệu sau thu thập được xử lý ra sao? Ai nắm quyền truy cập dữ liệu?

Theo giáo sư McKenna, cách thức dữ liệu được thu thập, xử lý và tiếp cận không minh bạch. Với quyết định cho phép công ty tư nhân tiếp cận hàng nghìn máy quay an ninh trên khắp đất nước, khai thác và phối hợp khả năng giám sát với công ty đường sắt lẫn nhà điều hành vận tải, cộng thêm chấp thuận sử dụng máy bay không người lái lắp máy quay, Pháp đang “bật đèn xanh” cho hoạt động lấy công dân nước mình lẫn du khách huấn luyện AI.

Mức độ hợp pháp

Do là thành viên Liên minh châu Âu (EU) nên Pháp phải tuân thủ Đạo luật AI – một trong những luật về bảo vệ dữ liệu nghiêm khắc hàng đầu.

Nhằm chuẩn bị đăng cai Olympic, năm ngoái nước này ban hành Luật 2023-380 cung cấp khuôn khổ pháp lý cho sự kiện thể thao sắp diễn ra. Trong luật có Điều 7 cho phép cơ quan thực thi pháp luật cùng nhà thầu công nghệ thử nghiệm giám sát AI trước, trong lẫn sau Olympic; Điều 10 cho phép dùng phần mềm AI rà soát dữ liệu hình ảnh.

Giới học giả cùng nhóm xã hội dân sự nhận định hai điều trên vi phạm Quy định chung về Bảo vệ dữ liệu cũng như Đạo luật AI. Chính phủ Pháp tuyên bố phần mềm AI có thể hoàn thành nhiệm vụ mà không cần xác định danh tính hay vi phạm hạn chế về bảo vệ dữ liệu sinh trắc học. Tuy nhiên các tổ chức nhân quyền châu Âu phản bác rằng nếu mục đích và chức năng của thuật toán cùng máy quay do AI điều khiển là phát hiện diễn biến đáng ngờ ở nơi công cộng, thì chúng nhất thiết phải thu thập rồi phân tích đặc điểm sinh lý lẫn hành vi của con người gồm tư thế cơ thể, dáng đi, chuyển động, cử chỉ, ngoại hình. Đây chính là dữ liệu sinh trắc học.

Ngoài ra công nghệ giám sát AI ít chịu kiểm tra độc lập và được quản lý lỏng lẻo, nên nguy cơ dữ liệu thu thập bị xâm phạm vô cùng lớn.