Cô gái uất ức vì bị công nghệ nhận dạng khuôn mặt xác định nhầm là kẻ trộm

Sara đã bị buộc tội sai do hệ thống nhận dạng khuôn mặt của hãng Facewatch nhận nhầm cô với kẻ trộm.

Sau khi lục soát túi, nhân viên dẫn Sara ra ngoài và cấm cô vào tất cả cửa hàng Home Bargains sử dụng công nghệ này.

"Tôi chỉ biết khóc suốt dọc đường về nhà. Tôi nghĩ: Ồ, cuộc sống của tôi sẽ thế nào? Tôi sẽ bị coi là kẻ trộm đồ trong khi tôi chưa bao giờ ăn trộm".

Facewatch sau đó viết thư cho Sara và thừa nhận đã mắc lỗi.

Facewatch là công ty an ninh tư nhân có trụ sở tại Vương quốc Anh, cung cấp dịch vụ nhận dạng khuôn mặt cho các doanh nghiệp. Hệ thống của Facewatch sử dụng camera để quét khuôn mặt người vào cửa hàng và so sánh chúng với cơ sở dữ liệu những kẻ phạm tội được biết đến. Nếu có sự trùng khớp, hệ thống sẽ cảnh báo nhân viên để họ có thể thực hiện hành động thích hợp.

Hệ thống của Facewatch được sử dụng ở nhiều cửa hàng ở Vương quốc Anh, gồm Home Bargains, Sports Direct và Costcutter, để xác định những kẻ trộm cắp.

Công ty từ chối bình luận về trường hợp của Sara, nhưng cho biết công nghệ của họ đã giúp ngăn chặn tội phạm và bảo vệ những người lao động ở tuyến đầu. Home Bargains cũng từ chối bình luận.

Không chỉ các nhà bán lẻ mới chuyển sang sử dụng công nghệ này.

Vào một ngày ẩm ướt ở khu dân cư Bethnal Green, phía đông London (thủ đô Anh), phóng viên BBC đi cùng cảnh sát khi họ dừng một chiếc xe van màu trắng (được cải tiến) trên đường cao tốc.

Camera gắn trên nóc xe đã ghi lại hình ảnh khuôn mặt của hàng nghìn người. Nếu hình ảnh khớp với những người trong danh sách bị theo dõi, các sĩ quan cảnh sát sẽ nói chuyện với họ và có khả năng bắt giữ họ.

Có người ví quá trình này giống như việc thanh toán ở siêu thị với khuôn mặt của bạn trở thành mã vạch.

Vào ngày phóng viên BBC quay phim, cảnh sát London cho biết đã thực hiện 6 vụ bắt giữ với sự hỗ trợ của công nghệ. Trong số này có hai người vi phạm các điều khoản về lệnh ngăn chặn xâm hại tình dục, một người đàn ông bị truy nã vì tội gây tổn hại cơ thể nghiêm trọng và một người bị truy nã vì hành hung sĩ quan cảnh sát.

Lindsey Chiswick, Giám đốc tình báo của Cảnh sát London, nói rằng tốc độ của công nghệ này cực kỳ hữu ích.

“Chỉ mất chưa đầy một giây để công nghệ tạo ra hình ảnh sinh trắc học khuôn mặt của một người, đánh giá nó dựa trên danh sách theo dõi riêng và tự động xóa nó khi không có kết quả trùng khớp”, Lindsey Chiswick nói.

BBC nói chuyện với một số người bị cảnh sát tiếp cận và xác nhận rằng họ đã được hệ thống nhận dạng chính xác. 192 vụ bắt giữ đã được thực hiện trong năm 2024 ở London nhờ hệ thống này.

Thế nhưng, các nhóm tự do dân sự lo lắng rằng độ chính xác của nó vẫn chưa được xác định đầy đủ và chỉ ra những trường hợp như trường hợp của Shaun Thompson.

Shaun Thompson, người làm việc cho nhóm vận động thanh thiếu niên Streetfathers, đã không nghĩ gì nhiều khi đi ngang qua một chiếc xe tải màu trắng gần cầu London vào tháng 2. Tuy nhiên chỉ trong vài giây, Shaun Thompson đã bị cảnh sát tiếp cận và thông báo rằng anh là kẻ bị truy nã.

"Đó là lúc tôi bị huých vào vai, nói rằng tôi đang bị truy nã", anh kể.

Shaun Thompson được yêu cầu lấy dấu vân tay và bị giữ lại trong 20 phút. Shaun Thompson kể rằng anh chỉ được thả sau khi giao nộp bản sao hộ chiếu của mình. Đó là một trường hợp nhầm lẫn danh tính.

“Tôi cảm thấy như bị xâm phạm… Tôi bị coi là có tội cho đến khi được chứng minh là vô tội”, Shaun Thompson thổ lộ.

Sai lầm này có thể là do sự giống nhau giữa các thành viên trong gia đình. Cảnh sát từ chối bình luận.

“Đội ngũ cảnh sát kỹ thuật số”

Silkie Carlo, Giám đốc của Big Brother Watch, đã quay lại video về cảnh sát trong nhiều đợt triển khai nhận dạng khuôn mặt. Bà đã ở đó vào đêm Shaun Thompson bị cảnh sát bắt.

Silkie Carlo nói: “Theo kinh nghiệm của tôi khi quan sát nhận dạng khuôn mặt trực tiếp trong nhiều năm, hầu hết công chúng không thực sự biết quá trình này là gì”.

Silkie Carlo nói rằng khuôn mặt của bất kỳ ai được quét đều là một phần của đội ngũ cảnh sát kỹ thuật số.

“Nếu hệ thống kích hoạt cảnh báo khớp giữa khuôn mặt người với danh sách truy nã, cảnh sát sẽ đến, có thể bắt giữ họ để thẩm vấn và yêu cầu họ chứng minh mình vô tội", Silkie Carlo nói.

Cảnh sát London đang tăng cường việc sử dụng nhận dạng khuôn mặt.

Từ năm 2020 đến 2022, cảnh sát London đã sử dụng tính năng nhận dạng khuôn mặt trực tiếp 9 lần. Con số tăng lên 23 lần vào năm 2023. Tính đến năm 2024, cảnh sát London đã sử dụng 67 lần tính năng này nên hướng đi rất rõ ràng.

Những người ủng hộ công nghệ này cho rằng tỷ lệ nhận dạng nhầm là rất thấp. Cảnh sát London tuyên bố rằng chỉ có khoảng 1 trong 33.000 người đi qua camera của họ bị nhận dạng nhầm.

Tỷ lệ sai sót cao hơn khi hệ thống xác định người nào đó là đối tượng khả nghi. Tính đến nay trong năm 2024, 1 trong 40 trường hợp là cảnh báo nhầm.

Michael Birtwhistle, người đứng đầu nhóm nghiên cứu của Viện Ada Lovelace, tin rằng công nghệ này quá mới nên luật pháp hiện thời vẫn chưa theo kịp.

Ông nói: “Tôi nghĩ hiện tại nó giống như miền Tây hoang dã. Điều đó tạo ra sự không chắc chắn về mặt pháp lý rằng liệu việc sử dụng hiện tại có hợp pháp hay không”.

Ở khu dân cư Bethnal Green, dù một số người mà BBC trò chuyện lo lắng về việc sử dụng công nghệ này, đa số lại ủng hộ nếu nó giúp giải quyết tội phạm.

Điều đó dẫn đến một câu hỏi khác về công nghệ nhận dạng khuôn mặt: Liệu nó có giúp ích về lâu dài không?

Khi người dân ngày càng quen với việc nhìn thấy chiếc xe van màu trắng đậu trên những con phố đông đúc, liệu kể biết đang bị cảnh sát truy nã sẽ tránh chúng không? Liệu những kẻ trộm cắp có che giấu mặt mình không?

Bà Silkie Carlo nói rằng xã hội cần đề phòng việc nhận dạng khuôn mặt trở nên bình thường hóa.

"Một khi cảnh sát có thể nói rằng điều này là ổn, đây là việc mà chúng tôi có thể làm thường xuyên, tại sao không đưa nó vào mạng lưới camera cố định?", Silkie Carlo đặt câu hỏi.

Đây là tương lai đầy ám ảnh mà các nhà vận động quyền tự do dân sự lo sợ nhất. Thế nhưng, rõ ràng là có rất nhiều người dân sẵn sàng chấp nhận việc quét khuôn mặt của họ nếu điều đó đồng nghĩa với các con phố sẽ an toàn hơn.