Cảnh sát Anh phải ngừng sử dụng trí tuệ nhân tạo trong hồ sơ tố tụng

Cảnh báo này được đưa ra dựa trên những lo ngại rằng các thông tin đầu ra thiếu chính xác từ máy móc có thể làm sai lệch quá trình tố tụng, đồng thời nhấn mạnh rằng các biện pháp bảo vệ và kiểm định an toàn phải được thiết lập vững chắc trước khi các cơ quan thực thi pháp luật tiến hành tự động hóa những tác vụ cốt lõi.

Cảnh sát Anh lo ngại với bài học từ những dữ liệu bịa đặt

Ông Alex Murray, người đứng đầu trung tâm Police.AI, chia sẻ rằng ông đã trực tiếp can thiệp vào hoạt động của một số đơn vị cảnh sát khi họ bắt đầu triển khai các công cụ trí tuệ nhân tạo thương mại chưa qua đánh giá và kiểm định đúng chuẩn. Ông Murray mô tả lại quá trình yêu cầu các lực lượng này tạm dừng công việc và nhấn mạnh sự cần thiết của việc làm chậm lại nhịp độ áp dụng công nghệ mới. Theo vị lãnh đạo này, bất kì công nghệ nào được đưa vào sử dụng trong hệ thống tư pháp hình sự đều phải đáp ứng một tiêu chuẩn chính xác tuyệt đối, vượt qua mọi sự nghi ngờ hợp lí.

Sự can thiệp này phản ánh những căng thẳng đang ngày một gia tăng xoay quanh việc ứng dụng trí tuệ nhân tạo tạo sinh trong công tác trị an. Trung tâm Police.AI được thành lập trong năm nay như một phần của chương trình cải cách chính phủ nhằm nâng cao hiệu suất trên toàn mạng lưới cảnh sát. Bộ trưởng Nội vụ Shabana Mahmood cho biết sáng kiến này nhận được khoản tài trợ lên tới 115 triệu bảng Anh cho giai đoạn ba năm. Giới chức trách kì vọng chương trình có thể tạo ra mức tiết kiệm thời gian tương đương với việc bổ sung thêm 3.000 sĩ quan vào lực lượng 145 nghìn người hiện đang phục vụ tại Anh và xứ Wales.

Theo lời ông Murray, trung tâm Police.AI đã phải vào cuộc ngay sau khi một số đơn vị bắt đầu sử dụng các hệ thống thông minh thương mại để hỗ trợ sĩ quan chuyển đổi nội dung từ các buổi thẩm vấn thành những bản lời khai chính thức tại tòa. Dù từ chối nêu đích danh các đơn vị liên quan, ông cũng cho biết cảnh sát đã nhận được khuyến cáo không nên triển khai công nghệ này ở các lĩnh vực khác khi chưa hoàn tất các bước kiểm tra phù hợp.

Một trong những lĩnh vực đòi hỏi sự thận trọng đặc biệt là quá trình chuẩn bị hồ sơ bằng chứng, tức là các tài liệu bắt buộc phải cung cấp cho bên bào chữa trước khi phiên tòa diễn ra. Bất kì đơn vị nào muốn dùng máy móc cho công việc này đều phải chứng minh được cách thức hệ thống được huấn luyện và triển khai trong thực tế.

Việc cẩn trọng này hoàn toàn có cơ sở khi ngành cảnh sát đã phải trải qua một câu chuyện mang tính cảnh báo sâu sắc. Vào năm ngoái, Cảnh sát khu vực West Midlands đã phụ thuộc vào nguồn tài liệu do hệ thống Copilot của Microsoft tạo ra. Hệ thống này đã tự động bịa đặt một trận đấu trong quá khứ liên quan đến CLB Maccabi Tel Aviv của Israel để đưa vào hồ sơ hỗ trợ cho lệnh cấm cổ động viên đội bóng này tham dự trận đấu với Aston Villa.

Sự cố trên đã thổi bùng mối lo ngại về hiện tượng "ảo giác" của công nghệ, nơi hệ thống tạo ra thông tin sai lệch nhưng lại được trình bày một cách cực kì thuyết phục. Để giải quyết, ông Murray khẳng định tất cả các lực lượng hiện đều phải có một chính sách quy định rõ ràng yêu cầu sĩ quan kiểm tra lại toàn bộ những gì máy móc tạo ra.

Cảnh sát Anh vẫn cần trí tuệ nhân tạo trong nhiều công việc khác

Bất chấp những lo ngại hiện tại, người đứng đầu Police.AI vẫn lập luận rằng các hệ thống trí tuệ nhân tạo nếu được kiểm tra bài bản sẽ mang lại những lợi ích khổng lồ cho các lực lượng đang phải vật lộn với khối lượng công việc ngày càng tăng và tính chất điều tra ngày càng phức tạp. Một trong những ứng dụng đầy hứa hẹn là quá trình phân tích đoạn phim từ camera giám sát an ninh. Ở thời điểm hiện tại, các sĩ quan cảnh sát thường phải dành ra hàng giờ đồng hồ để rà soát video một cách thủ công nhằm tìm kiếm nghi phạm.

Với công nghệ mới, hệ thống trí tuệ nhân tạo sở hữu năng lực tiếp nhận các câu lệnh trực tiếp, ví dụ như yêu cầu tìm kiếm một người đàn ông đội mũ đỏ. Trong những khoảng thời gian vàng hoặc những ngày đầu tiên vô cùng quý giá khi bằng chứng mang tính quyết định, công nghệ sẽ giúp lực lượng chức năng nhanh chóng tìm ra vị trí của nghi phạm và tiến hành bắt giữ trước khi các dấu vết bị xóa mờ.

Ông Murray cũng chỉ ra tiềm năng to lớn của công nghệ trong việc xử lí khối lượng khổng lồ các bằng chứng kĩ thuật số, bao gồm cả những vụ án liên quan đến lạm dụng tình dục trẻ em. Trung tâm Police.AI hiện đang phát triển một công cụ có khả năng nhận diện và phân loại hình ảnh được tìm thấy trên các thiết bị thu giữ từ nghi phạm. Quá trình phân loại này sẽ giúp giảm lượng tài liệu độc hại mà các sĩ quan cảnh sát phải trực tiếp xem xét.

Thay vì phải đối mặt với toàn bộ hình ảnh gây tổn thương tâm lí nặng nề, một nhân sự con người chỉ cần vào đánh giá các mẫu đại diện do hệ thống trích xuất. Sự tự động hóa này, đi kèm với các rào chắn, chính sách và quy trình đào tạo phù hợp, được đánh giá là mang lại những lợi ích vượt xa các điểm bất lợi, tạo ra một môi trường làm việc an toàn và hiệu quả hơn cho các cơ quan thực thi pháp luật.