New York sẽ có cán bộ chuyên trách về trí tuệ nhân tạo

Theo nyc.gov, thị trưởng New York (Mỹ) Bill de Blasio vừa ban hành lệnh tạo ra một vị trí cấp cao để giám sát đạo đức trong lĩnh vực trí tuệ nhân tạo. Thành phố này muốn sự công bằng và trách nhiệm trong các thuật toán.

Theo đó, cán bộ chính sách và quản lý thuật toán sẽ làm việc trong Văn phòng điều hành của thị trưởng,vừa là kiến ​​trúc sư cho các hướng dẫn thuật toán đồng thời là nguồn lực cho chính sách thuật toán. Người này sẽ đảm bảo rằng các thuật toán của thành phố cũng tuân theo nguyên tắc công bằng và trách nhiệm. Cán bộ chính sách và quản lý thuật toán sẽ xây dựng các hướng dẫn và thực tiễn tốt nhất để hỗ trợ các cơ quan thành phố sử dụng các công cụ hoặc hệ thống dựa trên thuật toán và công nghệ liên quan.

Hiện vẫn chưa rõ ai sẽ đảm nhận vị trí này nhưng nhân viên thuật toán phải hiểu rõ hơn về cách áp dụng thuật toán trong thế giới thực, sẽ tạo ra một chính sách thành phố cho lĩnh vực công nghệ này. Như Engadget lưu ý, trách nhiệm chính của người sẽ giữ trọng trách này sẽ là chống lại sự thiên vị của các thuật toán. Không có gì bí mật là trí thông minh nhân tạo thường mau nhanh chóng học hỏi ở những người tạo ra nó các định kiến chủng tộc, giới tính và các định kiến ​​khác. Vấn đề này đặc biệt nghiêm trọng đối với các hệ thống nhận diện khuôn mặt và các chương trình khác ngày càng được các cơ quan thực thi pháp luật sử dụng.

Nếu thành công, sáng kiến ​​đảm bảo rằng tất cả công dân, chỉ không chỉ các nhóm dân số riêng lẻ, được hưởng lợi từ việc áp dụng AI. Người phụ trách lĩnh vực AI sẽ được hỗ trợ bởi các ban cố vấn và chỉ đạo bao gồm các nhà hoạt động xã hội và các quan chức thành phố.

Trong một số trường hợp, thuật toán có thể chống lại thái độ định kiến. Ví dụ, một chương trình tương tự xử lý các báo cáo của cảnh sát ở San Francisco đã xóa bất kỳ đề cập nào về quốc tịch của những người được nêu trong báo cáo.