Sau khuôn mặt và giọng nói, dáng đi và mống mắt sẽ là mục tiêu tiếp theo bị AI sao chép?

Thời gian qua tại Trung Quốc ghi nhận không ít vụ phim siêu ngắn do AI tạo ra sử dụng trái phép giọng nói, song song đó vấn đề xâm phạm dữ liệu sinh trắc học (khuôn mặt, giọng nói) cũng liên tục phát sinh.

Gần đây nhất phần lồng tiếng trong ngoại truyện của bộ phim ăn khách “Cửu Môn” cùng một quảng cáo dược phẩm trong phim có sự tương đồng rõ ràng với giọng của diễn viên lồng tiếng Mã Chính Dương, khiến dư luận đặt nghi vấn đặc điểm sinh trắc học đã bị dùng không qua xin phép.

Giữa tháng 8, Mã ra tuyên bố chính thức khẳng định anh chưa bao giờ cho phép nhà phát hành, nhà quảng cáo, ê kíp sản xuất, nhà cung cấp dịch vụ trí tuệ nhân tạo hay bất cứ đơn vị liên quan nào sử dụng giọng của mình cho ngoại truyện hay quảng cáo của “Cửu Môn”. Qua so sánh kĩ lưỡng, anh nhấn mạnh có đầy đủ cơ sở tin rằng số nội dung kể trên được tạo ra trái phép, thông qua trích xuất, xử lí và tổng hợp giọng nói của diễn viên Mã bằng AI.

Sau đó công ty truyền thông Ngoan Hầu (Thành Đô) - công ty sản xuất đoạn quảng cáo lẫn ngoại truyện - phản hồi phần lồng tiếng do công cụ AI Jimeng tạo tự động. Trong quá trình sản xuất, ê kíp không kiểm tra nguồn gốc lẫn quyền sở hữu giọng nói. Kết quả là thành phẩm rất giống giọng của Mã Chính Dương.

Dây chuyền sản xuất nội dung tự động hóa

Vụ việc cho thấy lỗ hổng lớn trong kiểm soát trí tuệ nhân tạo, đe dọa đến không chỉ người nổi tiếng mà cả người bình thường

Hiệu phó Trường An toàn không gian mạng (Đại học Khoa học - Công nghệ Trung Quốc) Trương Vĩ Minh cho biết quá trình sản xuất phim siêu ngắn giống như dây chuyền tự động hóa. Mô hình ngôn ngữ lớn đảm nhận khâu viết kịch bản và tạo bảng phân cảnh, mô hình tạo video phụ trách quay phim và đồ họa, mô hình chuyển văn bản thành giọng nói và tạo nhạc đảm nhiệm phần lồng tiếng cùng sáng tác âm nhạc, cuối cùng một hệ thống điều phối thông minh là “đạo diễn” chịu trách nhiệm kết nối và tích hợp tất cả yếu tố.

Theo nhà nghiên cứu Mã Hưng Quân (Đại học Phúc Đán): “Các mô hình không thực sự hiểu biểu diễn, chúng chỉ học cách diễn giải hình ảnh lẫn âm thanh từ lượng dữ liệu khổng lồ mà thôi. Nguồn dữ liệu cung cấp cho các mô hình vô cùng đa dạng, từ web công khai, bộ dữ liệu mã nguồn mở đến kho dữ liệu thương mại, nội dung do người dùng tải lên. Ở mỗi khâu sản xuất phim, đội ngũ sáng tạo có thể tự tạo hình ảnh hay thiết kế gốc, hoặc cũng có thể trích xuất dữ liệu liên quan (hình ảnh, video, đoạn ghi âm) rồi xử lí thành nội dung mới. Tuy nhiên, thứ được đăng công khai trên mạng không đồng nghĩa đã được chủ sở hữu cho phép sử dụng để huấn luyện AI hay khai thác thương mại”.

Ông Trương xác định hoạt động thu thập trái phép dữ liệu âm thanh và hình ảnh của con người diễn ra rất phổ biến, tạo nên cả một thị trường ngầm dẫn đến vô số vụ kiện tụng. Xét về mặt kĩ thuật nhà phát triển hoàn toàn có thể thiết lập hệ thống chỉ lấy dữ liệu từ kênh được cấp phép, nhưng không phải ai cũng chọn làm vậy.

Dáng đi, mống mắt sắp thành mục tiêu

Đáng lo ngại hơn đối tượng bị lấy cắp có thể không dừng ở khuôn mặt và giọng nói. Ông Mã cảnh báo trong tương lai loạt đặc điểm sinh trắc học khó thay đổi như dáng đi, mống mắt, tư thế cơ thể sẽ được sử dụng rộng rãi, vì vậy cũng được thu thập để huấn luyện các mô hình AI – tiềm ẩn rủi ro xâm phạm dữ liệu sinh trắc học tùy tiện hơn.

Thậm chí theo ông Trương, hành vi xâm phạm còn mở rộng sang lĩnh vực khác chẳng hạn kĩ năng chuyên môn của con người.

Vào tháng 4, Đại Hà Nhật báo đưa tin một công ty phát triển trò chơi điện tử tại tỉnh Sơn Đông thử nghiệm “số hóa” cựu chuyên viên phòng nhân sự bằng AI. Phiên bản kĩ thuật số biết làm nhiều công việc đơn giản như tư vấn, sắp xếp lịch hẹn, soạn thảo bài thuyết trình hoặc bảng tính.

Quanh vấn đề bảo vệ quyền lợi của con người, ông Trương chỉ ra 3 thách thức lớn. Đầu tiên là công nghệ tổng hợp cho phép tinh chỉnh âm sắc và pha trộn nhiều giọng nói gây nhiễu kết quả nhận diện. Thứ hai, nội dung vi phạm thường trải qua quá trình chỉnh sửa nhiều lần và được phát tán trên nhiều nền tảng tạo nên chuỗi phân phối phức tạp khiến việc truy xuất nguồn gốc trở nên vô cùng khó khăn. Thứ ba, xác minh kĩ thuật tiêu tốn chi phí lớn dẫn đến gánh nặng tài chính.

Giải pháp khả thi là dấu hiệu ẩn nhúng vào dữ liệu gốc. Nếu dữ liệu hình ảnh hay âm thanh bị sao chép, sản phẩm do AI tạo ra vẫn mang dấu hiệu giúp xác định nguồn.

Nhưng chỉ công nghệ thì không đủ để giải quyết triệt để vấn đề. Khi tình trạng xâm phạm dữ liệu sinh trắc học thông qua AI ngày càng diễn biến phức tạp, cơ quan lập pháp, cơ quan quản lí, nhà phát triển công nghệ cùng các bên liên quan khác cần ngồi lại xây dựng giải pháp toàn diện.

Cẩm Bình