Sếp Instagram đề xuất đánh dấu nội dung thật thay vì nội dung AI

Nội dung do AI tạo ra ngày càng phổ biến trên mạng xã hội. Ông Mosseri khuyến cáo người dùng cần suy nghĩ lại cách họ hiểu những gì họ thấy trên không gian mạng. Vị giám đốc Instagram nhận định hình ảnh cùng video AI đang làm thay đổi giả định về thực tế, sẽ mất nhiều năm để mọi người thích nghi với một thế giới mà nội dung truyền thông không còn có thể được hiểu một cách đơn giản chẳng phải nghi ngờ nữa.

Lâu nay Mosseri tin rằng hầu hết hình ảnh cùng video ghi lại khoảnh khắc thực tế, nhưng giả định này không còn đúng nữa khi trí tuệ nhân tạo phát triển nhanh chóng. Ông dự báo theo thời gian mọi người sẽ không còn tin nội dung truyền thông mặc định là thật, thay vào đó họ tiếp cận với thái độ hoài nghi, chú ý hơn đến người chia sẻ nội dung cũng như động cơ đằng sau đó.

Loạt đặc điểm từng đem lại thành công cho nhà sáng tạo như tính chân thực, khả năng tạo sự đồng cảm, giọng điệu riêng biệt ngày càng dễ bị AI sao chép. Ông Mosseri chỉ ra sự phổ biến ngày càng tăng của nội dung giả mạo (deepfake), hình ảnh cùng video AI khiến việc phân biệt chúng với nội dung thật trở nên vô cùng khó khăn. Nội dung AI tràn ngập nên nội dung thật trở thành “nguồn tài nguyên” khan hiếm.

Theo giám đốc Instagram, nhà sáng tạo tìm ra cách duy trì tính chân thực bất kể họ có áp dụng công nghệ mới hay không sẽ là người tiếp tục thành công. Việc tạo và tiêu thụ nội dung có thể chuyển từ ưa chuộng phong cách trau chuốt kỹ lưỡng sang phong cách thô mộc kém hoàn hảo hơn để thể hiện tính chân thực.

Mosseri cho biết các nền tảng mạng xã hội sắp phải đối mặt với áp lực xác định - gắn nhãn nội dung AI ngày càng lớn – một công việc chẳng hề dễ dàng vì khả năng bắt chước thực tế của trí tuệ nhân tạo không ngừng phát triển. Ông đề xuất hướng tiếp cận táo bạo hơn: thay vì chỉ tập trung xác định nội dung AI, đánh dấu nội dung thật ngay từ khâu tạo ra khả thi hơn. Các đơn vị sản xuất máy ảnh hoặc điện thoại thông minh có thể triển khai cơ chế mã hóa chữ ký hình ảnh ngay tại thời điểm chụp, tạo ra chuỗi chứng cứ kiểm chứng được hỗ trợ xác thực nội dung.

Công nghệ bảo vệ bản quyền ngày nay chủ yếu là watermark hoặc nhãn gắn kèm, được thêm vào sau khi tạo ra nội dung và dễ bị loạt công cụ hiện đại loại bỏ. Cả Meta cũng từng thừa nhận tập đoàn không thể phát hiện tất cả nội dung do AI tạo ra hoặc chỉnh sửa dù đã đầu tư hàng tỷ USD phát triển công nghệ (kể cả dùng AI phân tích nội dung khả nghi).

Những chia sẻ từ giám đốc Instagram thể hiện rõ lo ngại của toàn ngành về tính xác thực của nội dung trong thời đại hình ảnh cùng video AI vô cùng tinh vi và lan truyền rộng rãi. Trách nhiệm giúp người dùng phân biệt thật giả đang đè nặng lên vai các nền tảng mạng xã hội, nhưng không loại trừ khả năng chuyển sang cho bên sản xuất thiết bị như ông Mosseri đề xuất.