Nữ diễn viên Singapore hoảng loạn sau khi bị chế ảnh AI mặc bikini đi cùng trai lạ

Sự việc càng trở nên nghiêm trọng khi đối tượng tự nhận cô là vợ, đăng tải những lời đe dọa hiếp dâm và lan truyền nhiều thông tin sai sự thật. Tuy nhiên, điều khiến nữ diễn viên đau lòng hơn cả là phản ứng thiếu đồng cảm của một bộ phận cộng đồng mạng, làm dấy lên hồi chuông cảnh báo về những hệ lụy xã hội từ công nghệ AI tạo sinh.

Khi AI trở thành công cụ bôi nhọ và quấy rối nữ diễn viên

Trong bài đăng trên mạng xã hội ngày 2/7, nữ diễn viên Singapore Eswari Gunasagar cho biết cô vẫn chưa thể quên cú sốc xảy ra vào đầu tháng 6, khi phát hiện hình ảnh của mình bị sử dụng trái phép để tạo ra những bức ảnh giả bằng AI.

Theo Eswari, một tài khoản Facebook mà cô hoàn toàn không quen biết đã dùng công nghệ AI để ghép khuôn mặt của cô vào loạt ảnh đi biển cùng người này. Trong các hình ảnh, nữ diễn viên bị mô tả mặc bikini dù trên thực tế cô chưa từng công khai bất kỳ bức ảnh nào như vậy trên mạng xã hội.

Nữ diễn viên 36 tuổi, vừa kết hôn với chồng Shane Meyers vào ngày 9/5, cho biết điều khiến cô lo lắng không chỉ là danh dự của bản thân mà còn là tác động đối với gia đình, đặc biệt là cha mẹ. "Tôi cảm thấy buồn nôn khi phát hiện những hình ảnh đó", cô chia sẻ.

Ngay sau khi biết sự việc, Eswari đã gửi tin nhắn yêu cầu chủ tài khoản xóa bài viết, đồng thời cảnh báo sẽ trình báo cảnh sát nếu người này không dừng hành vi phát tán nội dung giả mạo.

Ban đầu, bài đăng được gỡ xuống. Tuy nhiên, chỉ một ngày sau, đối tượng tiếp tục đăng tải lại những hình ảnh tương tự cùng nhiều nội dung bịa đặt khác.

Theo lời kể của nữ diễn viên, người này ngang nhiên tuyên bố cô là vợ mình, nói rằng sẽ xin lệnh bảo vệ cá nhân (PPO) vì bị cô "bắt nạt", đồng thời đăng kèm dòng trạng thái gây sốc. Đó là thời điểm Eswari quyết định lập tức trình báo cảnh sát.

Trước đó, vào ngày 4/6, cô cũng công khai nhiều ảnh chụp màn hình về tài khoản Facebook này, kêu gọi cộng đồng mạng cùng báo cáo để nền tảng xử lí.

Nữ diễn viên bày tỏ sự phẫn nộ trước việc một người có thể dễ dàng lấy hình ảnh của người khác, sử dụng AI để tạo ra nội dung giả rồi phát tán trên mạng nhằm phục vụ mục đích cá nhân.

Sau khoảng ba giờ kể từ khi cộng đồng đồng loạt báo cáo, tài khoản Facebook nói trên đã bị gỡ khỏi nền tảng. Eswari gửi lời cảm ơn tới những người đã hỗ trợ cô trong quá trình xử lí vụ việc.

Cảnh sát Singapore cũng xác nhận với truyền thông địa phương rằng họ đã tiếp nhận đơn trình báo liên quan đến vụ việc.

Nỗi lo không chỉ nằm ở AI mà còn ở sự vô cảm của cộng đồng mạng

Nếu việc AI bị lợi dụng để tạo ảnh giả khiến Eswari sợ hãi thì phản ứng của một bộ phận cư dân mạng còn khiến cô thất vọng hơn. Thay vì lên án hành vi quấy rối và bôi nhọ, nhiều người lại quay sang chế giễu chính nạn nhân.

Một bài đăng được Eswari chụp lại cho thấy một tài khoản bình luận rằng: "Tôi cá cô ấy sẽ không phản ứng như vậy nếu người tạo ảnh là Michele Morrone hay Hrithik Roshan. Là người nổi tiếng thì còn mong đợi điều gì nữa?"

Đối với nữ diễn viên, những bình luận như vậy phản ánh một thực trạng đáng lo ngại hơn cả sự phát triển của AI. Theo cô, vấn đề cốt lõi không nằm ở bản thân công nghệ mà là sự thiếu đồng cảm của con người khi chứng kiến người khác trở thành nạn nhân.

Eswari cho rằng thay vì tập trung vào hành vi sai trái của người tạo và phát tán hình ảnh giả, một số người lại lựa chọn đổ lỗi hoặc chế giễu người bị hại. Điều đó vô tình tiếp tay cho những hành vi lạm dụng công nghệ ngày càng phổ biến. "Khoảnh khắc chúng ta bắt đầu cười nhạo nạn nhân thay vì đứng về phía họ, chúng ta đã trở thành một phần của vấn đề", cô nhấn mạnh.

Vụ việc của Eswari phản ánh một xu hướng đáng lo ngại trong thời đại AI tạo sinh phát triển nhanh chóng. Chỉ với vài bức ảnh công khai trên mạng xã hội, các công cụ AI hiện nay có thể tạo ra những hình ảnh hoặc video giả có độ chân thực rất cao, khiến người xem khó phân biệt thật giả.

Điều này mở ra nguy cơ ngày càng lớn về các hành vi mạo danh, bôi nhọ danh dự, tống tiền, quấy rối tình dục trực tuyến hay phát tán nội dung giả mạo nhằm thao túng dư luận.

Không chỉ người nổi tiếng, bất kỳ ai cũng có thể trở thành nạn nhân nếu hình ảnh cá nhân bị thu thập và khai thác trái phép. Trong khi đó, nhiều quốc gia vẫn đang loay hoay hoàn thiện khung pháp lí để xử lí các hành vi lạm dụng AI tạo sinh.

Câu chuyện của Eswari vì thế không đơn thuần là trải nghiệm đau lòng của một diễn viên. Nó cho thấy cuộc chiến chống lạm dụng AI không chỉ đòi hỏi các nền tảng công nghệ và cơ quan quản lí phải có biện pháp mạnh tay hơn, mà còn cần sự thay đổi trong nhận thức của cộng đồng. Bởi khi công nghệ ngày càng dễ tiếp cận, chính sự đồng cảm và thái độ không khoan nhượng với các hành vi xâm hại trên môi trường số mới là lớp bảo vệ đầu tiên dành cho các nạn nhân.

Bùi Tú