Tiềm ẩn rủi ro từ ứng dụng chỉnh ảnh Lensa AI

Lensa AI được xây dựng bởi Prisma Labs - một đơn vị phát triển AI có trụ sở tại California (Mỹ). Nó đã xuất hiện từ năm 2018, nhưng số lượt tải xuống trên toàn thế giới của ứng dụng này đã tăng vọt sau khi ra mắt tính năng Magic Avatars vào cuối tháng 11 vừa rồi. Ứng dụng này đã đạt 4 triệu lượt cài đặt trong 5 ngày đầu tiên của tháng 12 so với 2 triệu trong tháng 11, đứng đầu bảng xếp hạng trong các cửa hàng ứng dụng của Apple và Google. Theo báo cáo của Sensor Towers, người dùng đã chi 8,2 triệu USD cho ứng dụng này trong khoảng thời gian 5 ngày đó.

Ứng dụng dựa trên sự đăng ký và có giá 35,99 USD/năm, với khoản phụ phí từ 3 - 12 USD cho các gói hình đại diện. Lensa AI sử dụng mô hình Stability AI để huấn luyện và cho ra những tác phẩm làm người dùng hài lòng chỉ sau một vài cú nhấn. Người dùng chỉ cần tải lên 10 - 20 ảnh của chính họ, thuật toán sẽ xử lý hình ảnh để cho ra bộ ảnh chân dung theo nhiều phong cách như khoa học viễn tưởng, giả tưởng và phim hoạt hình.

Tuy nhiên công cụ này đang nhận về ngày càng nhiều những lời chỉ trích về đạo đức và quyền riêng tư của nó. Những hình ảnh được tạo ra bởi Lensa AI đã được lan truyền nhanh chóng trên mạng xã hội khi một số người dùng đăng chúng lên mạng xã hội và bắt đầu sử dụng chúng làm hình đại diện.

Theo Wired, AI với khả năng chỉnh sửa ảnh đẹp như mơ của Lensa có thể lại là khởi đầu cho một cơn ác mộng tồi tệ với cộng đồng. Nhiều người bắt đầu lạm dụng Lensa để tạo ra những bức ảnh khiêu dâm. Ứng dụng cũng khơi lại cuộc thảo luận về đạo đức nghệ thuật khi nhiều họa sĩ cáo buộc nhà phát triển ứng dụng đã đánh cắp tác phẩm của họ để huấn luyện AI.

Các hệ thống AI như vậy bị buộc tội ăn cắp phong cách, thậm chí là hình ảnh thực tế của các nghệ sĩ và sử dụng mà không được phép. Nghệ sĩ không được trả thù lao khi phong cách của họ đang được sử dụng và thậm chí có thể không biết tác phẩm nghệ thuật của họ đã được đưa vào hệ thống ngay từ đầu. Cho nên nhiều nhà phê bình đã lập luận rằng những công cụ như vậy đang lấy tiền và các giá trị từ nghệ sĩ.

Karla Ortiz, nghệ sĩ thiết kế cho những phim bom tấn như Doctor Strange, thử dùng Lensa AI và phát hiện nhiều tác phẩm nghệ thuật của mình được đưa vào kho dữ liệu mà không xin phép. Cô gọi đó là "vi phạm bản quyền" nghiêm trọng.

Prisma Labs, công ty đứng sau ứng dụng Lensa AI, đang tìm cách trấn an người dùng, từ việc giải quyết cả những mối quan tâm về đạo đức hay những gì có thể xảy ra với những hình ảnh người dùng.

Họ tuyên bố: "Ngay sau khi hình đại diện được tạo, ảnh của người dùng và mô hình được liên kết sẽ bị xóa vĩnh viễn khỏi máy chủ của chúng tôi. Và quy trình sẽ bắt đầu lại cho yêu cầu tiếp theo. Chúng tôi cũng tin rằng khả năng tiếp cận ngày càng tăng của các công cụ do AI cung cấp sẽ chỉ làm cho nghệ thuật nhân tạo với sự xuất sắc trong sáng tạo của nó trở nên có giá trị và được đánh giá cao hơn, vì bất kỳ hoạt động công nghiệp hóa nào cũng mang lại nhiều giá trị hơn cho các tác phẩm thủ công". Công ty cũng cho biết rằng AI sẽ không làm cho các nghệ sĩ trở nên vô dụng.

Tuy nhiên theo CNBC, bất kỳ ứng dụng nào thu thập dữ liệu từ điện thoại đều có thể lấy dữ liệu riêng tư khác. Trong điều khoản dịch vụ, ứng dụng mập mờ về việc truy cập hình ảnh và thông tin liên quan như địa điểm, thời gian... Điều này khiến các chuyên gia bảo mật lo ngại về quyền riêng tư và bản quyền của dữ liệu người dùng.