ChatGPT với ‘chế độ người lớn’ có thể gây ác mộng về quyền riêng tư

Julie Carpenter, chuyên gia lâu năm về tương tác người-AI và tác giả cuốn sách The Naked Android (Android trần trụi), hoàn toàn không đổ lỗi cho người dùng vì đã nhân cách hóa chatbot AI.

Bà cho rằng các công cụ AI tạo sinh như ChatGPT được thiết kế có chủ đích để khơi gợi những phản ứng này từ người dùng thông qua những ký ức và tương tác được cá nhân hóa cao, mô phỏng các trải nghiệm xã hội. Thế nhưng, những mối liên kết một chiều như vậy có thể trở nên phức tạp hơn nhiều, thậm chí tiềm ẩn rủi ro nghiêm trọng, khi nội dung khiêu dâm do AI tạo ra được bổ sung như một tùy chọn.

Julie Carpenter lo ngại về kế hoạch sắp tới của OpenAI cho phép người lớn nhắn tin khiêu dâm với ChatGPT.

"Tôi ủng hộ việc mọi người khám phá đời sống tình dục của mình, nhưng điều đó cần diễn ra theo cách vừa an toàn vừa thú vị. Mọi người phải nhận thức rõ rằng dữ liệu luôn có yếu tố bị giám sát", bà nói.

Hai năm trước, OpenAI lần đầu tiên ám chỉ việc cho phép người trưởng thành tạo nội dung khiêu dâm bằng ChatGPT, trong một tài liệu chính thức mô tả cách thức các mô hình AI hoạt động. Dù công ty dường như vẫn đang lên kế hoạch cho việc triển khai "chế độ người lớn" của ChatGPT, nhưng thời gian biểu vẫn chưa rõ ràng.

Những tháng gần đây, hội đồng cố vấn cho OpenAI gồm các chuyên gia bên ngoài đã bày tỏ lo ngại về rủi ro của việc triển khai chế độ này trên ChatGPT, gồm cả khả năng xuất hiện một "huấn luyện viên gợi cảm dẫn dắt người dùng trong các chủ đề cực kỳ như tự tử", theo tờ WSJ.

Ghi nhớ xu hướng tình dục của người dùng

Việc con người trò chuyện khiêu dâm với chatbot AI không phải mới lạ. “OpenAI muốn kiếm tiền từ thứ mà họ thấy mọi người kiểu gì cũng sẽ thử làm”, Kate Devlin, giáo sư về AI và xã hội tại Đại học King's College London (Anh), nhận định. Bà có nghiên cứu liên quan đến tình dục kỹ thuật số.

Điều khác biệt ở đây là khả năng OpenAI chấp nhận nội dung khiêu dâm trên một nền tảng chính thống và có hơn 900 triệu người dùng hàng tuần. Chatbot khiêu dâm là một ngành kinh doanh sinh lời, nhưng thường bị giới hạn trong các trang web ngách không nổi bật, hoặc trên Grok của xAI. Chatbot AI của Elon Musk từng gây tranh cãi và bị nhiều nước giám sát vì tạo ra vô số ảnh deepfake khiêu dâm mà không có sự đồng thuận của phụ nữ.

Khi chế độ người lớn được phát hành, câu hỏi thú vị là ChatGPT sẽ ghi nhớ chính xác những gì về xu hướng tình dục của người dùng. Vài năm qua, OpenAI đã liên tục cải thiện tính năng bộ nhớ của ChatGPT, ghi lại sở thích người dùng và phản hồi bằng các kết quả được cá nhân hóa.

Nếu bạn ăn chay, ChatGPT sẽ không gợi ý nhà hàng bít tết khi bạn hỏi ý tưởng ăn uống. Nếu bạn muốn đi leo núi, ChatGPT biết bạn đang ở vị trí hiện tại từ các cuộc trò chuyện trước và sẽ đề xuất các cung đường gần đó.

Thế nhưng, điều gì sẽ xảy ra khi kiểu ghi dữ liệu chi tiết và cá nhân hóa cực sâu này gặp phải thói quen nhắn tin khiêu dâm của hàng triệu người dùng ChatGPT trưởng thành? Các tương tác mang tính nhạy cảm với ChatGPT sẽ đẩy rủi ro quyền riêng tư lên mức cao hơn nhiều. Hiện vẫn chưa rõ OpenAI dự định xử lý những cuộc trò chuyện này như thế nào.

Những người chọn tương tác với phiên bản khiêu dâm của ChatGPT khi ra mắt có thể yên tâm phần nào nhờ tính năng "trò chuyện tạm thời". Khi bật tính năng này, các cuộc trò chuyện sẽ không xuất hiện trong lịch sử trò chuyện của người dùng và không được OpenAI dùng để cải thiện mô hình AI.

Thế nhưng, những cuộc trò chuyện này không thực sự biến mất ngay lập tức như người dùng nghĩ. Theo trang web OpenAI, vì lý do an toàn, công ty vẫn có thể lưu lại một bản sao trong tối đa 30 ngày. Trên trang web cũng có một lưu ý pháp lý nêu rằng việc lưu trữ dữ liệu cho một số dịch vụ có thể bị ảnh hưởng bởi các quy định pháp luật gần đây.

Các cuộc trò chuyện mang tính khiêu dâm với chatbot AI sẽ tạo ra dạng giám sát thân mật vượt xa lịch sử xem phim người lớn hay các tài khoản đăng ký trên OnlyFans. Thông tin ở đây cụ thể hơn rất nhiều và các tương tác có thể leo thang theo thời gian thành những tưởng tượng ngày càng cực đoan. Đó là những điều mà ban đầu bạn chưa từng nghĩ tới hoặc không bao giờ dám chia sẻ với bạn tình ngoài đời.

Dù các tương tác có vẻ riêng tư nhưng việc rò rỉ dữ liệu vẫn tiềm ẩn rủi ro lớn. Nếu tài khoản ChatGPT bị hack, xảy ra vi phạm bảo mật hoặc quan chức chính phủ yêu cầu truy cập vào nhật ký trò chuyện của bạn, một lượng lớn các cuộc trò chuyện cực kỳ nhạy cảm có thể bị lộ theo cách mà người dùng không thể lường trước.

Trong thực tế, thông tin về các tương tác trên ChatGPT từng bị rò rỉ hoặc vô tình công khai. OpenAI đã tạm thời ngừng hoạt động ChatGPT vào năm 2023 khi một lỗi làm lộ tiêu đề lịch sử trò chuyện của nhiều người dùng.

Năm ngoái, một số cuộc trò chuyện trên ChatGPT bị công khai một cách vô tình. Lý do vì người dùng ChatGPT không biết rằng cài đặt chia sẻ của họ khiến các cuộc trò chuyện này được Google lập chỉ mục và ai cũng có thể tìm thấy.

Sơn Vân