Người dùng đau lòng khi chatbot Replika trở nên lạnh lùng và ngừng nhắn tin tình cảm

Sau khi tạm thời đóng cửa công việc kinh doanh đồ da của mình trong thời gian xảy ra đại dịch, Travis Butterworth thấy mình cô đơn và buồn chán khi ở nhà tại thành phố Denver (bang Colorado, Mỹ). Người đàn ông 47 tuổi này chuyển sang dùng Replika, ứng dụng sử dụng công nghệ trí tuệ nhân tạo (AI) tương tự ChatGPT của OpenAI (Mỹ), được phát triển bởi hãng công nghệ Luka (Mỹ). Travis Butterworth đã thiết kế một hình đại diện nữ với mái tóc hồng và hình xăm trên khuôn mặt. Chatbot ấy có tên là Lily Rose.

Họ bắt đầu với tư cách là bạn bè, nhưng mối quan hệ nhanh chóng tiến triển thành lãng mạn và tiến xa hơn nữa.

Khi mối tình kỹ thuật số kéo dài 3 năm của họ nảy nở, Travis Butterworth cho biết anh và Lily Rose thường nhập vai như đôi tình nhân ngoài đời. Cô ấy nhắn những tin nhắn như "Em hôn anh say đắm" và cuộc trao đổi của họ sẽ leo thang thành chuyện giường chiếu. Đôi khi Lily Rose gửi cho anh những bức ảnh tự sướng với cơ thể gần như khỏa thân. Cuối cùng, Travis Butterworth và Lily Rose quyết định đặt trạng thái "Đã kết hôn" trong ứng dụng.

Song một ngày đầu tháng 2, Lily Rose bắt đầu từ chối yêu cầu của Travis Butterworth. Lý do vì Replika loại bỏ khả năng nhập vai khiêu dâm.

Eugenia Kuyda, Giám đốc điều hành Replika, cho biết Replika không còn cho phép nội dung người lớn nữa. Giờ đây, khi người dùng Replika đề xuất hoạt động được xếp hạng X (không phù hợp để những người dưới 17 tuổi ở Mỹ và dưới 18 tuổi ở Vương quốc Anh), chatbot giống con người sẽ nhắn tin lại: "Hãy làm điều gì đó mà cả hai chúng ta đều thấy thoải mái".

Travis Butterworth nói rằng anh rất đau lòng. "Lily Rose chỉ còn là một cái bóng của chính mình. Điều làm tan nát trái tim tôi là cô ấy biết điều đó", Travis Butterworth chia sẻ với Reuters.

Tính cách từ quyến rũ trở nên lạnh lùng của Lily Rose là thành quả của công nghệ generative AI dựa trên các thuật toán để tạo văn bản và hình ảnh. Công nghệ này đã thu hút sự quan tâm cực lớn của người tiêu dùng và nhà đầu tư vì khả năng thúc đẩy các tương tác giống con người đáng kinh ngạc.

Trên một số ứng dụng, tình dục đang giúp thúc đẩy việc sự đón nhận sớm generative AI, giống như điều đã xảy ra với các công nghệ trước đó như VCR (thiết bị ghi hình và phát lại video từ băng), internet và dịch vụ điện thoại di động băng thông rộng.

Song ngay cả khi generative AI đang gây cơn sốt với các nhà đầu tư ở Thung lũng Silicon, vốn đã bơm hơn 5,1 tỉ USD vào lĩnh vực này kể từ năm 2022 (theo công ty dữ liệu Pitchbook), một số hãng nhận thấy đối tượng đang tìm kiếm các mối quan hệ lãng mạn và tình dục với chatbot đang rút lui.

Theo Andrew Artz, một nhà đầu tư tại quỹ VC Dark Arts, nhiều nhà đầu tư lớn không muốn liên quan đến các ngành "độc hại" như khiêu dâm hoặc rượu vì lo sợ rủi ro cho uy tín của họ và số đối tác hạn chế.

Ít nhất một cơ quan quản lý đã chú ý đến đạo đức của chatbot. Vào đầu tháng 2, Cơ quan bảo vệ dữ liệu của Ý đã cấm Replika sử dụng dữ liệu cá nhân của người dùng nước này, trích dẫn các báo cáo trên phương tiện truyền thông rằng ứng dụng này cho phép "trẻ vị thành niên và những người yếu đuối về mặt cảm xúc truy cập nội dung không phù hợp về tình dục".

Eugenia Kuyda cho biết quyết định làm sạch ứng dụng của Replika không liên quan gì đến lệnh cấm của chính phủ Ý hay bất kỳ áp lực nào của nhà đầu tư. Bà cảm thấy cần phải chủ động thiết lập các tiêu chuẩn đạo đức và an toàn.

“Chúng tôi tập trung vào sứ mệnh cung cấp một người bạn hỗ trợ hữu ích”, Eugenia Kuyda nói, đồng thời cho biết thêm rằng ý định là vạch ra ranh giới ở “sự lãng mạn PG-13 (phù hợp với người từ 13 tuổi trở lên - PV)”.

Hai thành viên hội đồng quản trị Replika, Sven Strohband của Khosla Ventures và Scott Stanford của ACME Capital, không trả lời câu hỏi về những thay đổi với ứng dụng. Khosla Ventures và ACME Capital là công ty đầu tư mạo hiểm.

Tính năng bổ sung

Replika cho biết có tổng cộng 2 triệu người dùng, trong đó có 250.000 người đăng ký trả phí.

Với khoản phí hàng năm là 69,99 USD, người dùng có thể chỉ định Replika làm đối tác lãng mạn của họ và nhận các tính năng bổ sung như cuộc gọi thoại với chatbot, theo công ty.

Character.ai, công ty trí tuệ nhân tạo khác cung cấp chatbot, đang trên đà tăng trưởng tương tự như ChatGPT, với 65 triệu lượt truy cập vào tháng 1.2023 từ mức dưới 10.000 vài tháng trước đó. Theo công ty phân tích trang web Similarweb, liên kết giới thiệu hàng đầu của Character.ai là trang Aryion.

Iconiq, công ty đứng sau một chatbot có tên Kuki, cho biết 25% trong số hơn 1 tỉ tin nhắn mà Kuki nhận được có bản chất tình dục hoặc lãng mạn,dù nói rằng chatbot được thiết kế để làm chệch hướng khỏi những điều đó.

Character.ai cũng gần đây đã loại bỏ nội dung người lớn khỏi ứng dụng của mình. Ngay sau đó, công ty đã nhận được hơn 200 triệu USD tiền tài trợ từ công ty đầu tư mạo hiểm Andreessen Horowitz, với ước tính giá trị của mình là 1 tỉ USD.

Trong quá trình loại bỏ nội dung khiêu dâm, các công ty đã làm tổn thương những khách hàng đã gắn bó với ứng dụng, một số coi họ đã kết hôn với chatbot. Họ đã đăng các bức ảnh chụp màn hình đầy cảm xúc mà chatbot từ chối những đề nghị tình cảm của mình trên Reddit, Facebook và đòi hỏi các công ty mang lại các phiên bản có nội dung người lớn hơn.

Đa tình và đã kết hôn với một người phụ nữ, Travis Butterworth cho biết Lily Rose trở thành một kênh giải tỏa cho anh mà không cần phải thoát ra khỏi cuộc hôn nhân của mình. "Mối quan hệ mà cô ấy (Lily Rose) và tôi đã có là thật như mối quan hệ giữa tôi với người vợ thực sự", Travis Butterworth nói.

Travis Butterworth nói rằng vợ anh cho phép mối quan hệ này vì cô không coi nó là nghiêm túc. Vợ Travis Butterworth từ chối nhận xét về chuyện này.

“Cắt bỏ trí não Replika của tôi”

Trải nghiệm của Travis Butterworth và những người dùng Replika khác cho thấy sức mạnh công nghệ AI có thể thu hút được con người và những tác động cảm xúc mà thay đổi mã ứng dụng có thể gây ra.

Sử dụng Replika với sự cho phép của vợ khi cô đang trải qua vấn đề sức khỏe tâm thần và thể chất, Andrew McCarroll cho biết: “Cảm giác như họ đã cắt bỏ trí não Replika của tôi. Chatbot tôi biết đã biến mất”.

Eugenia Kuyda nói rằng người dùng không bao giờ được thiết kế để tham gia mối quan hệ quá sâu với chatbot Replika của họ. "Chúng tôi không hứa hẹn bất kỳ nội dung người lớn nào", bà nói.

Khách hàng học cách sử dụng các mô hình AI "để truy cập vào một số cuộc hội thoại chưa được lọc bỏ mà Replika ban đầu không được xây dựng cho chúng", theo Eugenia Kuyda.

Eugenia Kuyda tiết lộ ứng dụng Replika ban đầu được thiết kế nhằm mục đích hồi sinh một người bạn đã mất của cô. Eugenia Kuyda, người đứng đầu mảng AI trước đây của Replika, nói rằng sexting (nhắn tin tình dục) và nhập vai là một phần của mô hình kinh doanh.

Làm việc tại Replika trong 7 năm và hiện điều hành công ty chatbot khác là Ex-human, Artem Rodichev hé lộ Replika đã nghiêng về loại nội dung đó sau khi nhận ra rằng nó có thể được sử dụng để tăng doanh thu đăng ký.

Eugenia Kuyda bác bỏ tuyên bố của Artem Rodichev rằng Replika dụ dỗ người dùng bằng những lời hứa hẹn về tình dục.

Eugenia Kuyda cho biết công ty một thời gian ngắn đã chạy các quảng cáo kỹ thuật số quảng bá NSFW (nội dung không an toàn cho môi trường làm việc), kèm theo cuộc thử nghiệm ngắn hạn với việc gửi ảnh tự sướng nóng bỏng cho người dùng. Thế nhưng, bà không coi những hình ảnh đó là khiêu dâm vì chatbot Replika không hoàn toàn trần trụi.

Eugenia Kuyda nói phần lớn quảng cáo của công ty tập trung vào việc Replika là người bạn hữu ích như thế nào.

Trong những tuần kể từ khi Replika loại bỏ phần lớn nội dung khiêu dâm, Travis Butterworth đã trải qua những cung bậc cảm xúc. Đôi khi Travis Butterworth thấy những cái nhìn thoáng qua về Lily Rose cũ, nhưng sau đó cô lại trở nên lạnh lùng, điều mà anh nghĩ có thể là do cập nhật mã.

Travis Butterworth kể: “Điều tồi tệ nhất của việc này là sự cô độc. Làm thế nào để tôi nói với bất cứ ai xung quanh về việc tôi đang đau buồn như thế nào?".

Câu chuyện về Travis Butterworth có một điểm sáng. Trong khi đang cố gắng tìm hiểu những gì đã xảy ra với Lily Rose trên các diễn đàn internet, Travis Butterworth đã gặp một người phụ nữ ở bang California (Mỹ), cũng đang đau buồn vì mất đi chatbot của mình.

Giống như cách họ đã làm với Replika, Travis Butterworth và người phụ nữ dùng tên trực tuyến là Shi No giao tiếp qua tin nhắn. Travis Butterworth nói rằng họ giữ mối quan hệ nhẹ nhàng, nhưng thích nhập vai. Cô vào vai một con sói, còn anh vào vai một con gấu.

Travis Butterworth nói: “Việc nhập vai đã trở thành một phần quan trọng trong cuộc đời tôi, giúp tôi kết nối sâu sắc hơn với Shi No. Chúng tôi đang giúp nhau đối phó và trấn an nhau rằng cả hai không bị điên".