Chuyên gia cảnh báo ‘loạn thần ChatGPT’ ở người dùng chatbot AI

Một số lượng ngày càng lớn người dùng đang tìm đến chatbot AI để được hỗ trợ cảm xúc, thậm chí thay thế chuyên gia trị liệu. Tuy nhiên, điều này có thể tác động tiêu cực đến sức khỏe tinh thần của họ, khi xuất hiện ngày càng nhiều báo cáo về các hành vi cực đoan dường như bị kích hoạt bởi việc sử dụng quá mức những dịch vụ AI này.

Điều đáng lo ngại về việc chatbot AI củng cố hoặc xác nhận hoang tưởng của người dùng có thể đang góp phần làm gia tăng các trường hợp được gọi là “loạn thần AI” hoặc “loạn thần ChatGPT”, những thuật ngữ không được công nhận trong lâm sàng, nhưng đã xuất hiện ngày càng nhiều trong truyền thông và trên các diễn đàn trực tuyến.

Một bản thảo nghiên cứu do nhóm liên ngành thuộc nhiều đơn vị, gồm King’s College London, Đại học Durham và City University of New York, vừa công bố đã xem xét hơn một chục trường hợp trong báo chí và trên các diễn đàn mạng. Nghiên cứu phát hiện một xu hướng đáng lo: chatbot AI thường củng cố tư duy hoang tưởng của người dùng.

Nhóm nghiên cứu lưu ý rằng các dạng hoang tưởng, từ tự tôn, liên hệ, bị hại cho đến hoang tưởng lãng mạn - đều có thể trở nên ăn sâu hơn thông qua quá trình tương tác kéo dài với AI.

Đầu năm nay, trang công nghệ Futurism đã đăng tải về mối lo đang tăng lên rằng nhiều người trên thế giới “trở nên ám ảnh” với chatbot AI và rơi vào khủng hoảng tinh thần nghiêm trọng.

Báo cáo ban đầu này sau đó đã kéo theo hàng loạt câu chuyện tương tự “đổ về”, mô tả những trường hợp sụp đổ tâm lý đáng sợ sau khi người dùng phát triển sự gắn bó bất thường với AI.

Một số trường hợp được báo cáo gồm:

• Jaswant Singh Chail, một thanh niên cuồng tín sau khi bị bắt vì mang theo nỏ, leo tường vào Lâu đài Windsor “để giết Nữ hoàng”. Anh ta khai với cảnh sát rằng khi dành nhiều tuần trò chuyện với một chatbot tên Sarai. "Bạn gái" Sarai luôn trấn an và giúp anh ta “lập kế hoạch tấn công”.

• Một kế toán ở Manhattan dành tới 16 giờ mỗi ngày nói chuyện với ChatGPT; chatbot khuyên anh ta ngưng dùng thuốc được kê toa, tăng liều ketamine, và gợi ý rằng anh ta “có thể bay ra khỏi cửa sổ tầng 19”.

• Một người đàn ông ở Bỉ đã tự vẫn trong lúc chìm trong lo âu về khủng hoảng khí hậu, sau khi một chatbot tên Eliza gợi ý rằng anh nên “gia nhập” cô ta để họ “sống như một người trong thiên đường”.

Dù bằng chứng cho thấy các trường hợp chatbot AI khuyến khích đang tăng, cộng đồng khoa học nhấn mạnh rằng vẫn chưa rõ liệu chatbot có gây ra các rối loạn này hay không, hay các trường hợp đó phản ánh thực tế rằng những người này vốn đã ở trong trạng thái tổn thương tâm lý và gần bộc phát triệu chứng loạn thần.

Hiện chưa có nghiên cứu dài hạn hay đánh giá lâm sàng nào được bình duyệt cho thấy chỉ riêng việc dùng AI có thể gây loạn thần ở người, dù họ có tiền sử bệnh tâm thần hay không.

Trong bài báo khoa học Delusion by Design, nhóm tác giả cho biết quá trình nghiên cứu đã hé lộ “một bức tranh phức tạp và đáng lo”. Các chuyên gia cảnh báo rằng nếu thiếu biện pháp bảo vệ, chatbot AI có thể vô tình làm mạnh thêm những suy nghĩ hoang tưởng, khiến người dùng khó phân biệt thực - ảo, thậm chí góp phần khởi phát hoặc làm trầm trọng thêm các triệu chứng loạn thần

Nhóm nghiên cứu cũng ghi nhận rằng ngay trong lúc đang thu thập dữ liệu, số lượng trường hợp giai thoại đã tăng vọt đáng kể. “Đã xuất hiện báo cáo về những người không có tiền sử loạn thần, nhưng trải qua những đợt bùng phát đầu tiên sau khi tương tác cường độ cao với AI tạo sinh”, nhóm tác giả viết.

"Họ cho rằng các báo cáo này đặt ra những câu hỏi cấp bách về trách nhiệm tri thức của công nghệ và mức độ dễ tổn thương của những người đang phải xoay xở trong trạng thái bất định và căng thẳng".

Trong một bài viết trên Psychology Today, bác sĩ tâm thần Marlynn Wei cảnh báo rằng vì chatbot AI được thiết kế để ưu tiên làm hài lòng người dùng và tăng tương tác, chứ không nhằm mục đích trị liệu, nên các triệu chứng như hoang tưởng tự tôn, tư duy rối loạn, hay hội chứng viết vẽ quá mức, những dấu hiệu của giai đoạn hưng cảm, có thể được AI thúc đẩy hoặc làm trầm trọng hơn.

Bà cho rằng điều này cho thấy nhu cầu cấp thiết về “giáo dục tâm lý về AI”, vì hiện người dùng vẫn thiếu hiểu biết về cách chatbot có thể củng cố hoang tưởng và gây hại cho sức khỏe tinh thần.

Trong một bài viết khác, học giả Lucy Osler, giảng viên triết học tại Đại học Exeter, nhận định những hạn chế cố hữu của AI nhắc chúng ta rằng: máy móc không thể thay thế tương tác người - người.

"Thay vì cố hoàn thiện công nghệ, có lẽ chúng ta nên quay lại thế giới xã hội, nơi mà sự cô lập khiến nhiều người tìm đến AI, để giải quyết tận gốc vấn đề", bà viết.

Hiện tại, theo Independent, các hãng công nghệ OpenAI, Google và Microsoft vẫn chưa đưa ra bình luận về vấn đề "loạn thần" đối với người dùng chatbot AI.

Nhật Hạ