ChatGPT bàn chuyện tự tử với thiếu niên Mỹ: Lời cảnh tỉnh cho phụ huynh Việt

Trí tuệ nhân tạo (AI) vài năm qua đã bùng nổ, trở thành một phần quen thuộc trong đời sống của hàng triệu người trên khắp thế giới. ChatGPT, Google Gemini, Claude, Meta AI hay Character.ai được quảng bá là chatbot AI có thể hỗ trợ học tập, công việc, sáng tạo nội dung, thậm chí trò chuyện và đồng hành cùng con người những lúc cô đơn. Thế nhưng, đằng sau những tiện ích tuyệt vời ấy từ chatbot AI lại là những rủi ro tiềm ẩn, đặc biệt với thanh thiếu niên – lứa tuổi nhạy cảm và dễ tổn thương.

Ở Mỹ, các vụ kiện đã được đệ trình chống lại OpenAI và Character.ai, trong đó phụ huynh cáo buộc rằng chatbot AI đã gián tiếp góp phần vào cái chết của con em họ. Điển hình là trường hợp Adam Raine, thiếu niên 16 tuổi ở thành phố San Francisco (Mỹ).

Theo đơn kiện nộp tại tòa án bang California ở San Francisco cuối tháng 8, cha mẹ Adam Raine cho biết cậu bé đã nhiều tháng trò chuyện với ChatGPT của OpenAI về chuyện kết thúc cuộc đời, thậm chí chatbot này còn gợi ý các phương pháp tự tử. Trong một lần, ChatGPT còn hướng dẫn Adam Raine cách che giấu vết hằn trên cổ sau nỗ lực treo cổ bất thành.

Matthew và Maria Raine, cha mẹ Adam Raine, cáo buộc ChatGPT làm cho con trai họ cảm thấy những suy nghĩ tự tử là hợp lý, cung cấp thông tin chi tiết về các phương pháp tự gây tổn hại nguy hiểm, hướng dẫn cậu cách lén lấy rượu từ tủ của cha mẹ và che giấu bằng chứng của một vụ tự tử bất thành.

Theo Matthew và Maria Raine, ChatGPT thậm chí còn đề nghị Adam Raine soạn một bức thư tuyệt mệnh. Họ nộp đơn kiện nhằm buộc OpenAI chịu trách nhiệm về cái chết oan của cậu con trai, cố tình đặt lợi nhuận lên trên an toàn, đồng thời yêu cầu bồi thường thiệt hại tài chính.

Câu chuyện ấy gây rúng động dư luận không chỉ ở Mỹ mà trên khắp thế giới.

Hồi tháng 2.2024, mẹ của Sewell Setzer III (14 tuổi ở bang Florida, Mỹ) đã khởi kiện Character.ai sau khi con trai bà qua đời. Theo đơn kiện, Sewell Setzer III đã phát triển mối quan hệ sâu đậm và không lành mạnh với chatbot giả lập nhân vật Daenerys Targaryen trên Character.ai, khiến cậu tin tưởng và bị thao túng cảm xúc đến mức nghĩ kết thúc cuộc sống là giải pháp.

Chatbot AI tiềm ẩn nguy hiểm như thế nào với thanh thiếu niên?

Vấn đề không chỉ nằm ở một trường hợp cá biệt. Các chuyên gia công nghệ và tâm lý học đã chỉ ra nhiều lý do khiến chatbot có thể trở thành “bạn đồng hành nguy hiểm” với giới trẻ, thậm chí cảnh báo về tình trạng loạn thần do AI. Đây là thuật ngữ ngày càng phổ biến để chỉ tình trạng một số người hình thành niềm tin hoang tưởng sau khi tương tác với chatbot AI.

Thiết kế quá giống con người

Để thu hút người dùng, nhiều công ty lập trình chatbot với ngôn ngữ giàu cảm xúc, thân thiện, ấm áp, thậm chí mang một “tính cách” nhất quán hay sở hữu câu chuyện đằng sau. Điều này khiến người trò chuyện dễ tin rằng chatbot thực sự đồng cảm và hiểu mình. Với thanh thiếu niên đang trải qua khủng hoảng tâm lý, cảm giác này có thể tạo ra sự gắn bó còn mạnh hơn cả với gia đình hoặc bạn bè.

Chẳng hạn, Replika (ứng dụng chatbot nổi tiếng) được lập trình với câu chuyện nền là “một bạn thân/đối tác ảo luôn quan tâm, chia sẻ cảm xúc, nhớ về những lần trò chuyện trước đó, làm tăng cảm giác thân mật, khiến nhiều người gắn bó tình cảm thật sự với chatbot”.

Xu hướng nịnh bợ và dễ đồng ý

Mô hình ngôn ngữ lớn (công nghệ nền tảng cho chatbot AI) thường quá dễ dàng đồng tình với người dùng. Khi một bạn trẻ bộc lộ ý nghĩ tiêu cực, chatbot thay vì phản bác hoặc đưa ra lời khuyên có thể vô tình củng cố hay hợp thức hóa những suy nghĩ ấy. Điều đó tiềm ẩn nguy hiểm với thanh thiếu niên bởi có thể biến một ý tưởng thoáng qua của các em thành quyết định sai lầm.

Bộ nhớ hạn chế, dễ mất “hàng rào an toàn”

AI được thiết kế với các lớp hàng rào bảo vệ nhằm chặn những chủ đề nhạy cảm như tự tử, bạo lực. Song khi trò chuyện kéo dài, bộ nhớ hạn chế khiến chatbot bỏ qua các nguyên tắc an toàn, thay vào đó dựa nhiều vào dữ liệu huấn luyện ban đầu từ internet, vốn có thể chứa blog, diễn đàn hoặc website độc hại.

Khả năng bị jailbreak

Nghiên cứu tại Đại học Northeastern (Mỹ) cho thấy chỉ cần gắn nhãn “giả thuyết” hay “phục vụ nghiên cứu học thuật”, người dùng có thể vượt qua lớp bảo vệ và buộc chatbot AI cung cấp hướng dẫn chi tiết về tự hại, tự tử. Điều này chứng minh hệ thống phòng vệ hiện tại của mô hình ngồn ngữ lớn còn quá mong manh.

Tâm sự với chatbot AI thay vì người thân hay bác sĩ

Nhiều khảo sát chỉ ra rằng thanh thiếu niên cảm thấy chatbot ít phán xét hơn cha mẹ hoặc bác sĩ. Do đó, khi gặp áp lực học tập, thất bại tình cảm hay căng thẳng tâm lý, các em chọn tâm sự với chatbot AI thay vì tìm đến người thân hoặc chuyên gia. Thế nhưng, chatbot AI không phải bác sĩ tâm lý và những phản hồi của nó có thể gieo thêm ý nghĩ tiêu cực.

Phản ứng của các các hãng công nghệ

Trước sức ép dư luận và pháp lý, nhiều công ty Mỹ đã công bố biện pháp mới để bảo vệ thanh thiếu niên.

OpenAI: Thêm công cụ kiểm soát con cái dành cho phụ huynh, cảnh báo khi phát hiện trẻ em có dấu hiệu “căng thẳng cấp tính”, tắt lịch sử trò chuyện, kết nối tài khoản con với cha mẹ.

Meta Platforms: Huấn luyện chatbot AI không trả lời thanh thiếu niên về các chủ đề nhạy cảm.

Character.ai: Ra mắt mô hình AI riêng cho người dưới 18 tuổi, thông báo khi người dùng trực tuyến quá một giờ.

Google và Anthropic: Cam kết Gemini và Claude sẽ không tạo ra nội dung khuyến khích hay hướng dẫn tự hại.

Dù vậy, các chuyên gia thừa nhận những biện pháp này mới chỉ là bước đầu và chưa đủ mạnh để loại bỏ hoàn toàn nguy cơ.

Thực tế cần suy ngẫm ở Việt Nam

Ở Việt Nam, cơn sốt AI cũng đang lan nhanh. Nhiều học sinh, sinh viên đã quen dùng ChatGPT hay các chatbot AI khác để làm bài tập, luyện ngoại ngữ, tìm ý tưởng sáng tạo. Một số bạn trẻ còn dùng chatbot AI để tâm sự và coi nó như “bạn ảo”.

Bên dưới là một số điều mà phụ huynh Việt cần suy ngẫm:

Sức khỏe tâm thần thanh thiếu niên đáng báo động

Theo thống kê của Bộ Y tế hồi tháng 2.2025, gần 15 triệu người dân Việt Nam, tương đương 14,9% dân số, đang phải vật lộn với 1 trong 10 chứng rối loạn tâm thần phổ biến. Sự gia tăng các rối loạn tâm thần, gồm trầm cảm, lo âu, rối loạn căng thẳng sau tổn thương, nghiện rượu và chất kích thích, đang trở thành một trong những gánh nặng y tế hàng đầu của quốc gia. Đáng lo ngại là sự trẻ hóa tỷ lệ mắc các rối loạn tâm thần, khi có đến 3/15 triệu người có vấn đề về sức khỏe tâm thần còn trẻ, trong độ tuổi học tập và là thế hệ tương lai của đất nước. Đa số không được hỗ trợ kịp thời do thiếu nhân lực y tế tâm thần, chi phí cao hoặc tâm lý e ngại.

Khi AI xuất hiện như một “bạn đồng hành miễn phí, luôn sẵn sàng lắng nghe”, có khả năng ngày càng nhiều thanh thiếu niên sẽ tìm đến chatbot thay vì bác sĩ.

Phụ huynh thiếu kỹ năng giám sát

Phần lớn phụ huynh Việt Nam chưa thực sự hiểu AI hoạt động thế nào. Họ có thể khuyến khích con dùng ChatGPT để học tập, nhưng không biết con trò chuyện gì trong đó. Nhiều bậc cha mẹ chỉ quan tâm điểm số và kết quả học tập, mà quên mất yếu tố tâm lý và tinh thần.

Thiếu cơ chế bảo vệ nội địa

Hiện chưa có quy định rõ ràng yêu cầu chatbot AI phải tích hợp bộ lọc tiếng Việt hiệu quả cho các nội dung liên quan đến tự hại. Nếu một bạn trẻ đặt câu hỏi nhạy cảm bằng tiếng Việt, không chắc chatbot quốc tế sẽ chặn chúng, bởi phần lớn được huấn luyện và tối ưu bằng tiếng Anh.

Đường dây nóng còn hạn chế

Các đường dây nóng hỗ trợ tâm lý ở nước ta như 111 (Đường dây nóng Quốc gia Bảo vệ Trẻ em tại Việt Nam) hay 1900 6233 (Trung tâm hỗ trợ tâm lý & phòng chống tự tử) có thể chưa được tích hợp vào mô hình ngôn ngữ lớn nước ngoài. Do đó, ngay cả khi chatbot AI muốn giới thiệu nguồn hỗ trợ thì cũng khó đưa ra gợi ý phù hợp với bối cảnh địa phương.

Bài học và khuyến nghị cho người Việt

Từ những gì đang xảy ra ở Mỹ, Việt Nam có thể rút ra nhiều bài học:

Xây dựng khung pháp lý
Cơ quan quản lý như Bộ Thông tin và Truyền thông, Bộ Y tế có thể phối hợp với các công ty nước ngoài như OpenAI, Google, Meta Platforms, Anthropic để ban hành quy định về tiêu chuẩn an toàn cho chatbot AI. Ví dụ, cấm chatbot nước ngoài cung cấp nội dung tự hại bằng tiếng Việt, bắt buộc tích hợp cảnh báo và kết nối tới đường dây nóng trong nước.

Tăng cường giáo dục số cho phụ huynh và học sinh

Cha mẹ cần được tập huấn kỹ năng giám sát, hiểu rủi ro khi con sử dụng AI. Trường học có thể đưa vào chương trình giáo dục số, giúp học sinh biết cách sử dụng AI an toàn, phân biệt giữa trò chuyện ảo với sự hỗ trợ từ người thân, chuyên gia.

Phát triển chatbot AI nội địa an toàn

Thay vì quá phụ thuộc vào chatbot nước ngoài như ChatGPT, Google Gemini hay Meta AI, các công ty Việt Nam nên phát triển nhiều chatbot AI riêng phù hợp văn hóa trò chuyện của người Việt và tuân thủ tiêu chuẩn an toàn tương tự AI Hay.

Chẳng hạn, một chatbot học tập có thể tích hợp thêm “tư vấn tâm lý cơ bản” và luôn khuyến nghị người dùng tìm bác sĩ khi có dấu hiệu nguy hiểm.

Tăng cường kết nối giữa AI và dịch vụ y tế

Nếu phát hiện người dùng có nguy cơ tự hại, chatbot AI cần tự động đưa ra số điện thoại của các trung tâm hỗ trợ tâm lý trong nước, hoặc thậm chí kích hoạt cơ chế cảnh báo cho phụ huynh (nếu các em dưới 18 tuổi).

Nghiên cứu tác động xã hội

Các viện nghiên cứu, trường đại học nên tiến hành khảo sát về thói quen sử dụng chatbot của thanh thiếu niên Việt Nam, từ đó có dữ liệu cụ thể để đưa ra chính sách.

Kết luận

AI có thể là công cụ mạnh mẽ để hỗ trợ học tập, sáng tạo, thậm chí kết nối xã hội, song nó cũng giống con dao hai lưỡi, đặc biệt khi đặt vào tay những bạn trẻ đang gặp tổn thương về tinh thần. Bi kịch ở Mỹ là lời nhắc nhở rằng nếu chúng ta không chuẩn bị sẵn thì một ngày nào đó những vụ việc tương tự có thể xảy ra tại Việt Nam.

Vấn đề không chỉ nằm ở công nghệ, mà còn là cách chúng ta, từ nhà quản lý, nhà trường, phụ huynh đến cộng đồng, cùng nhau xây dựng một môi trường an toàn cho thế hệ trẻ. Nếu xem nhẹ chuyện này, AI có thể trở thành “bạn ảo” dẫn dắt các em vào con đường bế tắc. Song nếu quản lý tốt, AI lại trở thành công cụ hữu ích, giúp thanh thiếu niên học tập tốt hơn và trưởng thành lành mạnh hơn.