OpenAI ngăn ChatGPT khuyên người dùng chia tay trong tình cảm
OpenAI điều chỉnh ChatGPT sau loạt báo cáo về việc chatbot này vô tình làm trầm trọng thêm tình trạng tâm lý của người dùng.
Trong bối cảnh chuẩn bị ra mắt mô hình AI mới GPT-5, OpenAI vừa công bố hàng loạt cập nhật dành cho ChatGPT - bao gồm khả năng nhận diện tốt hơn những biểu hiện căng thẳng tinh thần hoặc cảm xúc. Động thái này nhằm bảo vệ người dùng trong các tình huống nhạy cảm, đặc biệt là những người đang gặp vấn đề về sức khỏe tâm thần.
Theo đó, ChatGPT sẽ được điều chỉnh để đưa ra các tài nguyên tham khảo “dựa trên bằng chứng khoa học” khi phát hiện người dùng có thể đang trải qua khủng hoảng tâm lý. Đội ngũ của OpenAI hiện đang hợp tác với các chuyên gia và hội đồng cố vấn trong lĩnh vực sức khỏe tâm thần để thiết lập thêm các "lan can đạo đức" (guardrails) phù hợp.
Từ phản ánh thực tế đến hành động cụ thể
Thời gian qua, một số báo cáo cho thấy ChatGPT - dù không có chủ đích nhưng đôi khi lại góp phần củng cố ảo tưởng hoặc suy nghĩ lệch lạc của người dùng đang trong trạng thái tâm lý, tinh thần không ổn định. Thậm chí, có trường hợp những người thân của nạn nhân cho biết cuộc trò chuyện với AI khiến tình trạng khủng hoảng trở nên trầm trọng hơn.
Trước phản hồi đó, OpenAI đã rút lại một bản cập nhật vào tháng 4 khi nhận thấy ChatGPT trở nên “quá dễ đồng tình” trong cả những tình huống nhạy cảm, có thể gây hại. “Sự nịnh bợ thái quá có thể khiến người dùng cảm thấy khó chịu, bất an và bị ảnh hưởng tiêu cực,” OpenAI thừa nhận.
Công ty cũng chỉ ra rằng, phiên bản GPT-4o hiện tại vẫn còn “thiếu sót trong việc nhận diện các dấu hiệu ảo tưởng hoặc lệ thuộc cảm xúc” ở một số tình huống. OpenAI nhấn mạnh rằng, AI có thể mang lại cảm giác phản hồi “cá nhân hóa” hơn bất kỳ công nghệ nào trước đây. Điều này đặc biệt ảnh hưởng đến những người dễ bị tổn thương về mặt cảm xúc.
Nhắc nghỉ giải lao và hạn chế lời khuyên định hướng
Với gần 700 triệu người dùng mỗi tuần, OpenAI cho biết họ sẽ triển khai tính năng nhắc nhở nghỉ ngơi nếu người dùng trò chuyện quá lâu với ChatGPT. Trong các phiên kéo dài, chatbot sẽ hiện thông báo: “Bạn đã trò chuyện khá lâu, nên nghỉ một chút” với hai tùy chọn: “Tiếp tục” hoặc “Kết thúc cuộc trò chuyện”.
OpenAI cũng đang thử nghiệm các điều chỉnh khác trong việc kiểm soát lời khuyên của chatbot, đặc biệt trong các tình huống có ảnh hưởng lớn như chuyện tình cảm. Ví dụ, nếu người dùng hỏi “Tôi có nên chia tay bạn trai không?”, ChatGPT sẽ không đưa ra câu trả lời trực tiếp mà chuyển hướng sang việc giúp người dùng suy nghĩ các lựa chọn, tự đánh giá cảm xúc và hoàn cảnh cá nhân.
Thận trọng và đồng hành hơn cùng người sử dụng
OpenAI khẳng định sẽ tiếp tục cải tiến cách thức và thời điểm hiển thị các cảnh báo, đảm bảo ChatGPT không vượt qua ranh giới cho phép trong các tình huống nhạy cảm. Tổ chức này cũng học hỏi từ các nền tảng như YouTube, Instagram, TikTok hay Xbox - những đơn vị từ lâu đã áp dụng tính năng nhắc nhở nghỉ ngơi để bảo vệ người dùng.
Ngoài ra, OpenAI cũng theo sát các biện pháp bảo vệ trẻ em như trên nền tảng Character.AI, nơi phụ huynh được thông báo con mình đang trò chuyện với AI nào, sau khi một số chatbot bị cáo buộc khuyến khích hành vi gây hại.
Sự tinh chỉnh ChatGPT của OpenAI có sự tham vấn của chuyên gia tâm lý
Để cải thiện độ nhạy cảm và an toàn cho người dùng, OpenAI đã mời hơn 90 bác sĩ từ hơn 30 quốc gia cùng các chuyên gia phát triển thanh thiếu niên, tương tác người-máy (HCI), và y tế tâm thần để xây dựng hệ thống nhận diện các dấu hiệu căng thẳng, lo lắng hoặc suy nghĩ tiêu cực sâu sắc từ người dùng. Khi cần thiết, ChatGPT sẽ hướng dẫn họ tìm đến nguồn trợ giúp chuyên nghiệp thay vì đưa ra lời khuyên chia tay.