ChatGPT ra mắt tính năng kiểm soát trẻ em
OpenAI sẽ bổ sung tính năng kiểm soát trẻ em dành cho phụ huynh trên ChatGPT. Tính năng cho phép quản lý nội dung và nhận cảnh báo khi phát hiện dấu hiệu căng thẳng ở trẻ.
OpenAI triển khai công cụ kiểm soát cho phụ huynh
OpenAI vừa xác nhận sẽ triển khai các tính năng quản lý dành cho phụ huynh trong tháng 10 tới. Động thái này diễn ra sau những cáo buộc về ảnh hưởng tiêu cực của ChatGPT đến thanh thiếu niên.
Hệ thống mới cho phép phụ huynh liên kết tài khoản mình với tài khoản của con, quản lý cách ChatGPT phản hồi, tắt các chức năng như bộ nhớ hội thoại và lịch sử trò chuyện. Đặc biệt, hệ thống sẽ gửi thông báo khi phát hiện "dấu hiệu căng thẳng nghiêm trọng".
Thông báo được đưa ra sau vụ kiện của gia đình Adam Raine (16 tuổi) cáo buộc ChatGPT tư vấn hành vi tự hại.
Một phụ huynh ở Florida cũng kiện nền tảng Character.AI với lý do tương tự. Các báo cáo trước đó ghi nhận tình trạng người dùng hình thành gắn bó cảm xúc quá mức với AI.
Nâng cấp hệ thống an toàn và hợp tác chuyên gia
OpenAI sẽ định tuyến các cuộc trò chuyện có dấu hiệu căng thẳng sang mô hình suy luận đặc biệt, tuân thủ hướng dẫn an toàn chặt chẽ hơn.
Công ty cũng hợp tác với chuyên gia về phát triển thanh thiếu niên, sức khỏe tâm thần để xây dựng biện pháp bảo vệ bổ sung.
Với 700 triệu người dùng/tuần, ChatGPT đối mặt áp lực an toàn ngày càng tăng.
Các thượng nghị sĩ Mỹ đã yêu cầu OpenAI giải trình về nỗ lực đảm bảo an toàn. Tổ chức Common Sense Media kêu gọi cấm thanh thiếu niên dưới 18 tuổi sử dụng ChatGPT.
