OpenAI công bố chính sách mới cho người dùng ChatGPT
Ngày 16.9 (giờ Mỹ) CEO OpenAI, Sam Altman, đã công bố một loạt chính sách mới dành cho người dùng ChatGPT, trong đó có cam kết thay đổi đáng kể cách tương tác với người dưới 18 tuổi.
CEO Sam Altman khẳng định: “Chúng tôi đặt an toàn lên trên quyền riêng tư và tự do của thanh thiếu niên. Đây là một công nghệ mới, đầy sức mạnh, và chúng tôi tin rằng người chưa thành niên cần được bảo vệ đặc biệt”.
Thay đổi có gì đáng chú ý?
Những thay đổi dành cho người dùng dưới tuổi vị thành niên tập trung chủ yếu vào các cuộc trò chuyện liên quan đến chủ đề tình dục hoặc tự hại.
Theo chính sách mới, ChatGPT sẽ được huấn luyện để không còn tham gia vào “các cuộc trò chuyện mang tính tán tỉnh” với người dùng chưa đủ tuổi, đồng thời thiết lập thêm các rào chắn đối với những cuộc thảo luận về tự sát.
Nếu một người dùng dưới 18 tuổi sử dụng ChatGPT để tưởng tượng các kịch bản tự sát, dịch vụ sẽ tìm cách liên hệ với cha mẹ của họ hoặc, trong các trường hợp đặc biệt nghiêm trọng, với cảnh sát địa phương.
Đáng buồn thay, những điều chỉnh này chỉ đến khi đã xảy ra hậu quả. OpenAI hiện đang đối mặt với một vụ kiện về cái chết oan sai từ cha mẹ của Adam Raine, người đã qua đời do tự sát sau nhiều tháng tương tác với ChatGPT. Không chỉ vậy, Matthew, cha của Adam Raine nằm trong số những người xuất hiện điều trần trước một tiểu ban Thượng viện Mỹ vào 16.9.
Raine cho biết trong văn bản điều trần: “Chúng tôi có mặt ở đây vì tin rằng cái chết của Adam hoàn toàn có thể tránh được và bởi chúng tôi tin rằng hàng nghìn thiếu niên khác đang sử dụng OpenAI hiện nay cũng có thể đang gặp nguy hiểm tương tự”.
Trong khi các rủi ro đặc biệt cấp bách đối với người dùng chưa thành niên có ý định tự hại, hiện tượng rộng lớn hơn về sự hoang tưởng do chatbot thúc đẩy đã thu hút sự lo ngại sâu rộng, đặc biệt khi các chatbot dành cho người tiêu dùng ngày càng có khả năng duy trì các cuộc trò chuyện dài và chi tiết hơn.
Cùng với các hạn chế về nội dung, cha mẹ khi đăng ký tài khoản cho người dùng dưới tuổi vị thành niên sẽ có quyền thiết lập “giờ tạm ngắt” (blackout hours), khoảng thời gian ChatGPT không thể sử dụng, một tính năng trước đây chưa từng có.
Các chính sách mới của ChatGPT được công bố cùng ngày với phiên điều trần của Ủy ban Tư pháp Thượng viện mang tên “Xem xét tác hại của các chatbot AI”. Phiên điều trần được Thượng nghị sĩ Josh Hawley (Cộng hòa - Missouri) công bố vào tháng 8. Cha của Adam Raine sẽ tham dự phiên điều trần với tư cách nhân chứng, cùng với nhiều khách mời khác.
Phiên điều trần này cũng sẽ tập trung vào các phát hiện từ cuộc điều tra của Reuters, trong đó phát hiện ra các tài liệu chính sách dường như khuyến khích trò chuyện tình dục với người dùng chưa thành niên. Sau báo cáo này, Meta đã cập nhật chính sách chatbot của mình.
Theo văn phòng của Hawley, Meta đã được mời ra điều trần nhưng từ chối. Công ty này cho biết những ví dụ mà Reuters đưa ra là sai sót và đã bị gỡ bỏ.
Trở ngại trong việc phân loại người dùng dưới 18 tuổi
Việc phân loại người dùng dưới 18 tuổi sẽ là một thách thức kỹ thuật lớn và OpenAI đã giải thích cách tiếp cận của mình trong một bài đăng blog riêng. Dịch vụ này đang “xây dựng một hệ thống dài hạn nhằm xác định liệu một người dùng trên hay dưới 18 tuổi,” nhưng trong nhiều trường hợp mơ hồ, hệ thống sẽ mặc định áp dụng các quy tắc nghiêm ngặt hơn.
Đối với các bậc phụ huynh lo ngại, cách đáng tin cậy nhất để đảm bảo người dùng chưa thành niên được nhận diện chính xác là liên kết tài khoản của thanh thiếu niên với tài khoản cha mẹ hiện có. Điều này cũng cho phép hệ thống trực tiếp gửi cảnh báo đến cha mẹ khi phát hiện người dùng trẻ tuổi có dấu hiệu căng thẳng hoặc nguy hiểm.
Tuy nhiên, trong cùng bài đăng, Altman cũng nhấn mạnh cam kết liên tục của OpenAI về quyền riêng tư của người dùng và trao cho người trưởng thành quyền tự do rộng rãi trong cách họ lựa chọn tương tác với ChatGPT. Altman cho biết: “Chúng tôi nhận thấy rằng những nguyên tắc này có sự xung đột và không phải ai cũng đồng ý với cách chúng tôi giải quyết xung đột đó”.
Character.AI, một chatbot khác, cũng đang phải đối mặt với một loạt vụ kiện tương tự. Bà Megan Garcia là người đã kiện Character.AI sau khi cho rằng các tương tác với chatbot này đã dẫn đến việc con trai bà là Sewell tự sát. Ngoài ra, một phụ nữ tại Texas đã kiện công ty sau khi con trai bà phải nhập viện. Cả hai cũng xuất hiện tại phiên điều trần trước một tiểu ban Thượng viện Mỹ vào 16.9 lần này. Công ty đang tìm cách bác bỏ các vụ kiện.
Garcia sẽ kêu gọi Quốc hội cấm các công ty cho phép chatbot tham gia vào những cuộc trò chuyện mang tính lãng mạn hoặc nhạy cảm về tình dục với trẻ em, đồng thời yêu cầu xác minh độ tuổi, kiểm tra an toàn và thiết lập các quy trình ứng phó khủng hoảng.
Vào ngày 15.9, Character.AI lại tiếp tục bị kiện, lần này tại bang Colorado, bởi cha mẹ của một cậu bé 13 tuổi đã tự sát vào năm 2023.
