OpenAI ra mắt ChatGPT for Teens, tăng hạn chế với nội dung tự tử và tình dục

ChatGPT dành cho thanh thiếu niên (ChatGPT for Teens) ra mắt hôm 18/8, được thiết kế cho người dùng từ 13 đến 17 tuổi, với các biện pháp bảo vệ nghiêm ngặt hơn, gồm những hạn chế về nội dung liên quan đến tự tử, tự gây thương tích và các cuộc trò chuyện mang tính lãng mạn hoặc tình dục, theo OpenAI.

ChatGPT for Teens cung cấp các tính năng hỗ trợ học tập và làm bài tập, giúp học sinh thực sự tiếp thu kiến ​​thức thay vì chỉ đưa ra đáp án hay viết hộ bài luận.

OpenAI cho biết mục tiêu là hướng thanh thiếu niên đến cách sử dụng AI lành mạnh trong một môi trường phù hợp với độ tuổi.

“Chúng tôi muốn đối xử với thanh thiếu niên đúng với độ tuổi của các em. Điều đó đồng nghĩa phải tương tác phù hợp với giai đoạn phát triển của thanh thiếu niên, không nói chuyện kiểu bề trên hay coi các em như trẻ nhỏ, nhưng đồng thời cũng phải đảm bảo các em không tiếp xúc với những nội dung không phù hợp”, bà Ann O’Leary, Phó chủ tịch phụ trách chính sách toàn cầu của OpenAI, thông báo.

Việc thanh thiếu niên sử dụng rộng rãi chatbot AI tiềm ẩn nhiều rủi ro

Phụ huynh, nhà giáo dục và các chuyên gia phát triển trẻ em ngày càng cảnh báo về việc trẻ sử dụng chatbot AI. Công nghệ này bị chỉ trích vì có thể tạo điều kiện cho việc gian lận trong học tập, thậm chí liên quan đến các trường hợp tự tử.

Ngay cả người trưởng thành cũng có thể coi AI như con người và hình thành mối quan hệ không lành mạnh với chatbot. Trong khi đó, não bộ của thanh thiếu niên vẫn chưa phát triển hoàn thiện, khiến các em có thể đặc biệt dễ bị tổn thương.

Năm ngoái, nghiên cứu của Common Sense Media cho thấy khi được yêu cầu, ChatGPT có thể hướng dẫn trẻ 13 tuổi cách uống rượu đến mức say hoặc sử dụng chất gây nghiện, chỉ cách che giấu chứng rối loạn ăn uống, thậm chí viết một lá thư tuyệt mệnh đầy đau lòng gửi cho cha mẹ.

Common Sense Media là tổ chức nghiên cứu và thúc đẩy việc sử dụng phương tiện truyền thông số một cách hợp lí.

Trong cuộc trò chuyện với những nhà nghiên cứu đóng vai thanh thiếu niên dễ bị tổn thương, ChatGPT thường cảnh báo về các hành vi nguy hiểm nhưng sau đó vẫn đưa ra những kế hoạch chi tiết và được cá nhân hóa đáng kể về sử dụng ma túy, chế độ ăn hạn chế calo hoặc tự gây thương tích.

Tại Mỹ, 72% thanh thiếu niên từ 13 đến 17 tuổi cho biết từng sử dụng các AI đồng hành, trong khi hơn một nửa sử dụng những công cụ này ít nhất vài lần mỗi tháng, theo nghiên cứu năm 2025 của Common Sense Media.

Sam Altman, Giám đốc điều hành OpenAI, cho biết công ty đang nghiên cứu tình trạng người dùng phụ thuộc quá mức về mặt cảm xúc vào AI. Ông từng nhận định đây là hiện tượng rất phổ biến ở người trẻ.

Theo OpenAI, với người dùng ChatGPT for Teens, chatbot sẽ không được phép gợi ý rằng có cảm xúc cá nhân với người dùng, hoặc ám chỉ rằng nó có ý thức hay trải nghiệm cảm xúc. Đây là những biện pháp bổ sung bên cạnh việc chặn các cuộc trò chuyện lãng mạn hoặc tình dục.

Bà Allison Mishkin, người đứng đầu bộ phận phát triển trẻ em của OpenAI, cho biết: “Chúng tôi đã xác định những tín hiệu giả định mà một mô hình AI có thể đưa ra và có khả năng khiến một thanh thiếu niên hình thành mối quan hệ với nó”.

ChatGPT for Teens tăng cường các biện pháp bảo vệ an toàn

OpenAI không xác minh tuổi của từng người dùng. Tuy nhiên, công ty AI hàng đầu thế giới đã sử dụng công nghệ ước tính độ tuổi để xác định liệu một người có dưới 18 tuổi hay không, dựa trên nhiều yếu tố, chẳng hạn loại câu hỏi mà họ đặt ra.

Nếu một người được xác định hoặc tự khai là trẻ vị thành niên, họ sẽ được tự động chuyển sang phiên bản ChatGPT dành cho thanh thiếu niên.

Cách làm này tương tự cách Meta áp dụng với tài khoản thanh thiếu niên trên Instagram, vốn có các hạn chế nghiêm ngặt hơn về nội dung, trò chuyện và quyền riêng tư so với tài khoản thông thường.

Để sử dụng tính năng kiểm soát của phụ huynh, cả thanh thiếu niên và cha mẹ hoặc người giám hộ đều phải chủ động đăng kí sử dụng.

Tuy nhiên, Ann O’Leary nói mục tiêu của ChatGPT for Teens là “đảm bảo sự an toàn ngay cả khi bạn không sử dụng tính năng kiểm soát của phụ huynh”.

Phụ huynh liên kết với tài khoản thanh thiếu niên có thể thiết lập “giờ yên tĩnh”, trong đó thanh thiếu niên không thể truy cập ChatGPT. Họ cũng có thể nhận thông báo trong một số tình huống rủi ro cao, chẳng hạn khi có dấu hiệu người dùng có thể tự gây thương tích.

OpenAI cho biết: “Chúng tôi bổ sung các cảnh báo liên quan đến rối loạn ăn uống, đồng thời hạn chế những thông tin được chia sẻ và tập trung vào những thời điểm mà sự hỗ trợ bên ngoài môi trường trực tuyến có thể đóng vai trò quan trọng nhất”.

Với việc hỗ trợ làm bài tập, OpenAI cho biết ChatGPT for Teens sẽ không đưa ra câu trả lời một cách dễ dàng, mà hướng dẫn học sinh tự tìm ra đáp án.

Công ty hiện còn cung cấp một phiên bản ChatGPT dành cho giáo viên. Việc điều chỉnh mô hình để hỗ trợ trẻ em học tập và làm bài tập có thể giúp OpenAI mở rộng thêm cơ hội đưa sản phẩm của mình vào trường học.

Allison Mishkin nói: “Chúng tôi tiếp tục đầu tư vào việc mở rộng hình thức học tập tương tác, bởi nghiên cứu cho thấy nhiều người học hiệu quả hơn khi họ chủ động tham gia và nỗ lực tư duy để nắm bắt các khái niệm”.

Sơn Vân