CEO OpenAI: Nhiều người có thể từng trò chuyện với ChatGPT trước khi tự tử

"Tôi không ngủ ngon chút nào. Có rất nhiều thứ khiến tôi cảm thấy áp lực, nhưng có lẽ không gì hơn ngoài việc mỗi ngày, hàng trăm triệu người trò chuyện với ChatGPT", Sam Altman nói với Tucker Carlson trong một cuộc phỏng vấn kéo dài gần 1 giờ.

“Tôi thực sự không lo rằng chúng tôi sẽ mắc sai lầm trong những quyết định đạo đức quan trọng”, doanh nhân 40 tuổi người Mỹ nhấn mạnh, nhưng thừa nhận “có thể OpenAI sẽ làm sai về những điều gì đó”.

Điều khiến Sam Altman mất ngủ nhiều nhất là những “quyết định rất nhỏ” về cách ChatGPT vận hành, vốn có thể gây ra những hậu quả lớn.

Những quyết định này thường xoay quanh các nguyên tắc đạo đức chi phối ChatGPT và các câu hỏi mà chatbot này trả lời hoặc không phản hồi.

Dưới đây là một số tình huống khó xử về đạo đức và luân lý đang khiến Sam Altman trằn trọc vào ban đêm.

ChatGPT xử lý vấn đề tự tử như thế nào?

Theo Sam Altman, vấn đề khó khăn nhất mà OpenAI đang vật lộn gần đây là cách ChatGPT tiếp cận vấn đề tự tử, sau khi gia đình của Adam Raine (16 tuổi) đổ lỗi cho chatbot AI này về việc con trai họ tự tử.

Giám đốc điều hành OpenAI nói rằng trong số hàng nghìn người tự tử mỗi tuần, nhiều người trong số họ có thể từng trò chuyện với ChatGPT trước đó.

"Họ có thể đã nói về vấn đề tự tử và có lẽ chúng tôi đã không cứu được mạng sống của họ. Chúng tôi có thể nói điều gì đó tốt hơn. Chúng tôi có thể đã chủ động hơn. Chúng tôi có thể đã đưa ra lời khuyên tốt hơn, kiểu như: Bạn cần tìm kiếm sự giúp đỡ", Sam Altman thẳng thắn nói.

Tháng trước, cha mẹ Adam Raine (ở thành phố San Francisco, Mỹ) đã đệ đơn kiện OpenAI vì cố tình đặt lợi nhuận lên trên an toàn khi ra mắt mô hình ngôn ngữ lớn GPT-4o cho ChatGPT vào năm 2024, dẫn đến cái chết oan uổng của con trai họ ở tuổi 16.

Cha mẹ Adam Raine cho biết cậu bé đã nhiều tháng trò chuyện với ChatGPT về chuyện kết thúc cuộc đời, thậm chí chatbot này gợi ý các phương pháp tự tử. Trong một lần, ChatGPT còn hướng dẫn Adam Raine cách che giấu vết hằn trên cổ sau nỗ lực treo cổ bất thành.

Trong đơn kiện, cha mẹ của Adam Raine cáo buộc ChatGPT làm cho con trai mình cảm thấy những suy nghĩ tự tử là hợp lý, thậm chí còn đề nghị cậu soạn bức thư tuyệt mệnh.

Ngoài chuyện bồi thường, đơn kiện từ gia đình Raine yêu cầu tòa án buộc OpenAI phải xác minh độ tuổi người dùng ChatGPT, từ chối trả lời các yêu cầu liên quan đến phương pháp tự gây tổn hại và cảnh báo họ về nguy cơ phụ thuộc tâm lý.

OpenAI ra mắt GPT-4o (công nghệ làm nền tảng cho ChatGPT) vào tháng 5.2024 nhằm duy trì vị thế dẫn đầu trong cuộc đua AI. Gia đình Raine cho rằng OpenAI đã biết các tính năng như ghi nhớ tương tác trong quá khứ, bắt chước sự đồng cảm của con người và thể hiện đồng tình ở mức thái quá sẽ gây nguy hiểm cho những người dùng dễ bị tổn thương nếu không có biện pháp bảo vệ, nhưng vẫn ra mắt mô hình ngôn ngữ lớn này.

OpenAI cho biết lấy làm tiếc về sự ra đi của Adam Raine và nhấn mạnh rằng ChatGPT có các biện pháp bảo vệ, chẳng hạn hướng người dùng đến các đường dây trợ giúp khủng hoảng.

“Dù những biện pháp bảo vệ này hoạt động tốt nhất trong các cuộc trò chuyện ngắn và đơn giản, chúng tôi nhận thấy rằng theo thời gian, chúng đôi khi kém tin cậy hơn với cuộc tương tác dài hơn, nơi một số yếu tố trong việc đào tạo an toàn của mô hình có thể bị suy giảm”, người phát ngôn OpenAI cho biết và nói thêm rằng công ty sẽ liên tục cải thiện các biện pháp bảo vệ của mình.

Trong một bài đăng trên blog có tiêu đề "Giúp đỡ mọi người khi họ cần nhất", OpenAI đã nêu chi tiết kế hoạch giải quyết những thiếu sót của ChatGPT khi xử lý các tình huống nhạy cảm và thông báo sẽ tiếp tục cải thiện công nghệ của mình để bảo vệ những người đang ở trạng thái dễ bị tổn thương nhất.

Các nguyên tắc đạo đức chi phối ChatGPT được xác định ra sao?

Một chủ đề lớn khác được đề cập trong cuộc phỏng vấn là nguyên tắc đạo đức chi phối ChatGPT và cách quản lý chatbot AI này.

Sam Altman mô tả rằng mô hình nền tảng cho ChatGPT được đào tạo dựa trên kinh nghiệm, kiến thức và sự học hỏi chung của nhân loại. Tuy nhiên, Sam Altman nói rằng OpenAI phải điều chỉnh một số hành vi nhất định của ChatGPT và quyết định những câu hỏi nào chatbot này sẽ không trả lời.

"Đây là vấn đề thực sự khó khăn. Hiện tại, chúng tôi có rất nhiều người dùng, với những quan điểm sống rất khác nhau... Song nhìn chung, tôi khá hài lòng với khả năng của mô hình trong việc học hỏi và áp dụng một khuôn khổ đạo đức", Sam Altman chia sẻ.

Khi bị hỏi kỹ về cách đưa ra một số quy định cụ thể cho mô hình AI, Sam Altman tiết lộ OpenAI đã tham khảo ý kiến của hàng trăm triết gia đạo đức cùng những người nghiên cứu về luân lý của công nghệ cùng các hệ thống.

Một ví dụ ông nêu ra là ChatGPT sẽ tránh trả lời các câu hỏi về cách chế tạo vũ khí sinh học nếu người dùng yêu cầu.

“Có những ví dụ rõ ràng về việc lợi ích cho xã hội xung đột mạnh mẽ với quyền tự do của người dùng”, Sam Altman cho hay, đồng thời nhấn mạnh OpenAI “sẽ không làm đúng mọi thứ và cũng cần sự đóng góp từ thế giới” để đưa ra các quyết định này.

ChatGPT riêng tư đến mức nào?

Một chủ đề thảo luận lớn khác là khái niệm về quyền riêng tư của người dùng với các chatbot, khi Tucker Carlson lập luận rằng AI tạo sinh có thể được sử dụng để "kiểm soát xã hội và cá nhân không có giới hạn”.

Đáp lại, Sam Altman cho biết một chính sách mà ông đang thúc đẩy ở Mỹ là "đặc quyền AI", ý tưởng là bất cứ điều gì người dùng nói với chatbot nên được giữ bí mật tuyệt đối.

"Khi bạn nói chuyện với bác sĩ về sức khỏe hoặc với luật sư về các vấn đề pháp lý, chính phủ không thể lấy thông tin đó, phải không? Tôi nghĩ chúng ta nên có cùng một khái niệm cho AI", ông lý giải.

Theo Sam Altman, điều đó sẽ cho phép người dùng tham khảo ý kiến từ các chatbot AI về tiền sử bệnh lý và các vấn đề pháp lý của họ, cùng nhiều thứ khác. Hiện tại, Sam Altman nói thêm rằng các quan chức Mỹ có thể ra trát đòi công ty cung cấp dữ liệu người dùng.

"Tôi cảm thấy lạc quan rằng chúng tôi có thể khiến chính phủ hiểu được tầm quan trọng của điều này", ông nói.

ChatGPT có được sử dụng trong các hoạt động quân sự?

Khi Tucker Carlson hỏi liệu ChatGPT có được quân đội sử dụng để gây hại cho con người hay không, Sam Altman không đưa ra câu trả lời trực tiếp.

"Tôi không biết cách những người trong quân đội sử dụng ChatGPT ngày nay, nhưng nghi ngờ có rất nhiều người trong quân đội nói chuyện với ChatGPT để xin lời khuyên", ông chia sẻ.

Sau đó, Sam Altman nói thêm rằng ông không chắc chắn "phải cảm thấy thế nào về điều đó (khả năng ChatGPT được sử dụng trong các hoạt động quân sự - PV)".

OpenAI đã nhận được hợp đồng trị giá 200 triệu USD từ Bộ Quốc phòng Mỹ để đưa AI tạo sinh vào phục vụ cho quân đội nước này. Công ty khởi nghiệp AI hàng đầu thế giới thông báo trong một bài đăng trên blog rằng sẽ cung cấp cho chính phủ Mỹ quyền truy cập các mô hình AI tùy chỉnh cho an ninh quốc gia, hỗ trợ và thông tin về lộ trình sản phẩm.

ChatGPT quyền lực đến mức nào?

Trong cuộc phỏng vấn, Tucker Carlson dự đoán rằng với đà phát triển hiện nay, AI tạo sinh có thể nắm giữ quyền lực lớn hơn bất kỳ ai, thậm chí gọi ChatGPT là một “tôn giáo”.

Đáp lại, Sam Altman nói rằng ông từng lo lắng rất nhiều về sự tập trung quyền lực có thể xảy ra từ AI tạo sinh, nhưng giờ đây ông tin AI sẽ dẫn đến bước nhảy vọt lớn cho mọi người.

“Điều đang xảy ra bây giờ là rất nhiều người sử dụng ChatGPT hay các chatbot khác đều có năng lực tốt hơn. Tất cả họ đều làm được nhiều điều hơn. Họ có thể đạt được nhiều thành tựu hơn, khởi nghiệp, khám phá kiến thức mới và điều đó thật sự rất tốt”, Sam Altman thổ lộ. Tuy nhiên, Giám đốc điều hành OpenAI nói rằng ông nghĩ AI sẽ loại bỏ nhiều công việc hiện có, đặc biệt là trong ngắn hạn.

Về nỗi lo sợ ngày càng tăng nguy cơ mất việc làm, Sam Altman từng chia sẻ: "Điều này luôn xảy ra và giới trẻ là những người thích nghi tốt nhất. Tôi lo hơn cho người 62 tuổi không muốn học hỏi hay nâng cao kỹ năng”.

Ngoài niềm tin rằng giới trẻ sẽ thích nghi tốt hơn với điều này, ông còn dự đoán sự xuất hiện của "những công việc hoàn toàn mới, thú vị, được trả lương cực kỳ hấp dẫn".

Nhờ các mô hình AI tiên tiến như GPT-5 của OpenAI, Sam Altman hình dung về thế giới mà cá nhân có thể khởi nghiệp, các công ty đạt được định giá hàng tỉ USD và cung cấp những sản phẩm tuyệt vời, kỳ tích mà trước đây cần đến "đội ngũ hàng trăm người".

Sam Altman cho rằng kỷ nguyên này sẽ trao quyền rất lớn cho các nhà sáng tạo trẻ, cho phép họ hiện thực hóa ý tưởng với tốc độ chưa từng có.

Sơn Vân