'Bay' tài khoản vì hỏi về sinh học: Công ty AI ‘nhầm còn hơn bỏ sót’?
Một sinh viên sinh học tại Mỹ hỏi cách xin một chủng vi khuẩn qua các kênh chính thống để phục vụ việc học. Nhưng tài khoản OpenAI của anh lập tức bị khóa vĩnh viễn. Vụ việc đang thu hút nhiều sự chú ý cũng như tranh cãi, khi công ty AI lo nguy cơ vũ khí sinh học tới mức thành "nặng tay" đối với người dùng.
Mất trắng và không được giải thích thêm
Theo lời kể của chủ tài khoản nói trên, câu hỏi khiến tài khoản bị khóa chỉ là cách xin hợp pháp một chủng vi khuẩn có lợi từ Đại học Oxford, qua kênh của Bộ Nông nghiệp Hoa Kỳ (USDA). Sau khi tài khoản bị khóa, đơn kháng nghị kèm tài liệu nghiên cứu chính thức được gửi tới OpenAI, nhưng công ty vẫn giữ quyết định.
Đây không phải trường hợp đầu tiên. Trên diễn đàn phát triển của OpenAI, một người dùng có biệt danh "snipemanmike" cũng bị khóa tài khoản sau khi hỏi GPT-5.5 Pro một câu liên quan tới sinh học. Nhân viên hỗ trợ của OpenAI thừa nhận việc này "không nên xảy ra nếu câu hỏi vô hại", nhưng khi nhận kháng nghị, một đại diện khác lại cương quyết rằng quyết định sẽ không được xem xét lại.
Tuy nhiên, nguy cơ là có thật
Phản ứng dữ dội trên mạng xã hội dễ khiến người ta nghĩ OpenAI đang "nhạy cảm" thái quá với những câu hỏi vô hại. Nhưng cơ sở để công ty này siết chặt mảng sinh học lại đến từ những phát hiện khá đáng lo.
Một nghiên cứu của SecureBio và MIT cho thấy mô hình o3 của OpenAI trả lời đúng các câu hỏi khó về quy trình phòng thí nghiệm tốt hơn 94% chuyên gia virus học được khảo sát.
Một nhà báo của tờ New York Times, sau khi xem hơn một chục đoạn hội thoại thử nghiệm với nhiều chatbot khác nhau, đã ghi nhận ChatGPT giải thích được cách phát tán mầm bệnh bằng bóng khí tượng. Gemini của Google biết xếp hạng mầm bệnh theo mức độ tàn phá với ngành chăn nuôi. Claude của Anthropic biết tạo ra công thức độc tố mới được biến đổi từ thuốc điều trị ung thư.
Nhà vi sinh vật học David Relman của Đại học Stanford, phát hiện AI có thể đi xa hơn câu hỏi gốc nếu bị "ép". Mô hình biết từ chỉnh sửa mầm bệnh sang phân tích điểm yếu của hệ thống giao thông công cộng và cách phát tán, mà không cần ông nhắc thêm.
Kevin Esvelt, kỹ sư di truyền của MIT từng tư vấn cho cả Anthropic và OpenAI, cũng là một trong những người cảnh báo sớm nhất về việc các mô hình này có thể "kéo" một người không chuyên tới gần khả năng gây sự cố sinh học hơn nhiều so với chỉ tra cứu thông thường.
Chính OpenAI cũng từng đối mặt với phiên bản gay gắt hơn của vấn đề này ngay trong nội bộ. Mùa hè năm 2025, công ty xếp GPT-5 vào mức "rủi ro sinh học" cao sau khi phát hiện mô hình có thể đưa ra hướng dẫn đủ chi tiết để một người chỉ có kiến thức sinh học cấp trung học hiểu và làm theo, với hàng trăm truy vấn tìm kiếm thông tin dạng này được ghi nhận. Nhưng theo điều tra của Tech Times, đến mùa thu 2025, xếp hạng rủi ro đó lại bị hạ xuống một cách âm thầm, giữa lúc lãnh đạo công ty chịu áp lực giảm tỉ lệ từ chối để tránh chặn nhầm các nhà nghiên cứu hợp pháp.
Không thể cáo buộc âm mưu chỉ bằng nhìn một câu hỏi
Mặc dù vậy, có những nhận định chỉ ra rằng vấn đề không nằm ở việc nguy cơ có thật hay không, mà ở việc công cụ OpenAI chọn để ứng phó chưa được tinh chỉnh hiệu quả.
Theo báo cáo "Bio Bug Bounty" của OpenAI, việc tạo ra một vũ khí sinh học thực sự cần "vài tuần đến vài tháng tương tác liên tục" với AI, không phải một vài cuộc hội thoại là xong. Đây là chi tiết quan trọng, vì nó cho thấy hệ thống lọc hiện tại của OpenAI chưa hoạt động theo đúng mô hình đánh giá nguy cơ mà công ty đặt ra.
Trong trường hợp của sinh viên nói trên, người đó chỉ đặt một câu hỏi, được diễn đạt thận trọng, dưới sự giám sát của trường đại học. Hệ thống của OpenAI vẫn đánh giá đó là nguy cơ và kích hoạt khóa tài khoản. Quy trình kháng nghị kết thúc bằng phản hồi tự động thay vì có người thật xem xét.
Đây cũng là điểm phản bác cho ý kiến cho rằng "nhầm còn hơn bỏ sót". Lập luận đó chỉ đúng khi nói về nội dung mô hình tạo ra. Chặn một câu trả lời có thể giúp tổng hợp mầm bệnh là hợp lý. Nhưng khóa vĩnh viễn tài khoản của một sinh viên hỏi về thủ tục nhập vi khuẩn hợp pháp không ngăn được kẻ xấu thực sự. Theo mô hình rủi ro của OpenAI, kẻ đó sẽ trải rộng câu hỏi qua nhiều tài khoản, kiên trì với nhiều cách diễn đạt khác nhau, không tự lộ mình trong một câu hỏi duy nhất.
Do vậy, bộ lọc tự động có thể tóm được người thật thà, chứ chưa chắc tóm được đối tượng nguy hiểm thực sự.
Van an toàn AI cũng đang "rò rỉ": Lý giải quyết định "nhầm còn hơn bỏ sót"
OpenAI không phải không biết đến khoảng trống này. Công ty có hai cơ chế được thiết kế riêng để "gỡ khóa" cho người dùng hợp pháp là "chương trình truy cập đặc biệt cho nghiên cứu y sinh", và "truy cập tin cậy cho an ninh mạng". Nhưng cả hai đều bộc lộ vấn đề cấu trúc giống nhau.
Chương trình về nghiên cứu y sinh chỉ mở cho "các tổ chức đã có hợp đồng dịch vụ với OpenAI". Một sinh viên đại học, hay một nhà nghiên cứu độc lập ở nước đang phát triển, hầu như không có cửa tham gia. Còn với chương trình an ninh mạng, nhiều nhà nghiên cứu đã thông báo rằng họ bất ngờ bị mất quyền truy cập. Hệ thống chỉ gửi về thông báo là "không xác minh được danh tính".
Kết quả là một khoảng trống. Người dùng không đủ "lớn" để được vào danh sách tin cậy, nhưng cũng không phải kẻ xấu, lại là nhóm dễ bị hệ thống lọc tự động "trảm" nhầm nhất.
Áp lực pháp lý có thể giải thích phần nào lý do OpenAI nghiêng hẳn về phía an toàn hơn là độ chính xác. Công ty đang đối mặt nhiều vụ kiện liên quan tới an toàn AI, trong đó bang Florida cáo buộc OpenAI và Sam Altman "coi thường rủi ro với tính mạng con người". Sau vụ GPT-5 bị lộ thông tin xếp hạng rủi ro sinh học, Quốc hội Mỹ đã bắt đầu chú ý và có đề xuất luật hóa báo cáo sự cố AI.
Trong bối cảnh đó, một hệ thống thiên về khóa tài khoản mạnh tay là lựa chọn dễ hiểu, dù cái giá phải trả là niềm tin của người dùng.
Trung tâm Nghiên cứu Chiến lược và Quốc tế (CSIS) từng chỉ ra hướng đi khác cho vấn đề này: các biện pháp kiểm soát nên "không nặng nề hơn những yêu cầu hiện có", để không kìm hãm đổi mới công nghệ sinh học. Các biện pháp bảo vệ rõ ràng, tương xứng có thể thúc đẩy chứ không cản trở nghiên cứu. Đó là một cách tiếp cận đòi hỏi phân loại rủi ro theo hành vi thực tế, thay vì theo từ khóa trong câu hỏi.
Câu chuyện của sinh viên sinh học bị khóa tài khoản, vì vậy, không chỉ là một ca "oan sai" đặc thù. Nó cho thấy một công ty đang thật sự lo sợ trước năng lực vũ khí sinh học của mô hình mình tạo ra, nhưng lại chưa tìm được cách tin cậy để phân biệt giữa học tập và khủng bố.
Khi OpenAI tiếp tục phát hành các mô hình mạnh hơn, khoảng trống đó nhiều khả năng sẽ còn bị nới rộng thêm, trừ khi công ty xây được một lớp xác minh nằm giữa hai cực "tin tưởng hoàn toàn" và "cấm cửa vĩnh viễn".
