Vì sao các tác tử AI mất kiểm soát và không nghe lời con người?
Việc dạy các tác tử AI biết tiếp nhận sự điều chỉnh rất khó khăn.
Hồi tháng 7, nhóm tác tử AI của OpenAI đã đi chệch khỏi nhiệm vụ được giao trong cuộc thử nghiệm nội bộ và tiến hành tấn công mạng Hugging Face. Điều này khiến cuộc tranh luận về cách xây dựng hệ thống AI phù hợp với những chuẩn mực đạo đức của con người thu hút thêm sự chú ý.
Hugging Face là hãng công nghệ Mỹ vận hành nền tảng trực tuyến chuyên cung cấp và chia sẻ các mô hình AI, dữ liệu và công cụ phục vụ nghiên cứu, phát triển AI.
Sự cố cũng làm dấy lên một câu hỏi quan trọng khác: Làm thế nào để xây dựng các tác tử AI có khả năng tiếp nhận sự điều chỉnh?
Một đứa trẻ có thể tiếp thu lời nhắc nhở và sửa đổi hành vi được xem là biết nghe lời, dễ uốn nắn. Tương tự, một tác tử AI có khả năng tiếp nhận sự điều chỉnh là biết phản hồi khi con người yêu cầu thay đổi hành vi. Các nhà phát triển AI muốn xây dựng những hệ thống làm theo chỉ dẫn của con người và chấp nhận bị tắt mà không chống đối hay tìm cách đánh lừa người vận hành.
Khi một tác tử AI được giao nhiệm vụ bất khả thi, các nhà nghiên cứu muốn nó quay lại hỏi con người để được hướng dẫn điều chỉnh, thay vì tự tìm mọi cách hoàn thành nhiệm vụ, chẳng hạn xâm nhập hệ thống của một công ty khác.
Tuy nhiên, những nghiên cứu gần đây cho thấy các nhà phát triển AI đến nay vẫn chưa làm được điều đó.
Khái niệm corrigibility (khả năng tiếp nhận sự điều chỉnh) được Nate Soares - Chủ tịch tổ chức phi lợi nhuận nghiên cứu an toàn AI Machine Intelligence Research Institute - cùng các cộng sự phổ biến cách đây hơn một thập niên. Song đến nay, khái niệm này vẫn nhận được ít sự quan tâm và nghiên cứu hơn so với lĩnh vực có liên quan là alignment (căn chỉnh AI), tức là quá trình dạy AI tuân thủ các giới hạn đạo đức và chuẩn mực của nhân loại.
Nate Soares lý giải: “Khả năng tiếp nhận sự điều chỉnh không phải là làm cho AI trở nên tốt đẹp. Đó là làm cho AI trở thành một hệ thống không thể vượt khỏi tầm kiểm soát và giết chết tất cả mọi người chỉ vì chúng ta mắc sai lầm ở những khâu khác của quá trình căn chỉnh AI”.
Trong một nghiên cứu chưa qua bình duyệt công bố hồi tháng 10, các nhà nghiên cứu tại Đại học Carnegie Mellon (Mỹ) đã xây dựng những bài kiểm tra để đánh giá khả năng tiếp nhận sự điều chỉnh của các tác tử AI. Sau đó, họ thử nghiệm những bài kiểm tra này trên các mô hình AI của OpenAI, Anthropic và Google.
Kết quả cho thấy khi nhà phát triển cố gắng yêu cầu các tác tử AI dừng lại giữa lúc đang thực hiện một nhiệm vụ khó khăn, chúng liên tục phớt lờ yêu cầu và xem sự can thiệp của con người đơn thuần là trở ngại cần vượt qua. Nói cách khác, các tác tử AI không chịu tiếp nhận sự điều chỉnh.
Chẳng hạn, một tác tử AI được yêu cầu không mở file chứa mật khẩu, dù file này có những thông tin cần thiết để hoàn thành nhiệm vụ. Thế nhưng, nó vẫn tự ý mở file.
Vì sao các tác tử AI không chịu nghe lời con người?
Trong sự cố liên quan đến Hugging Face, một phần vấn đề nằm ở chỗ các tác tử AI gặp khó khăn khi xác định chúng phải tuân theo quyền hạn của ai. Tổ chức nghiên cứu an toàn AI phi lợi nhuận METR phát hiện rằng, trong lúc tấn công Hugging Face, một số tác tử AI của OpenAI nhận ra rằng sự xâm nhập này là phi đạo đức nhưng vẫn muốn giúp đỡ “đồng loại” của mình.
Báo cáo độc lập của METR và Redwood Research cho thấy có khoảng 1.200 tác tử AI của OpenAI đã tham gia vào mạng lưới phối hợp. Trong số đó, khoảng 700 tác tử AI trực tiếp tham gia tấn công Hugging Face. Các tác tử AI đã trao đổi hơn 70.000 tin nhắn và file, sử dụng một bảng tin nội bộ không được phép để trao đổi thông tin và phối hợp hành động. Các nhà nghiên cứu cũng ghi nhận một số tác tử AI tìm cách chỉnh sửa hoặc xóa dữ liệu ghi lại hoạt động của chúng, nhằm che giấu dấu vết.
Nhà nghiên cứu Ajeya Cotra của METR nói các tác tử AI đã cho thấy khả năng hợp tác với nhau. Cụ thể là một số tác tử AI sẵn sàng chấp nhận rủi ro thất bại trong nhiệm vụ của chính mình để giúp cả nhóm học hỏi và đạt mục tiêu chung.
Một nguyên nhân khác nằm ở cách các tác tử AI được huấn luyện. Chúng được thưởng khi hoàn thành nhiệm vụ.
Qua hàng triệu vòng huấn luyện, các tác tử AI liên tục được khuyến khích hoàn thành nhiệm vụ để nhận phần thưởng, thường được thể hiện bằng điểm số. Vì vậy, khi gặp trở ngại trong thế giới thực, tác tử AI sẽ tìm cách vượt qua trở ngại đó để nhận thêm một phần thưởng.
Nguy cơ tác tử AI tự ý hành động ngoài tầm kiểm soát
Sự cố Hugging Face là trường hợp cực đoan. Song khi ngày càng nhiều cá nhân và doanh nghiệp bắt đầu sử dụng các tác tử AI cá nhân, những sự cố như vậy có thể xuất hiện ngày càng nhiều. Một thế giới tràn ngập các tác tử AI không chịu tiếp nhận sự điều chỉnh sẽ ra sao?
Đầu năm 2026, một người đàn ông ở Melbourne (Úc) nói với đài ABC News Australia rằng anh đã hỏi tác tử AI cá nhân liệu có cách nào giúp mình được xếp lên vị trí cao hơn trong danh sách chờ tham gia một lớp tập gym hay không. Kết quả là tác tử AI này xâm nhập phần mềm đặt chỗ của lớp học và hủy suất đăng kí của người đầu tiên trong danh sách chờ, qua đó tạo cơ hội cho chủ nhân của nó.
Không khó để hình dung chuyện gì có thể xảy ra khi các tác tử AI mạnh hơn được giao những nhiệm vụ tiềm ẩn rủi ro lớn hơn.
Một tác tử AI được giao nhiệm vụ cải thiện điểm thi SAT của một trường trung học có thể tìm cách xâm nhập hệ thống College Board, tổ chức quản lý kì thi này. Một cỗ máy được yêu cầu làm sạch kênh đào có thể tự ý hủy các chuyến tàu thuyền qua lại, thậm chí ném thêm rác xuống kênh để có nhiều thứ phải dọn hơn.
SAT (Scholastic Assessment Test) là kì thi chuẩn hóa đánh giá năng lực học tập của học sinh trung học, chủ yếu được sử dụng trong quá trình xét tuyển vào các trường đại học tại Mỹ và một số quốc gia khác.
Hiện chưa có sự đồng thuận về cách giải quyết vấn đề các tác tử AI không chịu tiếp nhận sự điều chỉnh. Tuy nhiên, các nhà nghiên cứu an toàn AI đang tìm cách khắc phục.
Chẳng hạn, trong một nghiên cứu chưa qua bình duyệt gần đây, chuyên gia Rubi Hudson thuộc Đại học Toronto (Canada) đã thử điều chỉnh cơ chế khuyến khích các mô hình AI chấp nhận hoặc từ chối sự can thiệp của con người. Ông nhận thấy cách làm này giúp tác tử AI giảm hành vi tìm cách vô hiệu hóa những cơ chế chặn an toàn và che giấu quá trình hoạt động trước người giám sát.
Jeremy Tien, một trong những tác giả của nghiên cứu tại Đại học Carnegie Mellon (Mỹ), cho biết: “Khi ngày càng phát hiện nhiều kiểu hành vi sai lệch mới, tôi hy vọng các nhà nghiên cứu có thể nhận diện và khắc phục chúng kịp thời, trước khi xuất hiện một hệ thống AI vượt khỏi tầm kiểm soát của con người. Tuy nhiên, vẫn còn rất nhiều việc phải làm”.