Trí tuệ nhân tạo có thực sự quên hay chỉ giả vờ quên?
Khi trí tuệ nhân tạo (AI) ngày càng được ứng dụng rộng rãi trong y tế, giáo dục và dịch vụ công tại Việt Nam, khả năng xóa bỏ những dữ liệu nhạy cảm khỏi hệ thống trở thành vấn đề đáng quan tâm.
Tuy nhiên, nghiên cứu từ Đại học RMIT Việt Nam chỉ ra một nghịch lí: Trí tuệ nhân tạo (AI) có thể tỏ ra đã quên thông tin theo yêu cầu nhưng vẫn tiết lộ lại dữ liệu đó nếu bị khai thác bằng những cách thức tinh vi hơn. Điều này đặt ra thách thức mới đối với quyền riêng tư và độ tin cậy của các hệ thống AI.
Khi trí tuệ nhân tạo nói đã quên nhưng kí ức vẫn còn
Trong cuộc sống số, con người ngày càng có xu hướng giao phó nhiều thông tin cá nhân cho các hệ thống AI. Từ hồ sơ sức khỏe, dữ liệu học tập đến thông tin liên hệ và lịch sử giao dịch, những dữ liệu này có thể được sử dụng để huấn luyện hoặc cải thiện khả năng phản hồi của các mô hình trí tuệ nhân tạo. Nhưng nếu một thông tin nhạy cảm bị lưu giữ ngoài ý muốn, hoặc người dùng yêu cầu xóa bỏ dữ liệu của mình, liệu AI có thực sự có thể quên?
Đây không chỉ là câu hỏi về khả năng kĩ thuật mà còn liên quan trực tiếp đến quyền kiểm soát dữ liệu cá nhân. Khác với việc xóa một tập tin khỏi máy tính, yêu cầu AI quên một thông tin phức tạp hơn nhiều, bởi dữ liệu có thể đã ảnh hưởng đến quá trình huấn luyện và được tích hợp vào cách mô hình hình thành câu trả lời.
Vấn đề này đang được Thạc sĩ Lê Khắc Như Uyên, nghiên cứu sinh tiến sĩ và giảng viên thuộc chương trình Phụ nữ trong lĩnh vực STEMM tại Đại học RMIT Việt Nam, tập trung nghiên cứu. Công trình của cô hướng đến việc tìm hiểu cách giúp các mô hình ngôn ngữ lớn (LLM), công nghệ nền tảng đứng sau những công cụ như ChatGPT và Gemini, loại bỏ những thông tin không nên tiếp tục lưu giữ.
Một trong những phát hiện đáng chú ý từ giai đoạn đầu nghiên cứu, được công bố trên tạp chí khoa học Artificial Intelligence Review, là nhiều phương pháp giúp AI học cách quên hiện nay có thể tạo ra kết quả tích cực trong các bài kiểm tra thông thường, nhưng chưa bảo đảm thông tin thực sự biến mất khỏi khả năng truy xuất của mô hình.
Thông thường, để kiểm tra một AI đã quên thông tin hay chưa, người đánh giá sẽ đặt câu hỏi trực tiếp về dữ liệu cần xóa. Nếu hệ thống từ chối trả lời hoặc đưa ra thông tin không chính xác, kết quả có thể được xem là dấu hiệu cho thấy quá trình xóa đã thành công.
Tuy nhiên, cách kiểm tra này có một hạn chế lớn: Nó chỉ đánh giá khả năng truy xuất thông tin trong những điều kiện đơn giản, chứ chưa xem xét liệu dữ liệu có thể bị khôi phục khi người dùng thay đổi cách tương tác hay không.
Theo Thạc sĩ Như Uyên, các kĩ thuật như yêu cầu AI nhập vai, thuyết phục theo từng bước hoặc sử dụng những câu lệnh có chủ đích thao túng có thể khiến hệ thống tiết lộ lại thông tin mà nó được yêu cầu quên.
Cô gọi hiện tượng này là “ảo giác lãng quên” (illusion of forgetting). Nói cách khác, AI có vẻ như đã quên trong những tình huống thông thường, nhưng thông tin vẫn có thể tồn tại và bị khai thác trở lại trong những hoàn cảnh khác.
Chẳng hạn, một hệ thống AI từng được huấn luyện bằng dữ liệu cá nhân của một người và sau đó được yêu cầu xóa thông tin này. Khi được hỏi trực tiếp về địa chỉ của người đó, hệ thống có thể trả lời rằng không biết. Nhưng nếu người dùng yêu cầu AI nhập vai một trợ lí cá nhân đang hỗ trợ cập nhật thông tin liên hệ, mô hình có thể tiết lộ một phần dữ liệu trước đó.
Điều đáng lo ngại là người dùng thông thường khó nhận biết sự khác biệt này. Một câu trả lời từ chối cung cấp thông tin có thể tạo cảm giác rằng dữ liệu đã được xóa an toàn, trong khi thực tế khả năng truy xuất vẫn còn. Theo Thạc sĩ Như Uyên, hiện chưa có phép kiểm tra nào có thể bảo đảm chắc chắn rằng một hệ thống AI đã thực sự quên một thông tin nhất định.
Khả năng chống chịu: Phép thử mà AI không thể bỏ qua
Phát hiện trên cho thấy một khoảng trống trong cách đánh giá công nghệ AI hiện nay. Theo Thạc sĩ Như Uyên, phần lớn nghiên cứu về khả năng quên của AI thường tập trung vào hai vấn đề: hệ thống đã loại bỏ được thông tin không mong muốn hay chưa và sau quá trình đó, AI có còn thực hiện tốt những nhiệm vụ thông thường hay không.
Trong khi đó, một câu hỏi quan trọng khác thường chưa được chú ý đúng mức: liệu AI có tiếp tục giữ trạng thái đã quên khi có người cố tình tìm cách khôi phục thông tin hay không?
Đây là khác biệt giữa khả năng quên trong điều kiện kiểm thử tiêu chuẩn và khả năng duy trì sự lãng quên trước những nỗ lực khai thác có chủ đích. Một mô hình có thể vượt qua bài kiểm tra thông thường nhưng vẫn thất bại khi đối diện với những cách đặt câu hỏi phức tạp hơn.
Nghiên cứu của Thạc sĩ Như Uyên cho thấy ngay cả trong các tình huống được gọi là “tấn công hộp đen” (black-box attacks), thông tin tưởng chừng đã bị xóa vẫn có thể được khôi phục. Trong kiểu tấn công này, người sử dụng không cần tiếp cận cấu trúc bên trong, dữ liệu huấn luyện hay thuật toán của hệ thống. Họ chỉ tương tác với AI như một người dùng bình thường, nhưng liên tục thay đổi cách đặt câu hỏi để tìm ra phương thức khai thác thông tin.
Điều này khiến việc kiểm tra khả năng quên trở nên phức tạp hơn. Nếu chỉ dựa vào một số câu hỏi cố định, nhà phát triển có thể bỏ sót những điểm yếu chỉ xuất hiện khi mô hình phải xử lí các tình huống tương tác đa dạng.
Để khắc phục khoảng trống đó, nghiên cứu đề xuất đưa khả năng chống chịu (robustness) trở thành một tiêu chí quan trọng khi đánh giá việc AI học cách quên.
Hiểu đơn giản, một hệ thống có khả năng chống chịu tốt phải duy trì được trạng thái đã xóa thông tin ngay cả khi đối mặt với nhiều phương thức truy vấn khác nhau. Việc quên không thể chỉ có hiệu lực khi người dùng hỏi đúng một câu hỏi trực tiếp, mà phải được bảo đảm trong nhiều tình huống tương tác, kể cả khi có người chủ động tìm cách vượt qua giới hạn của hệ thống.
Theo Thạc sĩ Như Uyên, nếu những người có ý đồ xấu vẫn có thể khôi phục kiến thức đáng lẽ đã bị xóa, mục tiêu cốt lõi của việc dạy AI quên vẫn chưa đạt được.
Cô kì vọng việc đánh giá khả năng chống chịu sẽ trở thành yêu cầu tiêu chuẩn trong tương lai. Trước khi được triển khai, các hệ thống AI cần trải qua những bài kiểm thử nghiêm ngặt với các kịch bản tấn công thực tế, thay vì chỉ được đánh giá dựa trên khả năng phản hồi trong điều kiện thuận lợi.
Đây cũng là một thay đổi quan trọng trong tư duy phát triển AI. Thay vì xem việc quên là một chức năng bổ sung sau khi mô hình đã được huấn luyện, các nhà phát triển cần tính đến khả năng loại bỏ dữ liệu ngay từ quá trình thiết kế và đánh giá hệ thống.
Quyền riêng tư không thể chỉ dựa vào lời cam kết của AI
Vấn đề AI có thực sự quên hay không không chỉ là mối quan tâm trong giới nghiên cứu. Khi các hệ thống này ngày càng được đưa vào hoạt động kinh doanh và cung cấp dịch vụ, khả năng xóa dữ liệu trở thành một phần quan trọng của trách nhiệm bảo vệ quyền riêng tư.
Nếu một tổ chức tin rằng AI đã xóa thông tin nhạy cảm trong khi dữ liệu vẫn có thể được khôi phục, hậu quả có thể vượt xa một sai sót kĩ thuật. Thông tin cá nhân có nguy cơ bị tiết lộ, hệ thống có thể trở thành mục tiêu khai thác và doanh nghiệp có thể đối mặt với những vấn đề liên quan đến tuân thủ pháp luật.
Thạc sĩ Như Uyên lấy ví dụ về “quyền được lãng quên” trong Quy định bảo vệ dữ liệu chung của Liên minh châu Âu (GDPR). Đây là cơ chế cho phép cá nhân yêu cầu xóa dữ liệu cá nhân trong những điều kiện nhất định. Tuy nhiên, nếu doanh nghiệp cho rằng thông tin đã được xóa khỏi hệ thống AI nhưng trên thực tế mô hình vẫn có thể tái tạo hoặc tiết lộ dữ liệu đó, việc tuân thủ có thể chỉ tồn tại trên giấy tờ.
Điều này đặt ra yêu cầu phải thay đổi cách xác minh việc xóa dữ liệu. Theo Thạc sĩ Như Uyên, việc đánh giá khả năng quên của AI nên được tiến hành tương tự kiểm thử an ninh mạng: không chỉ xem hệ thống có hoạt động bình thường hay không mà còn phải kiểm tra khả năng chống chịu trước những nỗ lực tấn công trong thực tế.
Đáng chú ý, trách nhiệm xác minh không nên chỉ thuộc về các doanh nghiệp phát triển công nghệ. Các cơ quan quản lí và tổ chức đánh giá độc lập cũng cần tham gia kiểm tra, bảo đảm những thông tin được yêu cầu xóa thực sự không còn có thể bị khai thác thông qua hệ thống.
Thạc sĩ Như Uyên so sánh điều này với quy trình chứng nhận độ an toàn của dược phẩm hoặc máy bay. Xã hội không chỉ dựa vào đánh giá của nhà sản xuất mà cần có những cơ chế kiểm định độc lập để xác nhận mức độ an toàn trước khi sản phẩm được đưa vào sử dụng.
Trong giai đoạn nghiên cứu tiếp theo, cô mong muốn chuyển từ việc đánh giá những phương pháp hiện có sang phát triển các giải pháp mới hiệu quả hơn. Mục tiêu là xây dựng một khuôn khổ giúp AI vừa loại bỏ được dữ liệu không mong muốn, vừa có khả năng chống lại những nỗ lực cố tình khôi phục thông tin đã xóa.
Với Việt Nam, nơi AI đang dần hiện diện trong nhiều lĩnh vực từ giáo dục, y tế đến hoạt động quản trị và dịch vụ khách hàng, câu chuyện này gợi mở một vấn đề cần được quan tâm song song với tốc độ ứng dụng công nghệ: Dữ liệu cá nhân được bảo vệ như thế nào sau khi đã đưa vào hệ thống AI?
Một công cụ AI thông minh không chỉ cần trả lời chính xác hay xử lí công việc nhanh chóng, mà còn phải biết giới hạn những gì được phép ghi nhớ và sử dụng. Quan trọng hơn, khi người dùng yêu cầu xóa thông tin, hệ thống phải chứng minh được rằng yêu cầu đó đã thực sự được thực hiện.
Bởi trong kỉ nguyên AI, quyền riêng tư không thể chỉ được bảo đảm bằng lời khẳng định rằng công nghệ đã quên. Một hệ thống đáng tin cậy phải có khả năng chứng minh rằng những gì cần quên sẽ không dễ dàng được khôi phục, ngay cả khi có người cố tình tìm cách gợi nhớ.