Khi AI không chỉ trả lời mà còn tự hành động, ai sẽ kiểm soát?

Chiều 14/8 tại Hà Nội, Tạp chí điện tử An ninh mạng Việt Nam, dưới sự chỉ đạo của Hiệp hội An ninh mạng quốc gia, tổ chức Hội thảo “Kiến tạo niềm tin số - Doanh nghiệp Việt chung tay bảo vệ người dùng”. Từ góc độ quản lý, công nghệ và thực tiễn phòng, chống lừa đảo, các chuyên gia cho rằng bảo vệ người dùng trong kỷ nguyên AI không thể chỉ dựa vào khả năng nhận biết của mỗi cá nhân, mà cần một hệ thống phòng vệ chủ động, có khả năng phát hiện và ngăn chặn rủi ro theo thời gian thực.

Khi AI bắt đầu có quyền hành động

Nếu những thế hệ GenAI đầu tiên chủ yếu tiếp nhận câu lệnh và tạo ra câu trả lời, sự xuất hiện của AI Agent đang mở ra một bước chuyển mới. Những hệ thống này có thể đọc tài liệu, email, phân tích thông tin, tự suy luận, gọi công cụ (tools/MCP), truy cập API và thực hiện một chuỗi tác vụ thay con người.

Ông Vũ Mạnh Kiểm - Phó giám đốc Công nghệ nền tảng, Trung tâm An toàn thông tin (Tập đoàn VNPT) - đặt vấn đề: Khi AI có thể tự hành động, ai kiểm soát AI?

Theo ông Kiểm, khi AI từ một công cụ hỗ trợ trở thành hệ thống có khả năng tự thực hiện tác vụ , diện tấn công (attack surface) của doanh nghiệp cũng mở rộng. Bài toán an toàn vì thế không còn chỉ xoay quanh việc kiểm soát người dùng, thiết bị, ứng dụng hay dữ liệu, mà phải tính đến một chủ thể mới có khả năng tự đưa ra quyết định và tương tác với nhiều hệ thống khác nhau.

Câu hỏi an ninh không còn đơn thuần là “AI trả lời cái gì?”, mà là “AI được phép làm gì?”.

Một trong những rủi ro có thể xuất hiện ngay từ quá trình sử dụng AI. Nhân viên văn phòng hoặc lập trình viên có thể vô tình đưa mã nguồn, hợp đồng nội bộ, báo cáo tài chính hay dữ liệu cá nhân lên các công cụ AI công khai để tóm tắt, sửa lỗi hoặc tối ưu công việc.

Ở cấp độ phức tạp hơn, khi AI Agent được trao quyền truy cập công cụ và các hệ thống phía sau, những kỹ thuật như Prompt Injection hay Jailbreak có thể không chỉ khiến AI đưa ra câu trả lời sai, mà còn tác động đến hành vi của Agent, khiến hệ thống thực hiện những tác vụ ngoài dự kiến hoặc truy cập tài nguyên không được phép.

Theo ông Kiểm, điều này đặt ra yêu cầu phải kiểm soát toàn bộ chuỗi tương tác giữa Prompt - Context - Agent - Tool/MCP, thay vì chỉ kiểm tra đầu vào và đầu ra của mô hình.

Từ bài toán đó, VNPT đề xuất mô hình AI Guardrails, đóng vai trò như một lớp kiểm soát an toàn cho các ứng dụng AI trong doanh nghiệp. Lớp kiểm soát này hướng tới việc phát hiện dữ liệu nhạy cảm, kiểm soát quyền của AI Agent khi sử dụng công cụ, đối chiếu quyền hạn tại thời điểm thực thi và có cơ chế ngắt khi phát hiện hành vi bất thường.

Cách tiếp cận này cho thấy một thay đổi trong tư duy bảo mật: không chỉ bảo vệ hệ thống trước AI, mà phải đặt AI trong một “hàng rào” để bảo đảm mọi hành động của nó vẫn nằm trong giới hạn được con người cho phép.

Không thể chỉ yêu cầu người dùng cẩn thận

Nhưng dù công nghệ có phát triển đến đâu, con người vẫn là mắt xích quyết định trong nhiều cuộc tấn công. TS. Nguyễn Thanh Bình, chuyên gia tư vấn giải pháp an ninh mạng toàn cầu FPT IS, cho rằng tội phạm mạng ngày càng khai thác sâu yếu tố tâm lý để thao túng nạn nhân. Khoảng cách giữa việc một người biết một thủ đoạn lừa đảo và việc họ đủ bình tĩnh để không thực hiện hành vi theo yêu cầu của kẻ gian là rất lớn.

Theo ông Bình, việc cho người dùng trải nghiệm các kịch bản giả lập có thể giúp họ nhận diện trạng thái cảm xúc mà kẻ tấn công cố tình tạo ra. Tuy nhiên, nếu chỉ dừng ở việc nâng cao nhận thức thì chưa đủ. Doanh nghiệp, ngân hàng và các nền tảng số cần bổ sung những lớp bảo vệ kỹ thuật có khả năng tự động phát hiện và ngăn chặn rủi ro.

Cùng góc nhìn về yếu tố con người, ông Ngô Minh Hiếu, Giám đốc Chống Lừa Đảo, thành viên Hiệp hội An ninh mạng Quốc gia, cho rằng kẻ gian thường đánh vào lòng tham, sự tò mò hoặc tạo áp lực thời gian để khiến nạn nhân mất bình tĩnh.

Trong bối cảnh các công cụ AI khiến nội dung giả ngày càng khó nhận biết, ông Hiếu khuyến nghị người dùng duy trì nguyên tắc (Chậm lại - Kiểm chứng -Tự bảo vệ) trước những yêu cầu bất thường trên không gian mạng.

Nhưng ngay cả nguyên tắc này cũng không thể thay thế hoàn toàn cho các lớp bảo vệ tự động. Bởi trong nhiều tình huống, người dùng có thể chỉ có vài giây để quyết định có nhấp vào một đường link, chuyển tiền hay cung cấp thông tin hay không.

Dữ liệu cộng đồng có thể trở thành lá chắn số

Một hướng tiếp cận khác đang được đặt ra là biến dữ liệu về các vụ lừa đảo, đường link độc hại và website vi phạm thành nguồn cảnh báo sớm cho toàn bộ hệ sinh thái số.

Ông Ngô Minh Hiếu cho biết hệ thống Chống lừa đảo hiện đã thu thập hơn 18 triệu đường link độc hại và cập nhật trên 50.000 trang web vi phạm mỗi ngày nhờ ứng dụng các mô hình AI và hợp tác với các tập đoàn công nghệ lớn.

Theo ông Hiếu, nguồn dữ liệu này hiện đã được chia sẻ với Cục An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao (A05). Hướng đi tiếp theo là kết nối dữ liệu cảnh báo trực tiếp với ví điện tử, ứng dụng ngân hàng và các nhà mạng viễn thông, qua đó giúp phát hiện và cảnh báo rủi ro theo thời gian thực mà không buộc người dùng phải tự cài đặt hay thao tác quá nhiều.

Nếu được triển khai ở quy mô rộng, cách tiếp cận này có thể tạo ra một thay đổi quan trọng: thay vì chờ người dân nhận diện một cuộc lừa đảo sau khi đã xảy ra, hệ thống có thể cảnh báo hoặc ngăn chặn ngay trong quá trình người dùng tương tác với dịch vụ số.

Bảo vệ cả hành trình số

Phát biểu tại hội thảo, Thượng tá Triệu Mạnh Tùng - Phó cục trưởng Cục An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao (A05, Bộ Công an) - nhấn mạnh yêu cầu chuyển từ tư duy bảo vệ từng hệ thống sang bảo vệ cả hệ sinh thái số và toàn bộ hành trình số của người dùng.

Theo lãnh đạo A05, khi AI, deepfake và công nghệ tự động hóa đang bị lợi dụng để biến tướng các hình thức tấn công, phòng thủ cũng phải chuyển từ bị động sang chủ động. Doanh nghiệp cần tích hợp an ninh mạng ngay từ khâu phát triển sản phẩm, tăng cường khả năng phát hiện và ngăn chặn sớm, chia sẻ thông tin liên ngành, đồng thời gắn bảo vệ an ninh mạng với bảo vệ dữ liệu cá nhân.

“Trước xu hướng tấn công ngày càng tự động hóa, tốc độ phòng thủ phải nhanh hơn tốc độ tấn công”, Thượng tá Triệu Mạnh Tùng nhấn mạnh.

Đó cũng là yêu cầu đặt ra cho một lá chắn số không chỉ dựa vào sự cảnh giác của từng người dùng, mà phải được hình thành từ dữ liệu, công nghệ, khả năng cảnh báo theo thời gian thực và những lớp kiểm soát được xây dựng ngay bên trong hệ sinh thái số.

Bởi khi AI có thể tự hành động, niềm tin số không chỉ nằm ở việc con người có thể nhận biết đâu là thật, đâu là giả, mà còn ở khả năng bảo đảm mọi hành động của công nghệ vẫn nằm trong giới hạn mà con người cho phép.