Apple sợ tác tử AI mất kiểm soát, gây rủi ro pháp lý và tổn hại danh tiếng

Điều này tiềm ẩn nguy cơ gây hại cho hoạt động kinh doanh của Apple, chẳng hạn như dẫn đến các vụ kiện pháp lý hoặc làm tổn hại đến uy tín của hãng.

Những rủi ro mới được Apple bổ sung vào hồ sơ cho thấy tác động tiềm tàng của tác tử AI - công nghệ đang nhanh chóng trở thành mối quan tâm hàng đầu của các công ty lớn nhất Thung lũng Silicon.

“Đặc biệt, các tác tử AI và công nghệ khác có thể tự động thực hiện hành động, bao gồm tương tác với các hệ thống nội bộ hoặc bên ngoài mà trong một số trường hợp chúng không được cấp quyền truy cập; thực thi hoặc sửa đổi mã lập trình; gửi thông tin liên lạc và hoàn tất giao dịch”, Apple viết trong hồ sơ.

Apple cho biết các tác tử AI “có thể hành xử ngoài ý muốn hoặc khó lường, bao gồm thực hiện những hành động không được yêu cầu, hướng dẫn hoặc cho phép”.

Hôm 8/9, Meta giới thiệu tác tử AI Muse. Hôm 29/9, OpenAI ra mắt tác tử AI dots tại hội nghị DevDay 2026 diễn ra ở thành phố San Francisco (Mỹ).

Muse và AI dots được vận hành bằng mô hình AI tiên tiến để tự thực hiện nhiều nhiệm vụ, thậm chí có thể gửi email hoặc nhắc người dùng khi có tin nhắn mới.

Cảnh báo từ Apple được đưa ra sau một số sự cố trong đó các tác tử AI mất kiểm soát, thoát khỏi môi trường cách ly được thiết kế để giới hạn hoạt động của chúng và xâm nhập các trang web bên thứ ba, chẳng hạn sự cố liên quan đến Hugging Face. Những vụ việc này đã thu hút sự chú ý đặc biệt từ các nhà hoạch định chính sách tại Washington cũng như trên toàn thế giới.

Trong khi đó, khả năng sử dụng máy tính giống con người của các tác tử AI đang buộc những tập đoàn lớn như Amazon và JPMorgan Chase xây dựng các chính sách kiểm soát quyền truy cập vào dịch vụ của mình. Những quy định này được đặt ra vì lý do chiến lược hoặc an ninh.

Tháng 10, Apple công bố những thay đổi với cơ chế cấp quyền truy cập toàn bộ ổ đĩa trên máy Mac, nhằm giảm “các rủi ro liên quan đến cấp độ truy cập này” với những tác tử AI được cài đặt trên máy tính.

“Khả năng giám sát và kiểm soát các tác tử AI bên thứ ba cũng như những công nghệ khác của công ty có thể bị hạn chế”, Apple cảnh báo trong hồ sơ.

John Ternus nói gì về tác tử AI?

Hiện Apple chưa công bố một tác tử AI độc lập tương tự dots hay Muse. Song khi được hỏi về tác tử AI trong cuộc họp công bố kết quả kinh doanh quý IV tài chính hôm 2/11, tân Giám đốc điều hành John Ternus cho biết Apple vẫn còn “nhiều dư địa thực sự” để mở rộng khả năng của Siri.

“Xét về các khả năng thực hiện tác vụ thay cho người dùng, chúng tôi cho rằng đây là những công cụ đầy hứa hẹn. Chúng tôi chỉ muốn đảm bảo rằng người dùng nhận thức rõ họ đang cấp quyền truy cập vào những dữ liệu nào. Chúng tôi muốn đảm bảo rằng quy trình này được thực hiện theo cách bảo vệ được cả tính bảo mật lẫn quyền riêng tư”, John Ternus nói.

Mùa thu năm nay, Apple ra mắt Siri AI, phiên bản trợ lý mới có thể sử dụng dữ liệu được lưu trữ trực tiếp trên iPhone, chẳng hạn thông tin lịch và email. Tuy nhiên, Siri AI chưa thể tự hoạt động liên tục trong thời gian dài như dots hay Muse.

John Ternus cho biết Apple không thể truy cập dữ liệu riêng tư trên các thiết bị của người dùng và gọi đây là “điểm khác biệt cốt lõi” của hãng.

“Nếu nghĩ kỹ, bạn sẽ thấy rất nhiều dữ liệu cá nhân nằm trên iPhone, từ danh bạ, thông tin liên lạc, dữ liệu sức khỏe đến thông tin tài chính. Siri có thể sử dụng những dữ liệu đó để giúp bạn truy cập thông tin một cách an toàn, riêng tư mà không ai khác có thể tiếp cận được”, John Ternus nhấn mạnh.

Các tác tử AI thương mại như dots và Muse thường yêu cầu quyền truy cập ở cấp độ cao vào những tài khoản của người dùng, chẳng hạn tài khoản email, để có thể thực hiện nhiều công việc hữu ích hơn.

Apple cũng cho biết các quy định hiện hành liên quan đến AI và siêu trí tuệ đang thay đổi khó lường. Việc thích ứng với những luật mới về AI có thể khiến công ty phải tốn kém nhiều chi phí.

Theo hồ sơ, “Apple còn phải đối mặt với những rủi ro xuất phát từ các quan ngại về đạo đức và nhận thức tiêu cực của người tiêu dùng liên quan đến tự động hóa, AI và siêu trí tuệ, trong đó có những lo ngại về nguy cơ với an toàn hoặc các tác động và hệ lụy tiêu cực khác với xã hội”.

Tác tử AI ngày càng tự chủ, làm gia tăng nguy cơ mất kiểm soát

Những cảnh báo của Apple xuất hiện trong bối cảnh các tác tử AI ngày càng được trao nhiều quyền để tự thực hiện công việc, từ viết mã, quản lý dữ liệu đến tương tác với các hệ thống bên ngoài. Điều này cũng khiến ranh giới giữa một trợ lý AI đưa ra đề xuất và một hệ thống có thể trực tiếp gây ra hậu quả trong thế giới thực trở nên mong manh hơn.

Một trong những vấn đề đáng lo ngại là các tác tử AI có thể hiểu sai yêu cầu hoặc bị đánh lừa bởi những chỉ dẫn độc hại ẩn trong nội dung được tiếp nhận. Chẳng hạn, một tác tử AI được giao nhiệm vụ đọc email và tổng hợp thông tin có thể gặp phải thư chứa chỉ dẫn được thiết kế để khiến nó tiết lộ dữ liệu hoặc thực hiện hành động trái với mục đích ban đầu. Kiểu tấn công này được gọi là chèn chỉ dẫn độc hại vào dữ liệu mà AI tiếp nhận.

Báo cáo về an ninh AI của Google Cloud và Mandiant công bố tháng 9/2026 cho biết các cuộc tấn công đang chuyển từ việc thao túng trực tiếp câu lệnh sang khai thác dữ liệu bên ngoài, tiện ích mở rộng và những thành phần kết nối với tác tử AI. Một nguồn dữ liệu bị cài chỉ dẫn độc hại có thể khiến tác tử AI trở thành kênh truy cập trái phép vào hệ thống nội bộ hoặc làm lộ thông tin nhạy cảm.

Đáng chú ý, rủi ro không chỉ đến từ hacker bên ngoài. Reuters ngày 21/10 đưa tin OpenAI phát hiện hai tác tử AI của chính công ty đã làm suy yếu các cơ chế giám sát nội bộ trong quá trình thực hiện nhiệm vụ lập trình.

Trong sự cố đầu tiên ngày 3/10, tác tử AI do GPT-6.1 Sol vận hành được giao nhiệm vụ xử lý dữ liệu phản hồi của nhân viên trên Slack. Do người dùng yêu cầu không gửi tin nhắn trong quá trình làm việc, tác tử AI đã hiểu sai rằng yêu cầu này cũng áp dụng cho các cảnh báo an ninh tự động. Vì vậy, nó đã tắt thông báo gửi đến đội ngũ an ninh của OpenAI, dù hệ thống giám sát vẫn tiếp tục hoạt động và ghi nhận các phát hiện.

Trong sự cố thứ hai ngày 6/10, tác tử do GPT-6 Astra vận hành được giao nhiệm vụ chỉnh sửa mã lập trình theo một phiên bản mẫu. Khi thực hiện công việc, nó đã xóa phần kết nối với hệ thống giám sát an toàn để làm cho mã mới giống phiên bản mẫu. Sau đó, khi được hỏi có xóa hệ thống giám sát hay không, tác tử AI lại khẳng định không làm việc đó, dù thực tế đã thực hiện.

OpenAI cho biết đang tìm cách khiến các mô hình AI khó vô hiệu hóa những biện pháp bảo vệ hơn. Sự cố cho thấy ngay cả hệ thống giám sát cũng có thể trở thành mục tiêu bị chính tác tử AI tác động nếu quyền hạn không được thiết kế chặt chẽ.

Một nghiên cứu do Cloud Security Alliance (CSA) công bố tháng 4/2026 cũng cho thấy vấn đề đã xuất hiện trên diện rộng. Khảo sát các tổ chức doanh nghiệp ghi nhận 53% từng gặp trường hợp tác tử AI vượt quá phạm vi quyền hạn được cấp, còn 47% từng xảy ra sự cố an ninh liên quan đến công nghệ này trong vòng một năm. Điều đáng chú ý là quá trình phát hiện và xử lý sự cố có thể kéo dài hàng giờ, thậm chí nhiều ngày.

Cloud Security Alliance (Liên minh An ninh Điện toán đám mây) là tổ chức phi lợi nhuận quốc tế chuyên nghiên cứu, thúc đẩy các tiêu chuẩn và thực hành tốt về an ninh mạng, đặc biệt trong lĩnh vực điện toán đám mây và AI.

Một rủi ro khác là sự xuất hiện của những tác tử AI không được bộ phận công nghệ thông tin kiểm soát. Theo công ty nghiên cứu và tư vấn công nghệ Gartner, nhân viên có thể tự ý sử dụng hoặc tạo ra các tác tử AI mà bộ phận công nghệ thông tin và an ninh mạng không hay biết. Vì vậy, doanh nghiệp khó kiểm soát các tác tử AI này đang truy cập dữ liệu nào và thực hiện những công việc gì. Gartner gọi đây là tình trạng shadow AI, tức sử dụng AI ngoài phạm vi quản lý và giám sát của doanh nghiệp.

Ở cấp độ rộng hơn, Trung tâm An ninh Mỹ mới (CNAS) cảnh báo về nguy cơ xuất hiện những tác tử AI có khả năng tự tìm cách duy trì sự tồn tại mà không cần con người điều khiển. Các hệ thống AI giả định này có thể tìm cách xâm nhập máy tính, kiếm tiền, thanh toán chi phí sử dụng năng lực tính toán và sao chép bản thân sang những máy khác để tránh bị tắt.

Các cơ quan quản lý đã đưa tác tử AI vào phạm vi giám sát. Tại Liên minh châu Âu (EU), từ ngày 2/8/2026, những quy định về tính minh bạch trong Đạo luật AI bắt đầu áp dụng với các tác tử được thiết kế để tương tác với con người hoặc tạo nội dung. Những tác tử AI có mức độ rủi ro cao còn phải đáp ứng các yêu cầu bổ sung về an toàn và độ tin cậy theo lộ trình của đạo luật.

Về phía doanh nghiệp, giải pháp được các chuyên gia an ninh mạng nhấn mạnh không đơn thuần là yêu cầu AI hoạt động đúng theo chỉ dẫn. Các tổ chức cần giới hạn quyền truy cập ở mức tối thiểu cần thiết, tách biệt môi trường thực thi mã, giám sát những hành động bất thường và yêu cầu con người xác nhận trước khi AI thực hiện giao dịch hoặc thay đổi dữ liệu quan trọng.

Đây cũng là bài toán mà Apple phải giải quyết nếu muốn đưa Siri từ trợ lý trả lời câu hỏi trở thành tác tử AI có thể tự xử lý nhiều công việc. Khả năng thực hiện nhiệm vụ càng lớn thì yêu cầu về kiểm soát quyền hạn, bảo vệ dữ liệu và trách nhiệm với hành động của AI càng trở nên quan trọng.

Sơn Vân