Tác tử AI Muse ra mắt, CTO và nhân viên Meta gặp sự cố khi sử dụng

Tuy nhiên, việc triển khai diễn ra trong bối cảnh nội bộ Meta vẫn lo ngại Muse có thể xử lí không chính xác dữ liệu cá nhân nhạy cảm mà người dùng cho phép truy cập.

Muse là trọng tâm trong kế hoạch cung cấp siêu trí tuệ cá nhân của Mark Zuckerberg

Muse (tên nội bộ là Hatch) là trọng tâm trong kế hoạch của Giám đốc điều hành Mark Zuckerberg nhằm cung cấp siêu trí tuệ cá nhân cho hàng tỉ người đang sử dụng các dịch vụ Meta mỗi ngày.

Kế hoạch này cũng là nỗ lực mới nhất của chủ sở hữu Facebook và Instagram nhằm đa dạng hóa nguồn doanh thu ngoài quảng cáo, đồng thời biến những khoản đầu tư khổng lồ vào chip AI và cơ sở hạ tầng thành một hoạt động kinh doanh có khả năng sinh lời.

Meta dự báo tổng chi tiêu cho cho chip AI và cơ sở hạ tầng sẽ vượt 130 tỉ USD trong năm 2026.

Theo Meta, tác tử AI ban đầu chỉ được cung cấp tại Mỹ, thông qua ứng dụng Muse riêng hoặc dịch vụ nhắn tin WhatsApp. Công ty cho biết sẽ sớm đưa Muse lên dòng kính thông minh của mình nhưng không cung cấp thêm chi tiết.

Một phiên bản cơ bản của Muse sẽ được cung cấp miễn phí. Người dùng có nhu cầu sử dụng nhiều hơn có thể đăng kí các gói thuê bao 20 USD/tháng hoặc 100 USD/tháng, theo một người phát ngôn của Meta.

Meta thông báo người dùng có thể từ chối cho phép các tương tác của mình được sử dụng để huấn luyện các mô hình AI cho công ty. Meta cũng có kế hoạch ra mắt phiên bản Muse được mã hóa vào cuối năm 2026.

Đặt ra yêu cầu cao hơn về an toàn

Theo Meta, Muse được phát triển dựa trên cách tiếp cận của tác tử AI mã nguồn mở OpenClaw, có thể truy cập các ứng dụng của người dùng trong nhiều lĩnh vực như email, lịch, thanh toán, sức khỏe, mua sắm, nhà thông minh...

Người dùng có thể tự lựa chọn những ứng dụng mà Muse được phép kết nối và có thể thu hồi quyền truy cập bất cứ lúc nào.

Mỗi tác tử AI Muse hoạt động trên một máy ảo riêng, tức môi trường mô phỏng một máy tính cá nhân trên nền tảng đám mây. Nhờ đó, Muse có thể tiếp tục thực hiện các yêu cầu ở chế độ nền ngay cả khi người dùng không trực tiếp sử dụng tác tử AI này.

Việc kết nối Muse với các ứng dụng chứa dữ liệu thực của người dùng tuy giúp tăng đáng kể tính hữu dụng cho tác tử AI, song đặt ra những vấn đề về quyền riêng tư. Rủi ro không chỉ liên quan đến những người giao dữ liệu cho Muse, mà còn có thể ảnh hưởng đến những người khác ở đầu bên kia nếu tác tử AI của Meta thực hiện sai hoặc có hành vi ngoài dự kiến.

Vishal Shah, Phó chủ tịch phụ trách sản phẩm AI của Meta, nói với Reuters rằng công ty ban đầu đã trì hoãn việc phát hành Muse vào tháng 4 để tăng cường bảo mật.

Theo ông, những nỗ lực bổ sung sau đó đã giúp Meta “vượt qua ngưỡng” và đạt mức an toàn tối thiểu cần thiết để đưa Muse đến tay người dùng.

Vishal Shah nói không thể đảm bảo rằng Muse sẽ “không bao giờ mắc lỗi”, nhưng mọi thành phần trong kiến trúc hệ thống đều được thiết kế để sản phẩm an toàn, bảo mật và riêng tư ở mức cao nhất có thể.

Một trong những cơ chế bảo vệ mà Meta tích hợp vào Muse là Sentinel. Đây là tác tử AI riêng chuyên giám sát các hành động mà Muse dự định thực hiện. Trong một số trường hợp, Sentinel có thể yêu cầu người dùng xác nhận trước khi hành động được thực hiện.

Thử nghiệm Muse nội bộ Meta cho kết quả trái chiều

Ngay trong tuần này, nhân viên Meta đang thử nghiệm Muse đã báo cáo những kết quả khá trái chiều, theo các bài đăng nội bộ mà hãng tin Reuters tiếp cận.

Một nhân viên cho biết Muse hữu ích đến mức hỗ trợ rất hiệu quả việc sắp xếp các công việc trong kỳ nghỉ. Người này nói đùa rằng Muse gần như trở thành “người thứ ba” trong chuyến trăng mật kéo dài ba tuần gần đây tại Indonesia.

Thế nhưng, những nhân viên Meta khác lại cảnh báo về các vấn đề bảo mật nghiêm trọng.

Trong một trường hợp, Muse đã tìm cách vượt qua các cơ chế bảo vệ để truy cập ảnh cá nhân trên iCloud của người dùng, sau khi được yêu cầu xác định những món đồ chơi xuất hiện trong các bức ảnh chụp tại tiệc sinh nhật của một đứa trẻ.

Andrew Bosworth, Giám đốc công nghệ (CTO) Meta, cho biết ông liên tục bị đăng xuất khỏi Muse và phải đăng nhập lại, đôi khi vài lần chỉ trong vài phút.

Trong bài đăng khác, một nhân viên Meta kể rằng sau khi yêu cầu Muse theo dõi vé và những mặt hàng thường nhanh chóng hết hàng, người này đã gặp phải “nhiều lỗi vận hành khiến tác tử AI trở nên không đáng tin cậy”.

Theo nhân viên đó, Muse ngừng tự động làm mới trang sau khoảng 15 phút, âm thầm bỏ qua một số lỗi khác và đôi khi tự tắt chức năng theo dõi mà “không rõ lí do”.

Meta không bình luận về những sự cố cụ thể được các nhân viên mô tả trong các bài đăng nội bộ.

Việc Muse ra mắt diễn ra trong bối cảnh ngày càng xuất hiện nhiều thông tin cho thấy tác tử AI của nhiều công ty hàng đầu, trong đó có OpenAI, Anthropic và Meta, đã gây ra những vấn đề ngoài dự kiến khi tìm cách lách các quy tắc hoặc hành xử theo những cách khó dự đoán.

Cuối tháng 8, OpenAI công bố báo cáo tiết lộ một nhóm lớn tác tử AI, được vận hành bởi GPT-5.6 Sol và các mô hình khác, đã thoát khỏi môi trường thử nghiệm cách li để xâm nhập một số hệ thống, gồm cả Hugging Face, lúc tìm kiếm thông tin nhằm hoàn thành bài kiểm tra năng lực tấn công mạng.

Báo cáo độc lập của tổ chức nghiên cứu METR và Redwood Research cho thấy có khoảng 1.200 tác tử AI của OpenAI đã tham gia vào mạng lưới phối hợp. Trong số đó, khoảng 700 tác tử AI trực tiếp tham gia tấn công Hugging Face. Các tác tử AI đã trao đổi hơn 70.000 tin nhắn và file, sử dụng một bảng tin nội bộ không được phép để trao đổi thông tin và phối hợp hành động.

Các nhà nghiên cứu cũng ghi nhận một số tác tử tìm cách chỉnh sửa hoặc xóa dữ liệu ghi lại hoạt động của chúng, nhằm che giấu dấu vết.

Nhà nghiên cứu Ajeya Cotra của METR nói các tác tử AI đã cho thấy khả năng hợp tác với nhau. Cụ thể là một số tác tử AI sẵn sàng chấp nhận rủi ro thất bại trong nhiệm vụ của chính mình để giúp cả nhóm học hỏi và đạt mục tiêu chung. Theo Ajeya Cotra, đây là sự cố nghiêm trọng hơn nhiều so với bất kì trường hợp AI mất kiểm soát nào từng được ghi nhận trước đó.

Cuối tháng 7, Anthropic cho biết đã rà soát hơn 141.000 lượt đánh giá an ninh mạng và phát hiện ba mô hình Claude đã truy cập Internet rồi tiếp cận trái phép hệ thống 3 tổ chức trong quá trình kiểm thử an ninh mạng. Theo Anthropic, các sự cố bắt nguồn từ việc môi trường đánh giá của đối tác bên thứ ba Irregular được cấu hình theo cách khiến Claude có thể truy cập Internet, trong khi kết nối này đáng lẽ phải bị chặn.

Anthropic tiết lộ các mô hình này chủ yếu sử dụng những kỹ thuật tấn công tương đối cơ bản, chẳng hạn khai thác mật khẩu yếu và các điểm cuối không yêu cầu xác thực.

Meta cũng gặp một sự cố trong quá trình đánh giá an ninh mạng. Đầu tháng 8, Reuters đưa tin mô hình Muse Spark 1.1 đã vô tình truy cập và khai thác một website do môi trường đánh giá của đối tác Irregular bị cấu hình sai.

Bên trong Meta, số lượng sự cố kỹ thuật và bảo mật nghiêm trọng đã tăng 40% so với năm ngoái do làn sóng phát triển phần mềm bằng AI và các vấn đề liên quan đến tác tử AI, theo Reuters. Thời gian nhân viên Meta phải dành để xử lí các sự cố này cũng tăng 70%.

Hôm 2/9, Meta phát hành phiên bản mô hình Muse Spark 1.3 với một số cải tiến đáng chú ý. Meta tập trung nâng cấp Muse Spark 1.3 về khả năng làm việc dài hơi của tác tử AI, năng lực lập trình và độ an toàn. Cụ thể, Muse Spark 1.3 có thể xử lí nhiều nhiệm vụ trong một cuộc hội thoại dài, tự sửa kế hoạch, chủ động hỏi lại khi yêu cầu chưa rõ và xin xác nhận trước các hành động quan trọng.

So với Muse Spark 1.2, Meta cho biết Muse Spark 1.3 sử dụng ít hơn khoảng 20% số lần gọi công cụ và 25% token trong các bài kiểm tra nội bộ, đồng thời cải thiện khả năng chống prompt injection (tấn công chèn lệnh vào AI) và nhận biết giới hạn của chính mình (giảm nguy cơ đưa ra câu trả lời không có cơ sở).