Cơ quan Liên Hợp Quốc nêu sáng kiến kiểm soát hành vi của tác tử AI
Ngày 9/7, Liên minh Viễn thông Quốc tế (International Telecommunication Union - ITU), cơ quan Liên Hợp Quốc phụ trách công nghệ số, đã công bố sáng kiến nhằm xây dựng các khung pháp lý nhằm đảm bảo rằng hành vi của các tác tử AI luôn đáng tin cậy và có trách nhiệm giải trình trong suốt vòng đời hoạt động.
ITU đã cho ra mắt Nhóm Nghiên cứu Trọng điểm về Lòng tin và Danh tính cho Con người và AI Tác tử, trong bối cảnh AI đang nhanh chóng vượt ra ngoài vai trò công cụ hỗ trợ, ngày càng tự chủ hành động thay mặt con người.
Dù AI tác tử hứa hẹn mang lại bước nhảy lớn về năng suất, nó cũng đặt ra những rủi ro mới, từ việc tự chủ mạo danh cá nhân hoặc tổ chức, đến tự thực hiện các hành động trái phép xuyên suốt các hệ thống liên kết. Nhóm nghiên cứu của ITU sẽ giải quyết những thách thức này bằng cách xây dựng các khung pháp lý nhằm duy trì quyền kiểm soát thực chất của con người đối với các tác vụ như thực hiện giao dịch tài chính và vận hành hạ tầng trọng yếu.
Theo Tổng Thư ký ITU Doreen Bogdan-Martin, khi AI ngày càng tự chủ hơn, các ngành công nghiệp, chính phủ, giới học thuật và xã hội dân sự cần hợp tác chặt chẽ hơn để đảm bảo mức độ tin cậy cao nhất có thể đối với các hệ thống.
Khi các hệ thống lập kế hoạch và hành động với mức độ độc lập ngày càng cao, khả năng xác lập danh tính của một tác tử và liệu hành vi của nó có đáng tin cậy hay không trở nên hết sức quan trọng. Ngày càng nhiều tác tử AI cần nhận dạng và xác thực lẫn nhau. Quan trọng không kém, các quyết định và hành động của chúng phải luôn có trách nhiệm giải trình, kiểm soát được và đáng tin cậy.
Hệ thống danh tính sẽ xác lập ai đang hành động, trong khi độ tin cậy xác định liệu chủ thể đó có đáng tin hay không. Kết hợp cả hai tạo nên nền tảng cho sự tương tác an toàn giữa con người và các hệ thống AI tự chủ.
Nhóm nghiên cứu ITU sẽ giải quyết các thách thức về quản lý lòng tin giữa con người và tác tử AI, độ tin cậy tổng thể của các hệ thống, và các phương thức củng cố niềm tin vào cách tác tử AI hoạt động trong khi vẫn giữ quyền kiểm soát đối với hành động của chúng.
Nhóm mở cửa cho các chuyên gia kỹ thuật cũng như chuyên gia về chính sách, luật pháp và quản lý để xây dựng: thuật ngữ và định nghĩa chung; kiến trúc tham chiếu cho danh tính, lòng tin, khám phá tác tử và khả năng tương tác; các khung lòng tin và mô hình vòng đời; cơ chế tương tác cho danh tính số và chứng chỉ; tiêu chí bảo mật và chuẩn đối sánh cho việc đánh giá liên tục các tác tử; và lộ trình tiêu chuẩn hóa để phối hợp hành động giữa các cộng đồng chuyên gia.
Đội ngũ lãnh đạo mở rộng của nhóm nghiên cứu ITU đang được hoàn thiện trong những tuần tới. Nhóm sẽ tổ chức cuộc họp đầu tiên tại Paris vào tháng 11/2026 và cuộc họp thứ hai tại Geneva vào tháng 1/2027.
"Sự đồng thuận mà chúng tôi xây dựng trong quá trình phát triển các tiêu chuẩn ITU tạo ra sự rõ ràng cần thiết để các hệ sinh thái đổi mới sáng tạo mới phát triển," Seizo Onoe, Giám đốc Cục Tiêu chuẩn hóa Viễn thông ITU, phát biểu. "Nhóm nghiên cứu trọng điểm này là nền tảng mở, được thiết kế để giúp mọi người tiến về phía trước với sự tự tin và chắc chắn."
