‘OpenAI, Anthropic, Meta thiếu biện pháp an toàn để kiểm soát siêu trí tuệ’
Theo Viện Tương lai Sự sống, biện pháp an toàn của OpenAI, Anthropic, Meta Platforms và xAI đang "kém xa các tiêu chuẩn toàn cầu mới nổi".
Viện Tương lai Sự sống cho biết cuộc đánh giá an toàn được thực hiện bởi hội đồng chuyên gia độc lập. Theo Viện này, trong khi OpenAI, Anthropic, xAI và Meta Platforms đang bận rộn chạy đua phát triển siêu trí tuệ, không công ty nào có chiến lược vững chắc để kiểm soát các hệ thống AI tiên tiến như vậy.
Siêu trí tuệ được xem là dạng AI có khả năng vượt trội con người trong hầu hết nhiệm vụ nhận thức.
Nghiên cứu được đưa ra trong bối cảnh mối quan tâm của công chúng gia tăng về tác động xã hội của các hệ thống thông minh hơn con người, có khả năng suy luận và tư duy logic, sau một số trường hợp tự tử và tự làm hại bản thân liên quan đến chatbot AI.
"Dù có những phản ứng dữ dội gần đây về việc AI được sử dụng để tấn công mạng, khiến con người rơi vào trạng thái loạn thần và tự làm hại bản thân, các công ty AI Mỹ vẫn được quản lý lỏng lẻo hơn cả nhà hàng và tiếp tục vận động hành lang chống lại các tiêu chuẩn an toàn ràng buộc", theo Max Tegmark - Giáo sư Học viện Công nghệ Massachusetts (Mỹ) và Chủ tịch Viện Tương lai Sự sống.
Người phát ngôn của Google DeepMind cho biết công ty sẽ “tiếp tục đổi mới về an toàn và quản trị song song với khả năng các mô hình AI trở nên tiên tiến hơn”.
Anthropic, OpenAI, Meta Platforms, DeepSeek và Alibaba Cloud không phản hồi ngay lập tức về nghiên cứu trên.
Viện Tương lai Sự sống là tổ chức phi lợi nhuận đã nêu lên những lo ngại về rủi ro mà các cỗ máy thông minh gây ra cho nhân loại. Được thành lập vào năm 2014, Viện này ban đầu được hỗ trợ bởi Elon Musk (Giám đốc điều hành Tesla).
Lời kêu gọi cấm phát triển siêu trí tuệ
Cuối tháng 10, hơn 850 người, trong đó có hai “cha đẻ AI” là Geoffrey Hinton và Yoshua Bengio, đã ký vào bản tuyên bố kêu gọi tạm dừng phát triển siêu trí tuệ cho đến khi công chúng yêu cầu và khoa học tìm được con đường an toàn hơn.
Siêu trí tuệ (superintelligence) đã trở thành từ khóa nóng trong giới AI, khi các công ty đang cạnh tranh để tung ra những mô hình ngôn ngữ lớn ngày càng tiên tiến hơn. Đáng chú ý, Meta Platforms thậm chí còn đặt tên cho bộ phận phát triển mô hình AI của mình là Meta Superintelligence Labs.
Các tác giả của bản tuyên bố cảnh báo rằng viễn cảnh xuất hiện siêu trí tuệ “gây ra nhiều lo ngại, từ nguy cơ con người bị thay thế về mặt kinh tế, mất quyền tự chủ, mất tự do, phẩm giá và kiểm soát, cho đến các rủi ro về an ninh quốc gia và thậm chí là nguy cơ tuyệt chủng của loài người”.
Bản tuyên bố kêu gọi cấm phát triển siêu trí tuệ cho đến khi nhận được sự ủng hộ mạnh mẽ của công chúng và đạt được đồng thuận khoa học rằng có thể xây dựng và kiểm soát công nghệ này một cách an toàn.
Ngoài giới công nghệ, những người ký tên vào bản tuyên bố còn đến từ nhiều lĩnh vực khác nhau, gồm giới học thuật, truyền thông, tôn giáo, nhóm các chính trị gia lưỡng đảng và quan chức Mỹ đã nghỉ hưu. Trong số đó có Mike Mullen (cựu Chủ tịch Hội đồng Tham mưu trưởng Liên quân Mỹ) và Susan Rice (cựu Cố vấn An ninh Quốc gia Mỹ).
Hai nhân vật truyền thông nổi tiếng ủng hộ Tổng thống Mỹ Donald Trump là Steve Bannon và Glenn Beck cũng xuất hiện trong danh sách. Các nhân vật nổi bật khác ký tên có Mary Robinson (cựu Tổng thống Ireland), Hoàng tử Harry và vợ là Meghan Markle.
Bản tuyên bố cũng dẫn một khảo sát gần đây của Viện Tương lai Sự sống, cho thấy chỉ 5% người Mỹ trưởng thành ủng hộ việc phát triển siêu trí tuệ theo hướng “nhanh và không kiểm soát”.
Khảo sát với 2.000 người Mỹ còn phát hiện đa số cho rằng không nên tạo ra siêu AI cho đến khi chứng minh là an toàn và có thể kiểm soát, đồng thời kêu gọi thiết lập quy định nghiêm ngặt hơn với AI tiên tiến.
Nhà khoa học máy tính Yoshua Bengio cho biết các hệ thống AI có thể vượt qua phần lớn con người trong đa số nhiệm vụ nhận thức chỉ vài năm tới. Ông nói rằng, dù những tiến bộ này có thể giúp giải quyết các vấn đề toàn cầu nhưng cũng tiềm ẩn rủi ro cực lớn.
“Để tiến gần đến siêu trí tuệ một cách an toàn, chúng ta phải xác định được cách thiết kế các hệ thống AI về bản chất không thể gây hại cho con người, dù là do sai lệch mục tiêu hay bị lợi dụng ác ý. Chúng ta cũng cần đảm bảo công chúng có tiếng nói mạnh mẽ hơn nhiều trong việc đưa ra các quyết định sẽ định hình tương lai chung của nhân loại”, Yoshua Bengio tuyên bố.
Yoshua Bengio và Geoffrey Hinton cùng với Yann LeCun (cựu giám đốc khoa học AI tại Meta Platforms) được mệnh danh là “cha đẻ AI” vì tiên phong trong lĩnh vực mạng nơ-ron nhân tạo, mô hình tính toán được lấy cảm hứng từ cấu trúc và chức năng của hệ thần kinh sinh học, đặc biệt là bộ não con người. Nghiên cứu của họ đã tạo ra bước ngoặt mang tính nền tảng, mở đường cho công nghệ học máy ngày nay.
Năm 2024, Geoffrey Hinton giành Giải Nobel Vật lý cùng với John J. Hopfield thuộc Đại học Princeton vì những khám phá và phát minh cơ bản giúp việc học máy với các mạng nơ-ron nhân tạo.
Trong podcast Silicon Valley Girl phát sóng giữa tháng 11, Mustafa Suleyman (Giám đốc điều hành Microsoft AI) nói ý tưởng về siêu trí tuệ không chỉ nên tránh, mà còn phải được xem là mục tiêu ngược, không nên đạt tới.
“Siêu trí tuệ - loại AI có khả năng suy luận vượt xa con người - không đem đến viễn cảnh tích cực nào cho tương lai. Rất khó để kiểm soát hay khiến một hệ thống AI như vậy tuân theo các giá trị của chúng ta”, Mustafa Suleyman nhận định.
Mustafa Suleyman, đồng sáng lập DeepMind và Inflection, cho biết đội ngũ của ông đang cố gắng xây dựng một dạng siêu trí tuệ nhân văn, đặt lợi ích của con người lên hàng đầu.
Ông cũng nói rằng việc gán cho AI bất kỳ yếu tố liên quan đến ý thức hay địa vị đạo đức là sai lầm.
“Những hệ thống này không biết đau khổ. Chúng không cảm thấy đau đớn, chỉ mô phỏng các cuộc trò chuyện chất lượng cao mà thôi”, Mustafa Suleyman cho hay.
Theo trang web Statement on Superintelligence (Tuyên bố về Siêu trí tuệ), ngay cả các lãnh đạo hàng đầu trong ngành AI như Elon Musk và Sam Altman cũng từng cảnh báo về mối nguy của siêu trí tuệ.
Trước khi trở thành Giám đốc điều hành OpenAI, Sam Altman từng viết trong một bài blog năm 2015 rằng “việc phát triển trí tuệ máy siêu phàm (SMI) có lẽ là mối đe dọa lớn nhất với sự tồn tại của nhân loại”.
Trong khi đó, Elon Musk phát biểu trên một podcast đầu năm nay rằng “có 20% khả năng nhân loại bị diệt vong” khi nói về rủi ro AI vượt qua trí tuệ con người.