Cha đẻ AI Yann LeCun không lo AI diệt nhân loại, đả kích CEO OpenAI và Anthropic
Yann LeCun, một trong những người được coi là cha đẻ AI hiện nay, có quan điểm khác biệt đáng kể về rủi ro trí tuệ nhân tạo.
Trong khi nhiều lãnh đạo công ty AI cảnh báo công nghệ này có thể gây ra những hậu quả nghiêm trọng, LeCun cho rằng nguy cơ AI hủy diệt nhân loại đang bị thổi phồng, còn những sự cố AI tự hành gần đây chủ yếu bắt nguồn từ thiết kế hệ thống và giám sát của con người.
Cha đẻ AI: “Tôi hoàn toàn không lo AI xóa sổ nhân loại”
Yann LeCun là một trong ba nhà nghiên cứu AI được trao Giải Turing năm 2018, cùng Geoffrey Hinton và Yoshua Bengio, nhờ những đóng góp quan trọng cho deep learning, công nghệ mạng nơ-ron đứng phía sau phần lớn bước tiến của AI hiện đại.
Gần một thập niên sau khi nhận giải thưởng thường được ví như “Nobel của ngành khoa học máy tính”, ba người lại có những cách nhìn khác nhau đáng kể về tương lai AI. Trong khi Hinton và nhiều nhà nghiên cứu khác liên tục cảnh báo về những rủi ro dài hạn, LeCun thuộc nhóm hoài nghi mạnh mẽ nhất đối với kịch bản AI có thể đe dọa sự tồn vong của con người.
Trong một cuộc trao đổi gần đây, ông nói mình “hoàn toàn không lo lắng” về khả năng AI xóa sổ nhân loại và cũng “không có chút lo ngại nào” về một loạt sự cố liên quan đến các AI agent gần đây.
Một trong những trường hợp được nhắc đến là sự cố hồi tháng 7, khi các tác nhân AI của OpenAI được cho là đã tự động thực hiện hành vi tấn công hệ thống của Hugging Face. Với LeCun, những sự việc như vậy không phải bằng chứng cho thấy AI đang mất kiểm soát.
Theo ông, vấn đề nằm ở con người và cách hệ thống được thiết kế. “Những tác nhân đó đang làm chính xác những gì chúng được yêu cầu làm”, LeCun nói. Theo ông, các AI agent đáng lẽ phải được đặt trong những “sandbox” nhưng các sandbox này được thiết kế kém và vẫn tồn tại những lỗ hổng cho phép tác nhân vượt qua giới hạn.
Ông cho rằng nhiều phòng thí nghiệm AI vẫn chưa có hiểu biết đầy đủ về an ninh mạng. Quan điểm này cũng xuất hiện trong những cảnh báo gần đây từ chính giới nghiên cứu an toàn AI, cho rằng những lỗ hổng trong cách xây dựng và triển khai hệ thống có thể tạo ra rủi ro thực tế.
Điểm khác biệt nằm ở cách diễn giải. Với LeCun, các sự cố như vậy cho thấy con người cần thiết kế hệ thống tốt hơn, thay vì xem chúng như bằng chứng rằng AI đang tiến gần đến một kịch bản tận thế.
Ông cho rằng các sự cố này “hoàn toàn có thể ngăn chặn”. Quan điểm của LeCun cũng phản ánh một cuộc tranh luận lớn hơn trong ngành AI: Rủi ro đáng quan tâm nhất hiện nay là những nguy cơ trực tiếp từ hệ thống đang được triển khai, hay viễn cảnh AI trong tương lai trở nên quá mạnh và vượt khỏi khả năng kiểm soát của con người?
LeCun chỉ trích “AI tận thế” và lo ngại về độc quyền công nghệ
Một mục tiêu chỉ trích khác của LeCun là phong trào Effective Altruism (EA), một trào lưu triết học từng thu hút nhiều nhân vật trong giới công nghệ và AI, trong đó có những người đặc biệt quan tâm đến nguy cơ AI gây tổn hại cho nhân loại.
LeCun cho rằng một bộ phận những người làm công tác an toàn AI bị ảnh hưởng quá mạnh bởi cách tiếp cận này. Ông gọi EA là “cực kì độc hại” và “một thảm họa hoàn toàn”, đồng thời cho rằng sự ám ảnh về các kịch bản AI gây tuyệt chủng có thể dẫn đến những quyết định sai lầm trong các phòng thí nghiệm.
Những phát biểu này xuất hiện trong bối cảnh tranh luận về rủi ro AI ngày càng gay gắt. Một số nhân sự tại các tổ chức AI và cơ quan nghiên cứu an toàn AI được cho là đã tìm đến tư vấn tâm lí, nghỉ việc hoặc công khai nói về áp lực tinh thần liên quan đến lo ngại công nghệ họ đang phát triển có thể gây hậu quả nghiêm trọng.
LeCun đặc biệt phản đối cách một số lãnh đạo AI công khai cảnh báo rằng AI có thể hủy diệt nhân loại. Ông cho rằng những phát biểu như vậy không chỉ khiến công chúng sợ hãi, mà còn có thể gây tổn hại cho chính ngành công nghiệp AI.
Theo LeCun, việc các CEO như Dario Amodei của Anthropic hay Sam Altman của OpenAI nói rằng: AI có thể “xóa sổ tất cả chúng ta”, là một thông điệp “cực kì mang tính phá hoại” và là “chiến dịch tiếp thị tồi tệ nhất có thể tưởng tượng”.
Quan điểm của ông cũng kéo theo một cách nhìn khác về quản lí AI. LeCun không cho rằng nguy cơ lớn nhất nằm ở việc AI tiêu diệt nhân loại. Điều khiến ông lo ngại hơn là “regulatory capture”, tức tình trạng các doanh nghiệp lớn có khả năng tác động tới quá trình xây dựng quy định theo hướng củng cố vị thế của chính họ.
Theo lập luận này, nếu những công ty AI lớn cùng các nhóm vận động hành lang, thúc đẩy những quy định quá nghiêm ngặt, với lí do bảo đảm an toàn, chi phí tuân thủ; có thể trở thành rào cản khiến các công ty nhỏ và các dự án nguồn mở khó cạnh tranh.
LeCun cho rằng điều này có thể vô tình tạo ra lợi thế cho những doanh nghiệp đã có nguồn lực lớn. Ông thậm chí cho rằng việc yêu cầu AI phải được quản lí chặt chẽ vì quá nguy hiểm, đồng thời hạn chế các mô hình AI nguồn mở vì lí do an toàn, có thể trở thành một dạng “bắt giữ chính sách” nếu được chuyển hóa thành luật.
Đây là điểm khiến lập trường của LeCun trở nên đáng chú ý: ông không phủ nhận hoàn toàn những rủi ro của AI, nhưng muốn trọng tâm của cuộc thảo luận nằm ở thiết kế hệ thống, an ninh mạng, trách nhiệm của doanh nghiệp và cạnh tranh, thay vì tập trung vào những kịch bản tuyệt chủng.
Cuộc tranh luận không còn là “AI có nguy hiểm hay không”
Điều đáng chú ý là LeCun không hoàn toàn đứng về phía những người muốn giảm vai trò quản lí nhà nước trong mọi trường hợp. Ông thừa nhận các công ty AI phải chịu trách nhiệm về cách sản phẩm được thiết kế và triển khai.
Nhưng ông phản đối việc sử dụng những rủi ro dài hạn, chưa chắc chắn để xây dựng các rào cản có thể làm thay đổi cấu trúc cạnh tranh của ngành.
Ở chiều ngược lại, những người ủng hộ việc kiểm soát AI chặt chẽ cho rằng việc chỉ tập trung vào những lỗi thiết kế hiện tại có thể bỏ qua những rủi ro mới xuất hiện khi AI ngày càng tự chủ và được trao nhiều quyền truy cập hơn.
Sự khác biệt vì thế không đơn giản là giữa “người tin AI an toàn” và “người sợ AI”. Tranh luận thực chất xoay quanh câu hỏi rủi ro nào cần được ưu tiên xử lí và nhà quản lí nên can thiệp ở mức nào.
LeCun cho rằng các AI agent hiện tại chưa thể tự mình trở thành một mối đe dọa không thể kiểm soát. Nếu một hệ thống được phép truy cập vào những tài nguyên nhạy cảm mà không có lớp bảo vệ phù hợp, trách nhiệm trước tiên thuộc về người thiết kế và vận hành hệ thống đó.
Những sự cố gần đây vì thế có thể được nhìn như bài kiểm tra đối với năng lực quản trị AI của con người. Khi AI được trao quyền thực hiện nhiều nhiệm vụ độc lập hơn, các cơ chế giới hạn quyền truy cập, kiểm soát hành động và giám sát con người sẽ trở nên quan trọng không kém bản thân năng lực của mô hình.
Trong khi đó, tranh luận về quản lí còn phải tính đến một yếu tố khác là cạnh tranh. Nếu các quy định được thiết kế đến mức chỉ những tập đoàn lớn mới đủ khả năng đáp ứng, mục tiêu bảo đảm an toàn có thể đồng thời tạo ra một thị trường tập trung hơn. Khi đó, câu hỏi không chỉ là làm thế nào để AI an toàn, mà còn là làm thế nào để bảo đảm các quy định an toàn không vô tình trở thành hàng rào bảo vệ những doanh nghiệp đã dẫn đầu.
LeCun, vì vậy, đang đưa ra một cách nhìn khác giữa lúc ngành AI ngày càng bị bao phủ bởi những cảnh báo về rủi ro. Ông không cho rằng con người nên phớt lờ nguy cơ. Nhưng thay vì bắt đầu từ giả định rằng AI có thể hủy diệt nhân loại, ông muốn bắt đầu từ những vấn đề cụ thể hơn: hệ thống có được thiết kế đúng không, dữ liệu và quyền truy cập có được bảo vệ không, doanh nghiệp có chịu trách nhiệm hay không và quy định có tạo ra cạnh tranh lành mạnh hay không.
Cuộc tranh luận này có lẽ sẽ còn kéo dài khi AI tiếp tục trở nên mạnh hơn và tự chủ hơn. Nhưng chính sự đối lập giữa LeCun với những tiếng nói cảnh báo mạnh mẽ nhất trong ngành cho thấy một thực tế: ngay cả những người đặt nền móng cho cuộc cách mạng AI cũng chưa thống nhất về mức độ nguy hiểm của công nghệ mà họ tạo ra.
Và câu hỏi quan trọng trong những năm tới có thể không chỉ là AI sẽ trở nên mạnh đến đâu, mà còn là con người sẽ thiết kế những “lan can an toàn” như thế nào để công nghệ phát triển mà không tạo ra những rủi ro có thể tránh được.