Mối lo OpenAI sụp đổ sau khi Giám đốc khoa học Ilya Sutskever rời đi
Nhịp đập khoa học - Ngày đăng : 19:27, 28/09/2024
Mối lo OpenAI sụp đổ sau khi Giám đốc khoa học Ilya Sutskever rời đi
Nhiều câu hỏi được đặt ra xoay quanh những gì đã thực sự xảy ra tại OpenAI trong bối cảnh hàng loạt lãnh đạo cao cấp rời đi, gồm cả cựu Giám đốc công nghệ Mira Murati.
Trang The Wall Street Journal vừa tiết lộ những căng thẳng hậu trường đã tích tụ tại OpenAI trong 10 tháng kể từ khi Sam Altman trở lại làm Giám đốc điều hành sau thời gian ngắn hạn bị bãi nhiệm.
Việc bà Mira Murati rời khỏi vị trí Giám đốc công nghệ OpenAI hôm 26.9 đã gây chấn động ngành công nghệ. Chưa hết, hai lãnh đạo khác của OpenAI là Giám đốc nghiên cứu Bob McGrew và Phó chủ tịch nghiên cứu Barret Zoph cũng tuyên bố rời đi cùng ngày.
Bài viết trên The Wall Street Journal nêu chi tiết những lo ngại mà một số người trong nội bộ đã nói về việc OpenAI ngày càng tập trung phát hành nhanh chóng các sản phẩm AI và thay đổi theo hướng tập trung vào lợi nhuận truyền thống hơn.
Theo The Wall Street Journal, các lãnh đạo OpenAI lo ngại về khả năng OpenAI sụp đổ sau khi nhà đồng sáng lập Ilya Sutskever rời đi vào tháng 5 và thực hiện những nỗ lực nhằm mời cựu giám đốc khoa học này trở lại công ty trước khi quyết định rút lời đề nghị.
Một phát ngôn viên OpenAI nói với trang Insider rằng công ty không đồng ý với những nhận định của The Wall Street Journal. Tuy nhiên, OpenAI nhận thấy rằng "phát triển từ một phòng thí nghiệm nghiên cứu vô danh thành công ty toàn cầu cung cấp nghiên cứu AI tiên tiến cho hàng trăm triệu người chỉ trong vòng hai năm đòi hỏi sự phát triển và thích ứng".
Người phát ngôn nói thêm rằng OpenAI cam kết sâu sắc với sứ mệnh của mình và "tự hào khi phát hành các mô hình AI mạnh mẽ, an toàn nhất trong ngành".
Các lãnh đạo lo sợ về khả năng OpenAI sụp đổ sau khi Ilya Sutskever rời đi
Hoàn cảnh xung quanh việc Ilya Sutskever rời đi phần lớn vẫn còn bí ẩn, nhưng trang The Wall Street Journal nhấn mạnh rằng đây là đòn giáng mạnh vào OpenAI và không phải điều mà các lãnh đạo mong muốn.
Ilya Sutskever từ chức Giám đốc khoa học OpenAI vào tháng 5, sáu tháng sau khi Sam Altman trở lại làm Giám đốc điều hành. Là một trong những thành viên hội đồng quản trị cũ bỏ phiếu sa thải Sam Altman hồi tháng 11.2023, Ilya Sutskever bày tỏ hối hận về quyết định này và không đến công ty làm việc kể từ đó.
Jan Leike, người đồng lãnh đạo nhóm superalignment của OpenAI với Ilya Sutskever, cũng từ chức hồi tháng 5 và và nhóm của họ bị giải thể. Dù OpenAI sau đó đã công bố một ủy ban an toàn mới, các lãnh đạo, gồm cả Mira Murati và Chủ tịch Greg Brockman, lo ngại rằng những sự từ chức này có thể dẫn đến làn sóng nghỉ việc nhiều hơn và công ty có thể sụp đổ, theo The Wall Street Journal.
Superalignment đề cập đến việc đảm bảo rằng các hệ thống AI tiên tiến, đặc biệt là AGI, hoạt động theo cách hoàn toàn phù hợp với lợi ích của con người và không gây hại. Công việc liên quan đến superalignment gồm phát triển các phương pháp để đảm bảo rằng những mục tiêu và hành động của AI không chỉ phù hợp với các giá trị và mong muốn của con người, mà còn có thể đối phó với tình huống phức tạp, không lường trước được. Điều này có thể gồm:
- Xây dựng các biện pháp an toàn và bảo mật mạnh mẽ để đảm bảo rằng AI không thể bị lạm dụng.
- Phát triển các hệ thống giám sát và kiểm soát hiệu quả để theo dõi và điều chỉnh hành vi của AI kịp thời.
- Nghiên cứu về khả năng đối phó với các tình huống bất ngờ hoặc cực đoan để đảm bảo AI hoạt động an toàn ngay cả trong các tình huống ngoài dự đoán.
- Đảm bảo tính minh bạch và trách nhiệm trong quyết định của AI để con người có thể hiểu và kiểm soát được hành vi của AI.
Mira Murati và Greg Brockman đã cố gắng thuyết phục Ilya Sutskever quay trở lại OpenAI, gồm cả việc đến thăm nhà ông và mang theo thư từ các nhân viên khác, The Wall Street Journal cho biết. Sam Altman cũng đến thăm Ilya Sutskever và nói rằng ông thất vọng vì chưa tìm được vai trò phù hợp cho người đồng sáng lập OpenAI.
Có vẻ như nỗ lực này đã có hiệu quả. Ilya Sutskever được cho đang suy nghĩ về việc trở lại OpenAI, nhưng lời đề nghị tiềm năng bị hủy bỏ sau một cuộc gọi điện từ Greg Brockman, theo The Wall Street Journal. Lý do vì OpenAI vẫn chưa tìm ra giải pháp cho vai trò chính xác cho Ilya Sutskever trong cơ cấu mới của công ty.
Không lâu sau khi rời OpenAi, Ilya Sutskever thành lập Safe Superintelligence - công ty khởi nghiệp AI riêng tập trung vào vấn đề an toàn.
Một phát ngôn viên của Mira Murati từ chối bình luận khi được trang Insider liên hệ. Ilya Sutskever cũng không phản hồi ngay lập tức câu hỏi từ Insider.
Ilya Sutskever từ lâu là nhà nghiên cứu nổi bật trong lĩnh vực AI. Trước khi đồng sáng lập OpenAI, Ilya Sutskever từng làm nhà nghiên cứu tại Google Brain và Đại học Stanford, theo trang web cá nhân của ông.
Ilya Sutskever sinh ra ở nước Nga nhưng lớn lên ở Jerusalem (thủ đô Israel) từ năm 5 tuổi. Khi lớn lên, Ilya Sutskever theo học tại Đại học Toronto (Canada). Một trong những vị thầy của ông là Geoffrey Hinton, người tiên phong trong lĩnh vực AI và đôi khi được gọi là “cha đẻ AI”.
Đầu năm 2023, Geoffrey Hinton rời Google và cảnh báo các công ty AI đang đâm đầu vào nguy hiểm bằng cách tích cực tạo ra các công cụ AI tạo sinh như ChatGPT. Ông nói với tờ New York Times: “Thật khó để biết làm thế nào có thể ngăn chặn những kẻ xấu sử dụng công cụ này vào những việc xấu”.
Vào năm 2021, Geoffrey Hinton và hai sinh viên, một trong số đó là Ilya Sutskever, đã phát triển một mạng thần kinh nhân tạo (sử dụng các mô hình toán học) rồi huấn luyện để mạng này xác định các vật thể trong ảnh. Được gọi là AlexNet, dự án cho thấy mạng lưới có khả năng nhận dạng tốt hơn nhiều so với thông thường.
Quá ấn tượng với AlexNet, Google đã mua lại công ty nghiên cứu DNNresearch của Geoffrey Hinton và tuyển dụng Ilya Sutskever. Khi làm việc tại Google, Ilya Sutskever đã giúp chứng minh rằng kiểu nhận dạng AlexNet thực hiện với hình ảnh cũng có thể áp dụng cho các từ và câu.
Ilya Sutskever nhanh chóng thu hút sự chú ý của một người có quyền lực khác trong lĩnh vực AI là Elon Musk - Giám đốc điều hành Tesla. Tỷ phú này từ lâu cũng cảnh báo về những mối nguy hiểm tiềm tàng mà AI gây ra cho nhân loại.
Với sự thúc giục của Elon Musk, Ilya Sutskever rời Google vào năm 2015 để trở thành người đồng sáng lập và Giám đốc khoa học OpenAI, khi đó là tổ chức phi lợi nhuận mà Elon Musk hình dung sẽ trở thành đối trọng với Google trong lĩnh vực AI.
Ilya Sutskever đóng góp vai trò quan trọng để OpenAI tạo ra ChatGPT, chatbot AI phổ biến đã kích hoạt cuộc đua giữa các hãng công nghệ lớn nhất thế giới để giành quyền thống trị trong lĩnh vực AI tạo sinh.
Trong nội bộ, Ilya Sutskever được coi là một "người có tầm nhìn xa" về AI và phong cách "hàn lâm" của ông không được các kỹ sư như Sam Altman và Greg Brockman ưa thích. Tuy nhiên, những đóng góp của Sutskever được nhiều nhân viên tôn trọng.
Mira Murati trì hoãn các tính năng của GPT-4o trong bối cảnh OpenAI gấp rút ra mắt các sản phẩm mới
Các nhân viên cũ và hiện tại của OpenAI nói với The Wall Street Journal rằng việc công bố sản phẩm mới và kiểm tra an toàn đã bị đẩy nhanh do lo ngại rằng công ty đang mất lợi thế so với các đối thủ cạnh tranh trong lĩnh vực AI.
Một số nhân viên OpenAI rời đi cũng công khai bày tỏ lo ngại về việc thiếu các biện pháp bảo vệ an toàn phù hợp.
Tuy nhiên, bản tin trên The Wall Street Journal cung cấp một số chi tiết mới về vai trò của Mira Murati với tư cách là Giám đốc công nghệ OpenAI trong bối cảnh chịu áp lực để chuẩn bị và phát hành các sản phẩm mới.
Mô hình ngôn ngữ lớn GPT-4o là một trong những sản phẩm được OpenAI đẩy nhanh tiến độ phát hành. Mira Murati đã nhiều lần trì hoãn một số tính năng trong GPT-4o dự kiến ra mắt, như tìm kiếm và tương tác bằng giọng nói, do lo ngại chúng chưa sẵn sàng, theo The Wall Street Journal. Chế độ giọng nói nâng cao (Advanced Voice Mode) của ChatGPT mới bắt đầu được triển khai cho người dùng tuần này sau khi được công bố hơn 4 tháng trước.
Sau khi từ chức hôm 26.9, Mira Murati thông báo bà "đưa ra quyết định khó khăn là rời khỏi OpenAI để tạo ra thời gian và không gian cho bản thân khám phá những điều mới".
Công ty đã gửi một ghi chú cho các nhà đầu tư sau khi Mira Murati rời đi để trấn an họ.
Sarah Friar, Giám đốc tài chính OpenAI, nói với các nhà đầu tư rằng dù sự thay đổi lãnh đạo không dễ dàng, công ty vẫn "tập trung cao độ vào việc đưa AI đến với mọi người và xây dựng các mô hình doanh thu bền vững", trang CNBC đưa tin.
OpenAI đang trong quá trình huy động thêm hàng tỉ USD với mức định giá tiềm năng 150 tỉ USD. Sarah Friar cho biết vòng gọi vốn này sẽ sẵn sàng hoàn tất vào tuần tới. OpenAI được dự báo huy động 6,5 tỉ USD lần này.
Theo nguồn tin thân cận của The Wall Street Journal, Apple không còn tham gia vào việc đàm phán tham gia vòng gọi vốn mới của OpenAI.
Các công ty khác, như Microsoft và Nvidia, vẫn sẽ tiếp tục đàm phán. Trong đó, Microsoft được kỳ vọng rót thêm 1 tỉ USD vào OpenAI, sau khi đã đầu tư 13 tỉ USD cho công ty tạo ra ChatGPT.
Apple và OpenAI trở thành đối tác lớn từ đầu tháng 6 khi công bố tích hợp ChatGPT vào Siri trên hệ điều hành iOS 18, iPadOS 18 và macOS Sequoia cuối năm nay. Người dùng iPhone, iPad và Mac sẽ có thể sử dụng ChatGPT miễn phí mà không cần tạo tài khoản. Theo Reuters, Apple không phải trả tiền cho thương vụ do hai bên đánh giá việc đưa ChatGPT vào iOS 18 "có giá trị ngang bằng hoặc lớn hơn tiền mặt".
Chỉ còn 3 nhà đồng sáng lập ở lại OpenAI
Ngoài Sam Altman và Greg Brockman, đội ngũ lãnh đạo OpenAI còn Giám đốc tài chính Sarah Friar, Giám đốc khoa học Jakub Pachocki (người thay thế Ilya Sutskever), Giám đốc vận hành Brad Lightcap, Giám đốc sản phẩm Kevin Weil.
Trong số 11 người đồng sáng lập OpenAI vào năm 2015, chỉ còn lại Sam Altman, Greg Brockman và Wojciech Zaremba.
Elon Musk, một trong những người đồng sáng lập OpenAI, đã đệ đơn kiện công ty cũ lần thứ hai hồi tháng 8. Elon Musk nộp đơn lên tòa án liên bang Mỹ, cáo buộc rằng ông bị Sam Altman lừa dối để cùng thành lập OpenAI.
Theo tỷ phú giàu nhất thế giới, ông bị Sam Altman và Greg Brockman dụ dỗ, lừa dối để cùng tạo công ty với lời hứa "nó sẽ đi theo hướng an toàn và mở hơn so với các gã khổng lồ công nghệ theo đuổi lợi nhuận".
Sau khi tham gia và đầu tư hàng triệu USD vào OpenAI, Elon Musk cảm thấy ông bị phản bội vì Sam Altman cùng những người đồng sáng lập khác cùng với Microsoft thành lập một mạng lưới công ty con của OpenAI và hoạt động vì lợi nhuận.
Đơn kiện yêu cầu tòa án liên bang tại Carlifornia (Mỹ) xác định giấy phép OpenAI cho Microsoft sử dụng mô hình AI của công ty là không hợp lệ. Elon Musk cho rằng các mô hình ngôn ngữ lớn của OpenAI cần nằm ngoài phạm vi của mối quan hệ đối tác với Microsoft.
OpenAI đã phản hồi vụ kiện, nói với trang Insider: “Như chúng tôi đã nói về vụ kiện ban đầu từ Elon Musk (hồi cuối tháng 2), các email trước đây của Elon tự nói lên tất cả”.