Sam Altman, Giám đốc điều hành OpenAI, thừa nhận mất ngủ vì những nguy cơ ChatGPT có thể gây ra.

CEO OpenAI mất ngủ khi tạo ra ChatGPT, đáp trả lời chỉ trích của Elon Musk

Sơn Vân | 08/06/2023, 22:18

Sam Altman, Giám đốc điều hành OpenAI, thừa nhận mất ngủ vì những nguy cơ ChatGPT có thể gây ra.

Tại cuộc trò chuyện trong chuyến đi gần đây tới Ấn Độ, Sam Altman cho biết vô cùng lo lắng về ý tưởng rằng ông có thể làm "điều gì đó thực sự tồi tệ" khi tạo ChatGPT (trình làng vào tháng 11.2022) và khiến sự quan tâm về AI tăng cao.

Sam Altman nói với Satyan Gajwani, Phó chủ tịch hãng công nghệ Times Internet, tại sự kiện do tờ báo Economic Times tổ chức hôm 7.6: “Điều khiến tôi mất ngủ nhiều nhất là ý tưởng giả định rằng chúng tôi làm điều gì đó thực sự tồi tệ khi tung ra ChatGPT. Chẳng hạn có thể phát sinh điều gì đó khó khăn và phức tạp trong ChatGPT mà chúng tôi không hiểu”.

Khi được hỏi liệu AI có nên được điều chỉnh giống năng lượng nguyên tử hay không, Sam Altman cho biết phải có một hệ thống tốt hơn để kiểm tra quá trình này. Ông nói: “Cần có sẵn một hệ thống để chúng ta có thể kiểm tra những người đang thực hiện nó, cấp phép cho nó, kiểm tra độ an toàn trước khi triển khai”.

Rủi ro cao

Một số nhà lãnh đạo công nghệ và quan chức chính phủ bày tỏ lo ngại về tốc độ phát triển của các nền tảng AI.

Trong một bức thư ngỏ vào tháng 3 từ Future of Life Institute, Elon Musk, Steve Wozniak (đồng sáng lập Apple) cùng hơn 1.800 chuyên gia công nghệ cảnh báo rằng các hệ thống AI mạnh mẽ chỉ nên được phát triển khi có niềm tin rằng các tác động sẽ tích cực và rủi ro có thể kiểm soát được.

Bức thư ngỏ kêu gọi tạm dừng 6 tháng với việc đào tạo các hệ thống AI mạnh hơn GPT-4 của OpenAI.

Sam Altman trả lời bức thư khi nói rằng nó "thiếu sắc thái kỹ thuật về nơi chúng tôi cần tạm dừng".

Đầu tháng 6, Sam Altman nằm trong số hơn 350 nhà khoa học và lãnh đạo công nghệ bày tỏ mối quan ngại sâu sắc về rủi ro AI.

Tuyên bố chung có đoạn: “Giảm thiểu nguy cơ tuyệt chủng do AI phải là ưu tiên toàn cầu bên cạnh các rủi ro quy mô xã hội khác như đại dịch và chiến tranh hạt nhân”.

ceo-openai-mat-ngu-khi-tao-ra-chatgpt-dap-tra-loi-chi-trich-cua-elon-musk1.jpg
Sam Altman thừa nhận mất ngủ vì những nguy cơ ChatGPT có thể gây ra - Ảnh: Internet

Cuối tháng 5, các nhà lãnh đạo OpenAI cho biết cần có một tổ chức tương đương Cơ quan Năng lượng Nguyên tử Quốc tế để bảo vệ chống lại những rủi ro do AI "siêu thông minh" gây ra.

Thuật ngữ "siêu thông minh" liên quan đến khái niệm về AI tự tiến hóa, trong đó AI có khả năng trở thành hệ thống tự phát triển, vượt qua sự hiểu biết và khả năng kiểm soát của con người.

Trong khi việc phát triển các hệ thống AI như vậy mang lại triển vọng lớn để giải quyết các vấn đề phức tạp và thúc đẩy các lĩnh vực khác nhau, có những lo ngại về những rủi ro tiềm ẩn nếu không được quản lý đúng cách.

Những nhà lãnh đạo OpenAI đã kêu gọi áp đặt quy định về các AI “siêu thông minh”. Họ lập luận rằng cần có tổ chức tương đương với Cơ quan Năng lượng Nguyên tử Quốc tế (IAEA) để bảo vệ chúng ta khỏi nguy cơ vô tình tạo ra thứ gì đó có sức mạnh hủy diệt loài người.

Trong một ghi chú ngắn đăng trên trang web OpenAI, ba người đồng sáng lập công ty gồm Greg Brockman, Ilya Sutskever và Sam Altman kêu gọi thành lập một cơ quan quản lý quốc tế để bắt đầu làm việc về cách "kiểm tra hệ thống, yêu cầu kiểm toán, thử nghiệm tuân thủ các tiêu chuẩn an toàn và đặt hạn chế về mức triển khai cùng bảo mật" nhằm giảm thiểu nguy cơ mà các AI “siêu thông minh” có thể gây ra.

Họ viết: “Có thể hình dung rằng trong vòng 10 năm tới, các hệ thống AI sẽ vượt qua trình độ chuyên gia trong hầu hết các lĩnh vực và thực hiện nhiều hoạt động hiệu quả như một trong những tập đoàn lớn nhất hiện nay. Xét về mặt tích cực và tiêu cực, AI 'siêu thông minh' sẽ mạnh hơn so với các công nghệ khác mà nhân loại phải đối mặt trong quá khứ. Chúng ta có thể có một tương lai thịnh vượng hơn nhiều, nhưng phải quản lý rủi ro để đạt được điều đó. Với khả năng xảy ra rủi ro hiện hữu, chúng ta không thể chỉ phản ứng mà phải có cách tiếp cận tích cực”.

Trong tương lai ngắn hạn, ba nhà đồng sáng lập OpenAI kêu gọi có "mức độ phối hợp" giữa các công ty đang làm việc ở lĩnh vực nghiên cứu AI tiên tiến, nhằm đảm bảo việc phát triển các mô hình mạnh mẽ hơn tích hợp một cách suôn sẻ với xã hội nhưng vẫn ưu tiên sự an toàn. Sự phối hợp đó có thể thông qua một dự án do chính phủ dẫn đầu hoặc thỏa thuận tập thể để hạn chế sự phát triển khả năng của AI.

Các nhà nghiên cứu đã cảnh báo về những rủi ro tiềm ẩn của AI siêu thông minh trong nhiều thập kỷ, nhưng khi sự phát triển AI đang diễn ra nhanh chóng, những nguy cơ đó đã trở nên cụ thể hơn.

Các lãnh đạo OpenAI cho biết những nguy cơ đó đồng nghĩa “người dân trên khắp thế giới nên quyết định theo hình thức dân chủ về các giới hạn và thiết lập mặc định cho các hệ thống AI”, nhưng thừa nhận rằng họ chưa biết cách thiết kế một cơ chế như vậy. Tuy nhiên, các lãnh đạo OpenAI nói rằng việc tiếp tục phát triển các hệ thống AI mạnh mẽ đáng để mạo hiểm.

Sam Altman đáp trả lời chỉ trích của Elon Musk với OpenAI

Sam Altman một lần nữa phản bác lại lời chỉ trích của Elon Musk rằng OpenAI chỉ quan tâm đến lợi nhuận hơn là sự an toàn, đồng thời cho rằng những tuyên bố như vậy là hoàn toàn sai sự thật.

CEO 38 tuổi đã đến thăm Delhi (thủ đô Ấn Độ) và dự một sự kiện do tờ Economic Times tổ chức hôm 7.5, nơi ông thảo luận về tác động rộng lớn hơn của AI và được đặt câu hỏi bởi các nhà hoạch định chính sách cùng công ty khởi nghiệp công nghệ hàng đầu quốc gia Nam Á.

Một câu hỏi được đặt ra cho Sam Altman là về vấn đề mà Elon Musk nhắc đến rằng, OpenAI nhận được hàng tỉ USD tiền đầu tư từ Microsoft dù tuyên bố là công ty "phi lợi nhuận".

Sam Altman trả lời: "Tôi thực sự không muốn bị cuốn vào cuộc tranh cãi với Elon. Tôi thích ông ấy. Tôi nghĩ ông ta hoàn toàn sai về những thứ này. Elon có thể nói bất cứ điều gì ông muốn nhưng tôi tự hào về những gì chúng tôi đang làm. Tôi tin rằng chúng tôi sẽ góp phần tích cực cho thế giới và cố gắng tránh những cuộc tranh luận đó".

Elon Musk đồng sáng lập OpenAI cùng Sam Altman vào năm 2015. Vào thời điểm đó, OpenAI tự mô tả mình là tổ chức phi lợi nhuận đang phát triển AI "theo cách có khả năng mang lại lợi ích nhất cho toàn nhân loại", theo trang Insider.

Kể từ khi rời khỏi hội đồng quản trị OpenAI vào năm 2018, Elon Musk thường xuyên chỉ trích công ty cũ. Thậm chí Elon Musk gần đây còn đề cập trong một tweet rằng ông tin rằng OpenAI sẽ trở thành "công ty có lợi nhuận tối đa do Microsoft kiểm soát hiệu quả", điều đó không phải là ý định ban đầu của ông.

Sam Altman phản bác lại những tuyên bố này trước khi gọi Elon Musk là "kẻ khó chịu" trong một podcast, nói rằng: "Hầu hết điều đó là không đúng sự thật và tôi nghĩ Elon biết điều này".

CEO 38 tuổi cũng thừa nhận rằng những lo ngại của Elon Musk về sự an toàn về AI là có thể hiểu được, nhưng ông nên làm nhiều hơn nữa để công nhận những nỗ lực của OpenAI trong việc giải quyết những vấn đề như vậy.

ceo-openai-mat-ngu-khi-tao-ra-chatgpt-dap-tra-loi-chi-trich-cua-elon-musk.jpg
Sam Altman cho biết Elon Musk "hoàn toàn sai lầm" về OpenAI tại một sự kiện ở Ấn Độ - Ảnh: Internet

Elon Musk cùng Sam Altman và những người khác thành lập OpenAI dưới dạng tổ chức phi lợi nhuận năm 2015, tập trung vào sự phát triển an toàn và minh bạch của AI. Elon Musk rời hội đồng quản trị OpenAI vào năm 2018 với lý do xung đột lợi ích. Cụ thể hơn, tỷ phú công nghệ muốn làm Giám đốc điều hành OpenAI nhưng Sam Altman và các nhà đồng sáng lập còn lại không đồng ý.

Elon Musk từng hứa sẽ cung cấp 1 tỉ USD cho OpenAI nhưng đã ngừng thanh toán sau khi ông rời đi vào tháng 2.2018, khiến tổ chức phải vật lộn để huy động tiền mặt. OpenAI sau đó đã nhận được khoản đầu tư 1 tỉ USD từ Microsoft và chuyển sang mô hình kết hợp “lợi nhuận giới hạn” vào năm 2019.

Hồi tháng 2, tỷ phú giàu nhất thế giới đã chỉ trích sự thay đổi này trong OpenAI: “OpenAI được tạo ra như một nguồn mở (đó là lý do tại sao tôi đặt tên cho nó là OpenAI), công ty phi lợi nhuận để làm đối trọng với Google, nhưng giờ đây nó đã trở thành một công ty nguồn đóng, lợi nhuận tối đa được kiểm soát hiệu quả bởi Microsoft”.

Elon Musk tin rằng một trong những mối đe dọa lớn do AI gây ra là sự thao túng nó bởi các công ty đi đầu trong cuộc cách mạng này. Ông đặc biệt nhắm đến Microsoft, công ty đầu tư thêm hàng tỉ USD vào OpenAI.

Giám đốc điều hành Microsoft - Satya Nadella đẩy lùi những lời chỉ trích của Elon Musk về mối quan hệ đối tác trị giá hàng tỉ USD giữa công ty của ông với OpenAI.

Trong cuộc phỏng vấn với trang CNBC, Satya Nadella đã được hỏi về tuyên bố của Elon Musk rằng “Microsoft kiểm soát OpenAI”.

Đầu tiên, tôi rất tôn trọng Elon và tất cả những gì cậu ấy làm. Tôi chỉ muốn nói rằng điều đó thực sự không đúng. Lần cuối cùng tôi kiểm tra, chúng tôi là công ty vì lợi nhuận duy nhất cảm thấy thoải mái với một công ty phi lợi nhuận và hội đồng quản trị kiểm soát công nghệ (ám chỉ OpenAI – PV). Tôi hoan nghênh những người khác cũng làm như vậy", ông nói.

Bất chấp lo ngại về AI, Elon Musk đang làm việc để lập công ty khởi nghiệp AI sẽ cạnh tranh với OpenAI. Theo tờ Financial Times, ông tập hợp nhóm các nhà nghiên cứu và kỹ sư AI, đồng thời cũng đang thảo luận với một số nhà đầu tư vào SpaceX và Tesla về việc rót tiền cho dự án kinh doanh mới của mình.

Elon Musk đã bảo đảm có hàng nghìn GPU (bộ xử lý đồ họa) từ Nvidia. Có thể thực hiện song song số lượng lớn phép tính nên GPU lý tưởng cho các tác vụ AI và máy học đòi hỏi nhiều sức mạnh tính toán. GPU có thể tăng tốc quá trình huấn luyện các mô hình học sâu bằng cách xử lý lượng lớn dữ liệu trong khoảng thời gian ngắn, nên đây là thành phần quan trọng cho nghiên cứu và phát triển AI.

Trang Insider đưa tin Elon Musk đã mua 100.000 GPU cho dự án AI nội bộ của Twitter. Ông gợi ý rằng công ty truyền thông xã hội đang tiến tới kế hoạch đầy tham vọng nhằm tạo ra generative AI có thể được huấn luyện trên kho dữ liệu khổng lồ của mình.

Đầu tháng 3, kỹ sư Igor Babuschkin và Manuel Kroiss từ DeepMind của Google đã đầu quân cho Elon Musk.

Dự án generative AI của Elon Musk tại Twitter liên quan đến mô hình ngôn ngữ lớn. Trước đây, ChatGPT cũng sử dụng tài nguyên sẵn có trên internet để huấn luyện, trong đó có Twitter.

Các nguồn tin cho rằng dự án AI của Elon Musk có thể được sử dụng để cải thiện chức năng tìm kiếm trên Twitter hoặc hoạt động kinh doanh quảng cáo.

Twitter có thể hưởng lợi từ mô hình AI theo nhiều cách. Công ty có thể sử dụng AI để cải thiện chức năng tìm kiếm của mình, giúp người dùng dễ dàng tìm thấy nội dung như mong muốn.

Ngoài ra, Twitter có thể sử dụng AI để hiểu rõ hơn về nhu cầu và sở thích của người dùng, cho phép công ty cung cấp nội dung và đề xuất được cá nhân hóa hơn.

AI cũng có khả năng giúp Twitter xây dựng lại hoạt động kinh doanh quảng cáo của mình bằng cách giúp các nhà tiếp thị tiếp cận đối tượng mục tiêu dễ dàng hơn và đo lường hiệu quả các chiến dịch của họ.

Vào tháng 12.2022, chỉ vài tuần sau khi ra mắt ChatGPT, OpenAI đã bị chặn truy cập vào dữ liệu của Twitter. Hai nguồn tin quen thuộc với vấn đề này nói với tờ The New York Times rằng Elon Musk đứng sau quyết định này.

Elon Musk cảm thấy rằng khoảng 2 triệu USD/năm mà OpenAI trả để được cấp phép sử dụng dữ liệu của Twitter là không đủ.

OpenAI từng được cấp phép sử dụng dữ liệu của Twitter để giúp xây dựng ChatGPT, the The New York Times. Tỷ phú 51 tuổi người Mỹ đã rất cảnh giác với AI tiên tiến trong một thời gian dài và chỉ trích OpenAI nặng nề vào thời điểm đưa ra quyết định chặn công ty khởi nghiệp có trụ sở ở thành phố San Francisco (Mỹ) truy cập dữ liệu Twitter.

Bài liên quan
Apple tụt hậu về AI nhưng vẫn có thể thu hàng trăm triệu USD mỗi năm từ OpenAI
Apple tụt hậu so với nhiều hãng về trí tuệ nhân tạo (AI), nhưng sự chi phối thị trường ứng dụng giúp công ty tận dụng thành công của người khác.

(0) Bình luận
Nổi bật Một thế giới
Hà Nội sẽ trợ giúp đặc biệt cho người bị ảnh hưởng do vụ cháy chung cư
17 giờ trước Theo dòng thời sự
HĐND TP.Hà Nội sẽ quyết nghị một số nội dung trợ giúp đặc thù đối với những người bị ảnh hưởng do vụ cháy chung cư mini (quận Thanh Xuân).
Đừng bỏ lỡ
Mới nhất
POWERED BY ONECMS - A PRODUCT OF NEKO
CEO OpenAI mất ngủ khi tạo ra ChatGPT, đáp trả lời chỉ trích của Elon Musk