Gửi bình luận
Nvidia ước tính nắm giữ 90% thị phần điện toán trí tuệ nhân tạo (AI). Tuy nhiên, khi việc sử dụng AI tăng lên, khối lượng công việc dự kiến sẽ thay đổi và sự phát triển này có thể tạo cơ hội cho các công ty có phần cứng cạnh tranh với Nvidia.
Vào năm 2024, phần lớn chi tiêu cho điện toán AI chuyển sang suy luận, Thomas Sohmers – Giám đốc điều hành công ty khởi nghiệp chip Positron AI, chia sẻ với trang Insider. Ông nói thêm rằng điều này sẽ "tăng trưởng nhanh chóng với tốc độ ngày càng lớn".
Trong AI, suy luận là phép tính cần thiết để tạo ra phản hồi cho truy vấn hoặc yêu cầu của người dùng. Phép tính cần thiết để dạy cho mô hình AI kiến thức để trả lời người dùng được gọi là "đào tạo". Ví dụ, việc tạo ra Sora của OpenAI đại diện cho quá trình đào tạo. Sora là mô hình AI hỗ trợ tạo video từ văn bản. Mỗi người dùng yêu cầu Sora tạo video từ văn bản đại diện cho một khối lượng công việc cần suy luận.
Các mô hình AI khác khiến Thomas Sohmers và những người khác phấn khích về sự tăng trưởng trong nhu cầu điện toán vào năm 2025.
o1 và o3 của OpenAI, Gemini 2.0 Flash Thinking của Google và một số mô hình AI khác sử dụng các chiến lược tính toán chuyên sâu hơn để cải thiện kết quả sau khi đào tạo. Các chiến lược này thường được gọi là tính toán trong thời gian suy luận, chuỗi tư duy, chuỗi lập luận hoặc mô hình lý luận.
Nói một cách đơn giản, nếu các mô hình AI suy nghĩ nhiều hơn trước khi trả lời thì phản hồi sẽ tốt hơn. Tuy nhiên, việc suy nghĩ này đi kèm với chi phí về thời gian và tiền bạc. Các công ty khởi nghiệp muốn cạnh tranh với Nvidia đang cố gắng tối ưu hóa một hoặc cả hai yếu tố đó.
Các đối thủ của Nvidia trong tương lai đang đặt cược rằng vào năm 2025, chiến lược mới sau đào tạo cho AI sẽ có lợi với tất cả nhà cung cấp chip suy luận. Trang Insider đã trao đổi với ba công ty trong số này về kỳ vọng của họ cho năm 2025.
Mark Heaps, Giám đốc thúc đẩy công nghệ cho hãng Groq, nói: "Thực hiện, thực hiện, thực hiện. Hiện tại, mọi người tại Groq đã quyết định không nghỉ lễ trong năm nay. Mọi người đang thực hiện và xây dựng các hệ thống. Tất cả đều đảm bảo rằng Groq sẽ tận dụng cơ hội mà chúng tôi có vì điều đó nằm trong tầm kiểm soát của chúng tôi.
Tôi nói với mọi người rằng danh sách khách hàng tiềm năng của chúng tôi đang lớn. Thật không thể tin được nhưng số lượng khách hàng quan tâm rất lớn. Chúng tôi phải xây dựng thêm hệ thống và triển khai chúng để phục vụ nhu cầu mà Groq có. Chúng tôi muốn phục vụ tất cả khách hàng đó. Chúng tôi muốn tăng giới hạn tốc độ cho mọi người".
Rodrigo Liang, Giám đốc điều hành hãng SambaNova Systems, trả lời: "Với SambaNova, yếu tố quan trọng nhất là thực hiện chuyển đổi từ đào tạo sang suy luận. Ngành công nghiệp đang chuyển dịch nhanh chóng sang các ứng dụng thời gian thực và khối lượng công việc suy luận đang trở thành phần lớn nhu cầu về AI. Trọng tâm của chúng tôi là đảm bảo công nghệ của mình cho phép các doanh nghiệp mở rộng quy mô một cách hiệu quả và bền vững".
Thomas Sohmers, Giám đốc điều hành hãng Positron AI, chia sẻ: "Tôi tin rằng nếu chúng tôi có thể triển khai đủ khả năng tính toán bằng nhiều chip suy luận hơn, Positron sẽ thúc đẩy tỷ lệ áp dụng các 'chuỗi tư duy' và khả năng suy luận bổ sung khác. May mắn thay, tôi nghĩ chúng tôi có thể làm được từ góc độ chuỗi cung ứng".
Mark Heaps: "Vấn đề là khách hàng nhận ra rằng có những tiến bộ mới lạ so với các công nghệ hiện tại. Có rất nhiều người nói với chúng tôi rằng: Việc lựa chọn nhà cung cấp lớn, lâu đời được coi là an toàn, ít rủi ro. Lý do là vì nếu có vấn đề xảy ra, người đưa ra quyết định sẽ ít bị chỉ trích hơn so với khi chọn nhà cung cấp mới, ít tiếng tăm hơn. Thế nhưng, chúng tôi biết rằng mọi chuyện đang bắt đầu thay đổi. Nhiều người đang nhận ra rằng việc mua chip từ nhà cung cấp lâu đời đang trở nên khó khăn, và chip đó cũng không hiệu quả bằng sản phẩm của Groq. Vì vậy, tôi mong mọi người sẵn sàng chấp nhận rủi ro và thực sự tìm đến một số công nghệ mới này".
Rodrigo Liang: "Nếu có một cây đũa thần, tôi sẽ giải quyết những thách thức về năng lượng xung quanh việc triển khai AI. Ngày nay, hầu hết thị trường đều bị kẹt trong việc sử dụng phần cứng tiêu tốn năng lượng không được thiết kế cho suy luận ở quy mô lớn. Kết quả là một cách tiếp cận không bền vững cả về mặt kinh tế và môi trường. Tại SambaNova, chúng tôi đã chứng minh rằng có một cách tốt hơn. Kiến trúc của chúng tôi tiêu thụ ít năng lượng hơn 10 lần, giúp các doanh nghiệp có thể triển khai các hệ thống AI đáp ứng được mục tiêu của họ mà không vượt quá ngân sách năng lượng hoặc mục tiêu carbon. Tôi muốn thấy thị trường chuyển động nhanh hơn theo hướng áp dụng các công nghệ ưu tiên hiệu quả và tính bền vững. Đó là cách chúng tôi đảm bảo AI có thể mở rộng quy mô trên toàn cầu mà không làm quá tải cơ sở hạ tầng hỗ trợ nó".
Thomas Sohmers:"Tôi muốn mọi người thực sự áp dụng các khả năng chuỗi suy nghĩ này với tốc độ nhanh nhất có thể. Tôi nghĩ đó là sự thay đổi lớn, theo quan điểm về mặt khả năng. Các mô hình có 8 tỉ tham số đang vượt mô hình 70 tỉ tham số. Vì vậy, tôi đang cố gắng làm mọi thứ có thể để biến điều đó thành hiện thực".
Mark Heaps: "Trong 6 tháng qua, tôi đã tham gia một số hackathon và gặp gỡ các nhà phát triển. Điều đó thực sự truyền cảm hứng sâu sắc. Vì vậy, mục tiêu năm mới của tôi là cố gắng khuếch đại tín hiệu về những điều tốt đẹp mà mọi người đang làm với AI".
Hackathon là sự kiện, thường kéo dài trong một khoảng thời gian nhất định (thường từ 24 đến 72 giờ), nơi các lập trình viên, nhà phát triển phần mềm, nhà thiết kế và những người làm việc trong lĩnh vực công nghệ tập hợp lại để hợp tác phát triển một dự án, chẳng hạn phần mềm, ứng dụng hoặc giải pháp kỹ thuật.
Rodrigo Liang: "Dành thời gian cho âm nhạc. Chơi guitar là điều tôi luôn yêu thích và tôi rất muốn quay lại với nó. Âm nhạc mang đến một cách tuyệt vời để làm tâm trí trở nên sáng suốt và khơi nguồn sáng tạo. Đó là điều mà tôi thấy vô cùng quý giá khi nỗ lực đưa AI của SambaNova đến những nơi mới trên thế giới".
Thomas Sohmers: "Tôi muốn làm nhiều hơn nữa để khuyến khích sử dụng những công cụ mới này để giúp đỡ mọi người. Một phần lý do tôi làm về công nghệ vì muốn thấy những công cụ này nâng cao khả năng của mọi người để họ có thể làm được nhiều việc hơn với thời gian của mình. Tôi nghĩ rằng việc giảm chi phí cho những công nghệ này sẽ thúc đẩy sự phổ biến của chúng.
Tôi cũng muốn tự mình khám phá và sử dụng nhiều hơn những công nghệ này ngoài bối cảnh công việc. Trong vài tuần qua, tôi đã dùng mô hình o1 Pro của OpenAI một cách say mê và nó thật sự tuyệt vời cho công việc cá nhân của tôi. Khi tôi cho mẹ sử dụng o1 Pro, những gì bà làm với nó thực sự thú vị. Đó là những tác vụ bình thường, hàng ngày mà công cụ này thực sự trở thành trợ lý đắc lực".
