Sam Altman: Người dùng 100 tỉ token/tháng ở OpenAI chưa phải nhiều nhất thế giới
Nhân viên OpenAI đang dùng token với tốc độ đáng kinh ngạc. Thế nhưng, người dùng nhiều token nhất thế giới lại không phải là nhân viên công ty đứng sau ChatGPT.
Các nhân viên OpenAI vốn nổi tiếng vì sử dụng AI với cường độ rất cao. Peter Steinberger, nhà sáng lập OpenClaw, từng tiêu tốn lượng token trị giá 1,3 triệu USD chỉ trong một tháng.
Token là đơn vị dữ liệu nhỏ nhất mà mô hình AI xử lý hoặc tạo ra, có thể là một từ, một phần của từ, hoặc thậm chí là dấu câu. Nhiều công ty sử dụng token như một đơn vị kinh tế để đo lường khối lượng tính toán mà AI thực hiện. Văn bản càng dài thì càng cần nhiều token để xử lý, vì vậy chi phí thường được tính theo số token (trên mỗi nghìn hoặc mỗi triệu token).
Tại sự kiện dành cho khách hàng doanh nghiệp hôm 3/6, ông Sam Altman - Giám đốc điều hành OpenAI - đã nói về người dùng nhiều token nhất của công ty.
Sam Altman cho biết cách đây 6 năm rưỡi, người dùng nhiều token nhất tại OpenAI chỉ khoảng 100.000 token mỗi tháng. Khi đó, nhân viên đó "rất có thể là người dùng token nhiều nhất thế giới".
"Ngày nay, sau 6 năm rưỡi, con số đó gần tương đương mức trung bình trên đầu người của toàn thế giới. Còn người dùng token nhiều nhất tại OpenAI hiện khoảng 100 tỉ token mỗi tháng", Sam Altman nói.
Tuy nhiên, đây vẫn chưa phải là người dùng token nhiều nhất thế giới. Sam Altman cho biết OpenAI đã phát hiện một người bên ngoài công ty dùng token còn nhiều hơn thế, điều mà ông gọi là nỗi "xấu hổ cá nhân".
Peter Steinberger dùng tới 603 tỉ token trong 30 ngày
OpenAI có văn hóa sử dụng token rất đặc biệt. Theo các báo cáo, công ty có cả bảng xếp hạng lượng token tiêu thụ và nhân viên đôi khi còn khoe thành tích của mình trên mạng xã hội X. Tất nhiên, điều này cũng dễ hiểu vì OpenAI chính là đơn vị bán token.
Một số ví dụ khác cho thấy nhân viên OpenAI thậm chí còn tiêu thụ nhiều hơn 100 tỉ token mỗi tháng. Theo ảnh chụp màn hình được chia sẻ trên X, Peter Steinberger sử dụng tới 603 tỉ token trong 30 ngày. Trong khi đó, báo The New York Times từng đưa tin một nhân viên OpenAI dùng 210 tỉ token chỉ sau một tuần.
Trong lúc OpenAI khuyến khích việc sử dụng token, nhiều công ty khác lại đang siết chặt chi tiêu. Amazon đã đóng bảng xếp hạng token nội bộ, còn Uber áp đặt hạn mức sử dụng token sau khi Giám đốc vận hành Andrew Macdonald của hãng nhận định rằng mức chi tiêu này ngày càng khó biện minh.
Tại buổi thảo luận, Sam Altman cũng nhắc đến meme phổ biến trong giới công nghệ: "Công ty tôi đã tiêu hết toàn bộ ngân sách AI của năm 2026 ngay trong quý I. Anh có thể làm cho việc này hiệu quả hơn được không?".
Ông cho biết OpenAI vẫn đang tiếp tục cải tiến các mô hình AI và tìm kiếm những cách khác để mang lại "nhiều giá trị hơn với chi phí thấp hơn".
Doanh nhân người Mỹ 41 tuổi cũng nói rằng vấn đề chi phí AI xuất hiện khá đột ngột. “Đầu năm 2026, chẳng ai nhắc đến chuyện này cả. Mọi người hoàn toàn hài lòng với số tiền họ đang chi. Song hiện nay, chi phí AI đã trở thành một vấn đề rất lớn", Sam Altman nhấn mạnh.
Dùng AI quá tốn kém, nhiều công ty phải chọn giữa token hay tuyển người mới
Dùng AI đắt đỏ hơn nhiều so với dự đoán ban đầu, khiến những công ty lớn ở Mỹ phải đối mặt với lựa chọn khó khăn: mua token hay tuyển thêm nhân sự?
Đó là bức tranh mà giám đốc điều hành hai công ty AI dành cho doanh nghiệp, đang ở trung tâm làn sóng triển khai AI, chia sẻ với kênh CNBC gần đây.
Những gì họ chứng kiến bên trong các công ty thuộc Fortune 500 cho thấy rõ mối đe dọa mà chi phí leo thang đang tạo ra với canh bạc AI. Đây là rủi ro mà thị trường vẫn chưa nhận ra, trong bối cảnh chứng khoán liên tục lập đỉnh và xuất hiện thêm các công ty nghìn tỉ USD mới như Micron Technology (hãng chip nhớ số 1 Mỹ).
Fortune 500 là top 500 doanh nghiệp có doanh thu cao nhất nước Mỹ, bao gồm cả tập đoàn công nghệ, năng lượng, bán lẻ, tài chính, ô tô…
“Chủ đề số một ở mọi doanh nghiệp lúc này là ngân sách AI bị đội lên quá mức. Các công ty nói với chúng tôi rằng ngân sách AI của họ bị dùng hết chỉ 1 hoặc 2 tháng, dù đáng ra dành cho cả năm”, ông Arvind Jain, Giám đốc điều hành Glean, nói với CNBC.
Glean là công ty khởi nghiệp chuyên phát triển công cụ tìm kiếm và trợ lý AI dành cho doanh nghiệp.
Nguyên nhân vì chi phí AI không giảm như khách hàng kỳ vọng, mà trái lại còn tăng lên. Mỗi mô hình AI mới được các công ty hàng đầu tung ra đều có chi phí trên mỗi token cao gấp khoảng 2 lần phiên bản trước đó, khiến việc triển khai AI trong doanh nghiệp trở nên không bền vững, theo Arvind Jain.
“Đây là lần đầu tiên tôi nhớ được rằng công nghệ có chi phí tương đương con người, và bạn phải đưa ra so sánh: chọn công nghệ hay chọn con người. Trong lịch sử, chúng ta chưa từng có cuộc thảo luận như vậy, vì công nghệ chỉ chiếm một phần nhỏ trong tổng chi phí vận hành của bất kỳ doanh nghiệp nào”, Arvind Jain nhấn mạnh.
Arvind Jain nói ngân sách AI ngày càng phình to này đang dần thay thế cho kế hoạch tuyển thêm nhân sự trong tương lai.
Matan Grinberg, Giám đốc điều hành Factory AI - công ty điều phối công việc kỹ thuật qua nhiều mô hình AI hàng đầu khác nhau, mô tả sự thay đổi này như một bài toán phân bổ nguồn lực cụ thể đang diễn ra trong các nhóm lãnh đạo.
“Các công ty nói rằng: nếu chỉ có thể tối ưu một thứ, thì đó nên là số lượng nhân viên hay chi phí AI trên mỗi nhân viên?”, Matan Grinberg nói.
Ông cho rằng các công ty đã trải qua ba giai đoạn rõ rệt chỉ trong khoảng một năm.
Giai đoạn đầu là khi hội đồng quản trị gây áp lực buộc giám đốc điều hành phải làm điều gì đó với AI.
Tiếp theo là giai đoạn được gọi là tokenmaxxing. Đây là thuật ngữ mới trong ngành AI, dùng để chỉ việc doanh nghiệp hoặc cá nhân sử dụng AI ở mức tối đa, tiêu thụ càng nhiều token càng tốt để tăng năng suất hoặc đẩy nhanh công việc, gần như không quan tâm đến chi phí.
Ở giai đoạn thứ ba, các ban lãnh đạo bắt đầu đánh giá lại nhu cầu sử dụng những mô hình AI cao cấp.
“Liệu chúng ta có thực sự cần dùng mức trí tuệ cỡ Claude Opus cho mọi tác vụ không? Thực tế là không cần”, Matan Grinberg nói.
Claude Opus là dòng mô hình AI cao cấp của Anthropic, được thiết kế cho những tác vụ phức tạp như lập trình, phân tích dữ liệu, suy luận dài, nghiên cứu, xử lý tác vụ doanh nghiệp.
Chi nhiều cho AI hơn giá trị nhận lại
Nguồn gốc của áp lực này là AI thực sự hoạt động hiệu quả, nhưng chưa thể tự tạo ra đủ giá trị để bù đắp chi phí.
“Cách thức hoạt động của AI hiện nay rất mạnh mẽ, nhưng lại rất kém hiệu quả. Giá trị mà AI mang lại ở thời điểm này hiện vẫn chưa theo kịp chi phí doanh nghiệp phải bỏ ra”, Arvind Jain nói.
Một phần lớn của vấn đề nằm ở việc sử dụng mô hình AI không hiệu quả.
Khoảng 95% mức sử dụng AI trong doanh nghiệp hiện vẫn chạy trên những mô hình hàng đầu đắt đỏ nhất, kể cả với các tác vụ hoàn toàn có thể được xử lý bằng lựa chọn rẻ hơn, theo Arvind Jain.
Có một cách đơn giản để giảm chi phí: giao các công việc dễ cho những mô hình AI rẻ hơn. Arvind Jain nói đây là cách tiết kiệm dễ thực hiện nhất hiện nay.
“Bạn có thể tiết kiệm gấp 10 lần nếu chọn đúng mô hình AI ngay từ đầu”, ông nhấn mạnh.
Đó cũng là ý tưởng đằng sau Factory AI, nền tảng tự động gửi từng tác vụ tới mô hình AI phù hợp nhất.
Rất hiếm công việc cần tới mô hình AI mạnh nhất
Matan Grinberg nói chìa khóa nằm ở chuyện nhận ra rằng rất hiếm công việc thực sự cần tới mô hình AI mạnh nhất thị trường. Ông so sánh sự khác biệt giữa hai mô hình AI tiên tiến với hai học giả kỳ cựu.
“Claude Opus 4.7 so với Opus 4.8 giống như khác biệt giữa một giáo sư có 13 năm kinh nghiệm với người có 15 năm kinh nghiệm. Với người bình thường, rất khó để nhận ra sự khác biệt”, Matan Grinberg cho hay.
Toàn bộ làn sóng đầu tư AI hiện nay dựa trên niềm tin rằng nhu cầu sử dụng AI sẽ tiếp tục bùng nổ và khách hàng sẽ không quá quan tâm đến chi phí. Tuy nhiên, những gì đang diễn ra bên trong các công ty thuộc Fortune 500 cho thấy doanh nghiệp thực tế nhạy cảm với giá hơn nhiều so với suy nghĩ của thị trường.