OpenAI hé lộ chi phí dùng tác tử AI lập trình của các nhà nghiên cứu

Trong bài đăng trên blog hôm 7/9, OpenAI cho biết 10% nhà nghiên cứu sử dụng tác tử AI nhiều nhất của công ty tiêu thụ lượng token tương đương hơn 7.000 USD mỗi ngày.

Token là những đơn vị văn bản nhỏ mà mô hình AI đọc và tạo ra. Lượng token sử dụng càng lớn thường đồng nghĩa AI đang thực hiện nhiều tác vụ hơn hoặc xử lí những yêu cầu phức tạp hơn.

Theo OpenAI, AI đã làm thay đổi đáng kể cách các nhà nghiên cứu làm việc trong năm qua. Nhân viên hiện có thể triển khai mã nguồn nhanh hơn, thực hiện nhiều thử nghiệm hơn và giao phó các nhiệm vụ ngày càng phức tạp cho các tác tử AI lập trình.

OpenAI cho biết việc sử dụng các tác tử AI lập trình trong đội ngũ nghiên cứu đã tăng vọt trong 3 tháng qua, nhanh hơn tốc độ tăng trưởng tại các bộ phận khác của công ty.

Theo dữ liệu của OpenAI, đến giữa tháng 8, một nhân viên ở mức trung vị (nằm ở vị trí giữa) tại bộ phận nghiên cứu sử dụng lượng token tương đương hơn 600 USD mỗi ngày, tăng từ 162 USD vào tháng 7, tức gấp khoảng 3,7 lần. Với nhóm 10% nhà nghiên cứu sử dụng nhiều token nhất OpenAI, mức tiêu thụ vượt 7.000 USD mỗi ngày. Tuy nhiên, đây chỉ là chi phí ước tính dựa trên mức giá suy luận của API (giao diện lập trình ứng dụng), chứ không phải số tiền thực tế mà OpenAI đã trả.

OpenAI cũng cho biết các tác tử AI ngày càng được dùng để xử lí và khắc phục các vấn đề kỹ thuật. Mức độ hiệu quả lớn đến mức số bài đăng mỗi ngày trên một kênh hỗ trợ kỹ thuật nội bộ do con người phụ trách đã giảm hơn một nửa kể từ tháng 1.

OpenAI cho biết công ty đã đạt mục tiêu do Giám đốc điều hành Sam Altman đặt ra từ năm ngoái: Xây dựng “thực tập sinh nghiên cứu tự động”, có khả năng thực hiện các nhiệm vụ dưới sự định hướng của con người. Công ty cũng đang đi đúng hướng để tạo ra nhà nghiên cứu AI hoàn toàn tự động vào tháng 3/2028.

AI đang làm thay đổi cách lập trình

Sự phổ biến ngày càng tăng cùng năng lực được cải thiện của các tác tử AI lập trình đã làm thay đổi mạnh mẽ ngành kỹ thuật phần mềm trong năm qua.

Nhiều lập trình viên hiện giao các nhiệm vụ viết mã cho tác tử AI rồi kiểm tra lại kết quả. Một số cho rằng cách làm này giúp họ làm việc năng suất hơn, trong khi những người khác vẫn chưa hoàn toàn bị thuyết phục. Với một số công ty, sự thay đổi này cũng kéo theo chi phí rất lớn.

Đầu năm nay, nhiều doanh nghiệp khuyến khích nhân viên thử nghiệm AI, thậm chí lập các bảng xếp hạng để theo dõi những người sử dụng công nghệ này nhiều và hiệu quả nhất.

Điều đó dẫn đến xu hướng được gọi là tokenmaxxing, tức cố gắng sử dụng AI càng nhiều càng tốt, bất kể kết quả tạo ra có thực sự hữu ích hay không.

Song đến mùa hè này, chi phí tăng vọt của các mô hình hàng đầu bắt đầu làm dấy lên lo ngại rằng việc sử dụng AI quá mức không giúp năng suất tăng đủ để bù đắp khoản tiền bỏ ra.

Meta và Amazon sau đó đã đóng các bảng xếp hạng lượng token nội bộ. Dave Treadwell, Phó chủ tịch cấp cao của Amazon, cảnh báo nhân viên không nên dùng AI cho những việc không cần thiết chỉ để tăng mức độ sử dụng, mà nên tận dụng công nghệ này để giải quyết vấn đề thực tế và tạo ra giá trị.

OpenAI trước đây cũng từng thể hiện thái độ khá cởi mở với việc sử dụng lượng token lớn. Hồi tháng 6, Sam Altman cho biết người sử dụng token nhiều nhất tại OpenAI tiêu thụ tới 100 tỉ token mỗi tháng.

Peter Steinberger, người tạo ra nền tác tác tử AI OpenClaw và gia nhập OpenAI hồi tháng 2, từng đăng ảnh chụp màn hình cho thấy một hóa đơn token 1,3 triệu USD/tháng vào tháng 5.

Song giống như các nhân viên khác, Peter Steinberger không phải tự bỏ tiền túi để thanh toán khoản chi phí này.

Khi thước đo hiệu quả của AI không còn là số token

Câu chuyện tại Amazon và OpenAI cho thấy thay đổi quan trọng trong cách doanh nghiệp nhìn nhận AI: Số lần sử dụng AI hay lượng token tiêu thụ không phải là thước đo trực tiếp của năng suất. Vấn đề quan trọng hơn là AI giúp nhân viên tạo ra bao nhiêu giá trị và phần công việc nào thực sự được rút ngắn.

Điều này đặc biệt rõ trong lĩnh vực lập trình. Một nghiên cứu của Cục Nghiên cứu Kinh tế Quốc gia Mỹ (NBER), dựa trên dữ liệu của hơn 100.000 lập trình viên trên GitHub, cho thấy các công cụ AI có thể giúp tăng mạnh tốc độ viết và cập nhật mã nguồn. Với tác tử AI có khả năng tự thực hiện các nhiệm vụ lập trình, số lần lập trình viên cập nhật và lưu thay đổi vào kho mã nguồn (commit) tăng tới 180%.

Tuy nhiên, số lượng dự án tăng khoảng 50%, trong khi số bản phát hành phần mềm thực tế chỉ tăng khoảng 30%.

Kết quả nghiên cứu cho thấy AI đặc biệt hiệu quả ở khâu viết và chỉnh sửa mã nguồn, nhưng lợi ích này giảm dần khi công việc đi qua các bước tiếp theo như kiểm tra, tích hợp, hoàn thiện và phát hành sản phẩm. Nói cách khác, AI có thể giúp lập trình viên viết mã nhanh hơn rất nhiều, nhưng không có nghĩa phần mềm hoàn chỉnh cũng được tạo ra với tốc độ tương ứng.

Những khâu như kiểm thử, đánh giá mã nguồn, phê duyệt, phối hợp giữa các nhóm và đưa sản phẩm vào vận hành vẫn cần con người.

Theo nghiên cứu từ hai chuyên gia tại Đại học Auckland (New Zealand) về tác động dài hạn của trợ lí AI với kỹ sư phần mềm, công việc đang dịch chuyển từ trực tiếp viết mã sang giám sát, kiểm tra và sửa kết quả do AI tạo ra. Trong nghiên cứu này, 82% người tham gia cho biết dành ít thời gian hơn cho việc viết mã, nhưng trải nghiệm làm việc không phải lúc nào cũng được cải thiện.

Đây có thể là lí do các doanh nghiệp ngày càng quan tâm đến những chỉ số khác thay vì chỉ theo dõi mức độ sử dụng AI. Chẳng hạn, thay vì hỏi một lập trình viên đã tiêu thụ bao nhiêu token, doanh nghiệp có thể quan tâm đến thời gian hoàn thành một nhiệm vụ, số lỗi được xử lí, số tính năng được đưa vào sản phẩm hoặc chất lượng của mã nguồn.

Ngay cả Amazon cũng đang xây dựng các công cụ giúp doanh nghiệp theo dõi mức sử dụng tác tử AI lập trình, chi phí token và hoạt động của các nhà phát triển. Điều này phản ánh một vấn đề mới: Khi tác tử AI có thể tự thực hiện hàng loạt thao tác trong nền, doanh nghiệp cần biết nó đang làm gì, tốn bao nhiêu tài nguyên và kết quả có đáng với chi phí bỏ ra hay không.

Ở quy mô rộng hơn, khảo sát năm 2026 của hãng phần mềm nổi tiếng JetBrains với hơn 15.000 lập trình viên chuyên nghiệp cho thấy 90% người được hỏi sử dụng tác tử AI lập trình tại nơi làm việc ít nhất hằng tuần, trong đó 68% dùng hằng ngày. Do đó, AI lập trình đang nhanh chóng trở thành một phần của quy trình phát triển phần mềm, thay vì chỉ là công cụ thử nghiệm.

Xu hướng tiếp theo có thể là doanh nghiệp nào biết kết hợp AI với con người hiệu quả hơn. Khi chi phí sử dụng AI ngày càng lớn, câu hỏi quan trọng sẽ chuyển từ “Chúng ta có đang sử dụng AI đủ nhiều không?” sang “Mỗi USD chi cho AI đang tạo ra thêm bao nhiêu giá trị?”.