AI hết đãi miễn phí, các doanh nghiệp phải thắt lưng buộc bụng với AI

Từ Amazon, Walmart, Uber đến Meta, các doanh nghiệp từng cổ vũ nhân viên sử dụng AI nay buộc phải áp dụng hạn mức, kiểm soát token và yêu cầu lựa chọn mô hình rẻ hơn. Cuộc đua AI đang bước sang giai đoạn mới, nơi bài toán hiệu quả tài chính trở thành yếu tố quyết định.

Từ cơn sốt AI đến hóa đơn khổng lồ cho các doanh nghiệp

Khi ChatGPT bùng nổ vào cuối năm 2022, nhiều doanh nghiệp xem AI như chiếc chìa khóa mở ra kỷ nguyên tăng năng suất chưa từng có. Hàng loạt tập đoàn công nghệ và bán lẻ nhanh chóng triển khai các công cụ AI cho nhân viên với kỳ vọng tự động hóa công việc, tăng tốc phát triển sản phẩm và giảm chi phí vận hành.

Tuy nhiên, sau giai đoạn hào hứng ban đầu, một thực tế đang dần lộ diện: càng sử dụng AI ở quy mô lớn, chi phí càng trở nên đáng kể.

Theo Costi Perricos, Giám đốc toàn cầu về AI tạo sinh của Deloitte, nhiều doanh nghiệp và người dùng đã quen với suy nghĩ rằng AI là công nghệ “rẻ hoặc miễn phí”. Thế nhưng khi các ứng dụng AI được triển khai rộng khắp, chi phí điện toán khổng lồ phía sau các mô hình ngôn ngữ lớn bắt đầu hiện rõ trên báo cáo tài chính.

Nếu năm ngoái, các doanh nghiệp chủ yếu sử dụng chatbot hỗ trợ công việc đơn giản thì hiện nay họ đang chuyển sang các tác nhân AI (AI Agent) có khả năng tự động thực hiện chuỗi nhiệm vụ phức tạp. Đổi lại, mức tiêu thụ tài nguyên tính toán của các hệ thống này cao hơn rất nhiều.

Jeetu Patel, Chủ tịch kiêm Giám đốc sản phẩm của Cisco, cho biết một chatbot thông thường chỉ xử lí các yêu cầu đơn lẻ. Trong khi đó, AI Agent có thể hoạt động liên tục, tự động tương tác với nhiều hệ thống và thực hiện hàng loạt tác vụ cùng lúc.

“Mỗi nhân viên có thể kéo theo hàng chục, hàng trăm, thậm chí hàng nghìn AI Agent làm việc phía sau. Chúng không bao giờ nghỉ và liên tục tiêu thụ năng lực tính toán”, Patel nhận định.

Áp lực chi phí càng gia tăng khi các công ty AI như OpenAI hay Anthropic dần từ bỏ mô hình thu phí cố định theo người dùng để chuyển sang tính phí theo token – đơn vị đo lượng dữ liệu được xử lí. Điều này đồng nghĩa mỗi câu lệnh, mỗi cuộc hội thoại và mỗi quy trình tự động hóa đều được quy đổi thành chi phí cụ thể.

Chính Sam Altman, CEO OpenAI, cũng thừa nhận chi phí đã trở thành một trong những mối quan tâm lớn nhất của khách hàng trong năm nay. “Năm ngoái gần như không ai nhắc đến chuyện đó. Mọi người đều cảm thấy hài lòng với số tiền họ đang chi”, Altman nói.

Những “ông lớn” bắt đầu kéo phanh

Khi hóa đơn AI ngày càng phình to, nhiều tập đoàn từng đi đầu trong việc ứng dụng công nghệ này đang chuyển sang giai đoạn kiểm soát và tối ưu hóa.

Uber là một ví dụ điển hình. Công ty gọi xe này đã phải áp dụng hạn mức sử dụng AI sau khi tiêu hết ngân sách AI dành cho cả năm 2026 chỉ trong bốn tháng đầu năm.

Theo Andrew Macdonald, Chủ tịch kiêm Giám đốc vận hành Uber, mỗi nhân viên hiện chỉ được phép chi tối đa 1.500 USD mỗi tháng cho token trên từng công cụ AI.

Macdonald cho biết doanh nghiệp ngày càng khó chứng minh mối liên hệ trực tiếp giữa mức chi tiêu AI và giá trị kinh doanh thực tế. “Rất khó để nhìn vào những con số đó và khẳng định rằng nhờ vậy chúng tôi tạo ra thêm 25% tính năng hữu ích cho khách hàng”, ông nói.

Tại Walmart, tình hình cũng tương tự. Nền tảng AI nội bộ Code Puppy ghi nhận mức tăng trưởng sử dụng bùng nổ khiến ban lãnh đạo buộc phải giới hạn số lượng token mà nhân viên được phép sử dụng.

Giám đốc công nghệ toàn cầu của Walmart, Suresh Kumar, cho biết đây là thời điểm công ty cần nhìn lại cách triển khai AI và xác định công cụ nào thực sự phù hợp với từng nhiệm vụ. Amazon cũng đang thay đổi cách tiếp cận. Tháng trước, tập đoàn này cảnh báo nhân viên không nên sử dụng AI chỉ để chứng minh rằng mình đang sử dụng AI.

Thông điệp được đưa ra sau khi một số kỹ sư triển khai AI Agent chủ yếu để cải thiện thứ hạng trên các bảng xếp hạng nội bộ thay vì tạo ra giá trị thực tế.

Meta cũng thực hiện các biện pháp tương tự từ đầu năm nay nhằm ngăn chặn việc lạm dụng tài nguyên AI.

Một câu chuyện đáng chú ý đến từ Workato, công ty phần mềm với khoảng 1.300 nhân viên. Theo Giám đốc thông tin Carter Busse, việc sử dụng AI Agent bùng nổ nhanh chóng sau mùa hè năm ngoái. “Mọi người thực sự thay đổi cách làm việc nhờ các AI Agent”, ông kể.

Nhưng khi Anthropic chuyển sang mô hình tính phí theo token hồi tháng 5, Workato nhận cú sốc lớn. “Chi phí tăng gấp bảy lần chỉ trong ngày đầu tiên. Lúc đó tôi nghĩ: Chúng ta đã tạo ra một con quái vật rồi”, Busse nói.

Thay vì hạn chế nhân viên, Workato hiện tập trung vào giáo dục ý thức sử dụng AI tiết kiệm, khuyến khích lựa chọn các mô hình cũ và rẻ hơn cho những nhiệm vụ không đòi hỏi hiệu năng cao.

Cuộc chiến AI bước sang giai đoạn tối ưu hóa chi phí

Việc các doanh nghiệp bắt đầu kiểm soát AI không đồng nghĩa họ mất niềm tin vào công nghệ này. Trái lại, AI đang trở thành hạ tầng chiến lược và vì thế cần được quản lí giống bất kỳ khoản đầu tư lớn nào khác.

Theo dự báo của Goldman Sachs, đến năm 2030, việc triển khai AI Agent có thể khiến lượng token tiêu thụ toàn cầu tăng gấp 24 lần hiện nay. Điều này sẽ làm trầm trọng thêm tình trạng thiếu hụt chip AI trong vòng 12 đến 18 tháng tới.

Trong hoàn cảnh đó, các nhà cung cấp nền tảng AI cũng đang tìm cách giúp khách hàng tiết kiệm hơn. Microsoft, Amazon và Google đã phát triển các hệ thống tự động định tuyến tác vụ tới mô hình phù hợp nhất thay vì luôn sử dụng những mô hình tiên tiến và đắt đỏ nhất.

Kyle Daigle, Giám đốc vận hành GitHub, cho rằng không phải nhiệm vụ nào cũng cần đến những mô hình AI hàng đầu.

“Người dùng cần đặt câu hỏi: mô hình nào thực sự phù hợp với công việc này? Không phải lúc nào cũng cần dùng mô hình mạnh nhất”, ông nói.

Một xu hướng khác đang nổi lên là sử dụng các mô hình mã nguồn mở chạy trực tiếp trên máy chủ nội bộ hoặc thiết bị cá nhân. Cách tiếp cận này giúp doanh nghiệp giảm đáng kể chi phí phải trả cho các phòng thí nghiệm AI và các nhà cung cấp điện toán đám mây.

Sự dịch chuyển này cũng tạo cơ hội cho các mô hình AI của Trung Quốc. Theo dữ liệu từ nền tảng OpenRouter, kể từ đầu năm nay, lượng token tiêu thụ từ các mô hình AI Trung Quốc đã vượt qua các đối thủ Mỹ.

Lợi thế của Trung Quốc đến từ chi phí năng lượng thấp hơn cùng khả năng phát triển các mô hình hiệu quả hơn về mặt tính toán, cho phép họ đưa ra mức giá cạnh tranh hơn đáng kể.

Đối với OpenAI, Anthropic và các công ty AI đang hướng tới mục tiêu IPO với định giá hàng trăm tỉ USD, đây có thể là thách thức không nhỏ. Nếu doanh nghiệp khách hàng ngày càng thắt chặt chi tiêu và tối ưu hóa việc sử dụng AI, tốc độ tăng trưởng doanh thu của các nhà phát triển mô hình có thể chịu áp lực.

Tuy vậy, phần lớn doanh nghiệp vẫn tin AI sẽ tạo ra giá trị dài hạn. Vấn đề không còn là có nên dùng AI hay không, mà là sử dụng AI như thế nào để đạt hiệu quả kinh tế cao nhất.

Cuộc đua AI vì thế đang bước sang một giai đoạn trưởng thành hơn. Sau những tháng ngày hào hứng thử nghiệm và chi tiêu mạnh tay, các doanh nghiệp giờ đây phải đối mặt với câu hỏi mà mọi công nghệ đột phá cuối cùng đều phải trả lời: lợi ích thu được có tương xứng với số tiền bỏ ra hay không.

Và trong giai đoạn mới này, thắng lợi có thể không thuộc về những ai sử dụng nhiều AI nhất, mà thuộc về những người biết sử dụng AI thông minh và tiết kiệm nhất.