Khó khăn bủa vây khi xây dựng ‘nhà máy AI’

Khái niệm “nhà máy AI” được thúc đẩy mạnh mẽ bởi giám đốc điều hành NVIDIA Jensen Huang. Ông ví dữ liệu như nguyên liệu thô, máy chủ đóng vai trò thiết bị sản xuất còn đầu ra là tri thức số.

Ngoài thực tế, khi muốn phát triển mô hình ngôn ngữ lớn, nền tảng AI phục vụ khách hàng hay giải pháp tự động hóa thì doanh nghiệp cần mạng lưới hàng trăm thậm chí hàng nghìn máy chủ, kết nối tốc độ cao cùng nguồn dữ liệu khổng lồ chất lượng. Hệ thống điện toán này sẽ thu thập dữ liệu, huấn luyện trí tuệ nhân tạo, tinh chỉnh cho đến khi ra thành phẩm.

Đi đầu trong xây dựng hạ tầng này là Foxcomm. Tập đoàn hợp tác cùng NVIDIA thiết lập loạt trung tâm siêu điện toán xử lí lượng dữ liệu khổng lồ từ các nhà máy sản xuất linh kiện toàn cầu, huấn luyện các thuật toán cho xe tự lái và mô hình công xưởng ảo.

Không chỉ Foxconn, hãng dược Bristol Myers Squibb, tập đoàn đa ngành SK Group, hãng điện tử LG cũng tìm đến NVIDIA nhằm xây dựng “nhà máy AI” phục vụ nhiều mảng kinh doanh của mình.

Quy trình khép kín

“Nhà máy AI” hoạt động theo quy trình khép kín. Dữ liệu từ phần mềm, giao dịch, văn bản, hình ảnh, cảm biến… đều được thu thập liện tục. Sau đó hệ thống xử lí, làm sạch, gắn nhãn và biến dữ liệu thành tệp huấn luyện

Máy chủ kết nối bằng mạng tốc độ cao và hệ thống lưu trữ siêu tốc. Chúng dùng các tệp dữ liệu tiến hành huấn luyện, nhận phản hồi, tinh chỉnh, đánh giá rồi triển khai vào thực tế để phục vụ người dùng hoặc hệ thống khác.

Các nền tảng AI sau khi triển khai tạo ra dự đoán, phản hồi hoặc tự động thực hiện nhiệm vụ. Kết quả sử dụng lại tiếp tục sinh ra dữ liệu mới, được đưa ngược trở lại hệ thống để cải thiện mô hình. Nhờ đó “nhà máy” tạo ra vòng lặp học hỏi liên tục: càng vận hành hệ thống càng thông minh hơn.

Khoản đầu tư tốn kém

Thiết lập và vận hành “nhà máy AI” là một trong những khoản đầu tư tốn kém nhất của doanh nghiệp.

Máy chủ phải được đặt trong phòng chuyên dụng, sở hữu chip GPU hiệu năng cao như NVIDIA H100 hay Blackwell, chạy mạng tốc độ cao như InfiniBand. Kèm theo đó là phần mềm bản quyền, hệ thống lưu trữ, bộ làm mát, nguồn điện dự phòng. Tất cả có thể lên đến hàng trăm triệu USD.

Như bao nhà máy thông thường khác, “nhà máy AI” chỉ tạo ra giá trị khi đạt đến mức độ khai thác lớn nhất định. Nếu số lượng khách hàng hay khối lượng công việc chưa đủ lớn thì nhiều GPU sẽ chẳng cần hoạt động, trong khi doanh nghiệp vẫn phải trả chi phí vận hành lẫn bảo trì.

Với tốc độ thay đổi công nghệ hiện nay, chu kì nâng cấp phần cứng AI chỉ khoảng 1 - 2 năm. GPU thế hệ mới hiệu năng cao liên tục ra mắt, khiến doanh nghiệp phải cân nhắc đầu tư sớm để nắm bắt cơ hội hay chấp nhận lỗi thời chờ cơ hội tiếp theo.

Một thách thức lớn nữa là năng lượng. GPU tiêu thụ điện gấp nhiều lần máy chủ truyền thống. Theo NVIDIA Blog, một “nhà máy AI” quy mô trung bình (100MW) tiêu thụ lượng điện tương đương khoảng 70.000 - 100.000 hộ gia đình hoạt động cùng lúc. Khoảng 50 - 60% điện năng tiêu thụ bởi hệ thống tính toán gồm GPU, CPU, kết nối mạng. Hệ thống tản nhiệt và hao hụt chiếm 40 - 50%. Đảm bảo nguồn cung công suất lớn ổn định không phải việc dễ dàng, chi phí điện chắc chắn cũng rất cao.

Về mặt vận hành, việc xử lí dữ liệu phân tán, định dạng không đồng bộ hoặc được ghi chép thủ công đòi hỏi quy trình tự động hóa khắt khe. Nếu không làm tốt sẽ cho ra dữ liệu kém chất lượng, dẫn đến AI “lỗi” gây lãng phí nguồn lực.

Vận hành một cơ sở xử lí khối lượng lớn thông tin nhạy cảm (thông tin cá nhân, tài chính, y tế) đặt ra bài toán lớn về rủi ro rò rỉ dữ liệu. Đây là đối tượng mà tin tặc luôn nhắm đến, đòi hỏi doanh nghiệp cần triển khai giải pháp bảo vệ nghiêm ngặt.

Ngoài hạ tầng, “nhà máy AI” còn cần đội ngũ nhân lực chất lượng cao đủ sức tối ưu hóa thuật toán hay xử lí sự cố phát sinh. Nguồn lao động có hiểu biết chuyên sâu về điện toán hiệu năng cao và trí tuệ nhân tạo đặc biệt khan hiếm và cần chi phí duy trì đội ngũ rất lớn.

Giải pháp cho doanh nghiệp

Trong bối cảnh trên, không phải doanh nghiệp nào cũng cần và nên thiết lập “nhà máy AI” riêng. Họ có thể cân nhắc thuê hạ tầng GPU từ nhà cung cấp dịch vụ đám mây hoặc tìm đến mô hình dùng chung nhằm tránh đầu tư quá lớn mà hiệu quả kinh tế thu về không tương xứng. Chỉ tổ chức có nhu cầu tính toán lớn, yêu cầu bảo mật dữ liệu cao hay muốn phát triển các mô hình AI nền tảng mới thực sự cần thiết lập cơ sở của riêng mình.

Thuê ngoài giải quyết được gánh nặng về vốn đầu tư hạ tầng ban đầu và không lo phần cứng bị lỗi thời. Tuy nhiên doanh nghiệp phải chấp nhận rủi ro rò rỉ dữ liệu, quá phụ thuộc vào một nhà cung cấp duy nhất, chi phí ẩn do nghẽn dữ liệu hay treo máy.

Theo giới chuyên gia, giải pháp tối ưu là kết hợp 2 giải pháp. Doanh nghiệp nên lập hạ tầng riêng để xử lí dữ liệu nhạy cảm và chạy tác vụ quan trọng, song song với thuê ngoài cho nhu cầu tính toán linh hoạt. Làm vậy giúp giảm chi phí đầu tư ban đầu, nâng cao tỉ lệ khai thác, rút ngắn thời gian triển khai.