Hot Chips 2026: Nvidia, AMD, Intel định hình chip AI thế hệ mới

Khác với các triển lãm thiên về sản phẩm, Hot Chips tập trung sâu vào kiến trúc chip, thiết kế hệ thống, bộ nhớ, đóng gói và những công nghệ quyết định năng lực tính toán của thế hệ máy chủ tiếp theo. Sự kiện năm nay diễn ra từ ngày 23 đến 25/8 tại hội trường lớn Memorial Auditorium thuộc Đại học Stanford (bang California, Mỹ).

Điểm đáng chú ý của Hot Chips 2026 là các hãng không còn chỉ nói về việc tạo ra GPU hay CPU nhanh hơn. Nvidia, AMD và Intel đều trình bày những kiến trúc dành cho kỉ nguyên agentic AI (AI có tính tự chủ), trong khi Samsung và SK Hynix cho thấy cuộc đua AI ngày càng phụ thuộc vào HBM (bộ nhớ băng thông cao), đóng gói và khả năng đưa dữ liệu đến bộ xử lí nhanh hơn.

Nvidia: Rubin không chỉ là GPU mạnh hơn

Nvidia là tâm điểm của Hot Chips 2026 với CPU Vera và GPU Rubin, hai bộ xử lí quan trọng trong nền tảng Vera Rubin dành cho các trung tâm dữ liệu AI thế hệ mới.

Vera là CPU máy chủ do Nvidia tự thiết kế dựa trên kiến trúc Arm, sử dụng 88 lõi Olympus. Vai trò của Vera không chỉ là hỗ trợ GPU mà còn giúp xử lí dữ liệu, điều phối các tác vụ và duy trì hoạt động hiệu quả của toàn bộ hệ thống AI. Nvidia thiết kế Vera để có thể phối hợp chặt chẽ với Rubin, thay vì để CPU và GPU hoạt động như hai thành phần tương đối độc lập.

Điều này ngày càng quan trọng khi các hệ thống AI trở nên lớn và phức tạp hơn. GPU có thể thực hiện hàng loạt phép tính cùng lúc, nhưng vẫn cần CPU xử lí các công việc như điều phối dữ liệu, quản lí luồng xử lí và phối hợp giữa các thành phần. Nếu dữ liệu không được đưa đến GPU đủ nhanh, sức mạnh tính toán của GPU có thể không được tận dụng hết.

Rubin được Nvidia thiết kế cho thế hệ AI mới, đặc biệt là các mô hình có khả năng suy luận nhiều bước và tác vụ tác tử AI. Tác tử AI không chỉ trả lời một câu hỏi rồi dừng lại mà có thể thực hiện nhiều bước liên tiếp, sử dụng lượng dữ liệu lớn và duy trì ngữ cảnh dài.

Một trong những điểm đáng chú ý của Rubin là HBM4 tốc độ cao. Nvidia cho biết Rubin được thiết kế để cung cấp dung lượng và băng thông bộ nhớ rất lớn, đáp ứng nhu cầu của những mô hình AI ngày càng có nhiều tham số và cần xử lí lượng dữ liệu khổng lồ.

Theo Nvidia, mỗi GPU Rubin có thể tích hợp tới 288 GB HBM4, với băng thông bộ nhớ tối đa 22 TB/giây. Con số này gần gấp ba băng thông bộ nhớ của Blackwell, đáp ứng nhu cầu ngày càng lớn của các mô hình AI có ngữ cảnh dài và hệ thống suy luận với lượng dữ liệu khổng lồ.

Thế nhưng, điểm đáng chú ý nhất của Vera Rubin không nằm ở từng chip riêng lẻ.

Nvidia thiết kế CPU, GPU, bộ nhớ và hệ thống kết nối để phối hợp với nhau ngay từ đầu. Nền tảng này còn có các thành phần chuyên dụng như NVLink 6 để kết nối các GPU với tốc độ rất cao, ConnectX-9 và BlueField-4 để xử lí việc truyền dữ liệu, cùng Spectrum-6 cho kết nối mạng giữa các hệ thống.

Nvidia gọi cách tiếp cận này là “đồng thiết kế”, tức là không tối ưu từng linh kiện riêng rẽ mà thiết kế chúng như những bộ phận của cùng một hệ thống. Điều này đặc biệt quan trọng với các "nhà máy AI" quy mô lớn.

Với Vera Rubin, Nvidia muốn biến cả một tủ máy chủ thành hệ thống tính toán thống nhất, thay vì chỉ ghép nhiều GPU lại với nhau. Trong cấu hình Vera Rubin NVL72, 72 GPU Rubin được kết nối bằng NVLink 6 tốc độ cao để phối hợp xử lí như một hệ thống duy nhất.

Nói đơn giản, Nvidia không chỉ chế tạo một GPU nhanh hơn mà đang thiết kế cả “cỗ máy AI” từ CPU, GPU, bộ nhớ đến mạng kết nối. Mục tiêu là giúp các trung tâm dữ liệu xử lí nhiều tác vụ AI hơn, đặc biệt là những mô hình suy luận phức tạp, mà không để một thành phần nào trở thành điểm nghẽn.

AMD: Instinct MI400 tập trung vào bộ nhớ và giảm di chuyển dữ liệu

Nếu Nvidia dùng Rubin để củng cố vị thế ở AI, AMD đang đặt cược vào Instinct MI400 và hệ thống Helios để mở rộng cuộc cạnh tranh.

Tại Hot Chips 2026, AMD trình bày kiến trúc MI400 với ba hướng cải tiến chính: Tăng dung lượng bộ nhớ và bộ nhớ đệm, tăng năng lực tính toán và giảm lượng dữ liệu phải di chuyển.

Trong các hệ thống AI hiện đại, hiệu năng không còn phụ thuộc đơn thuần vào số nhân tính toán. Khi mô hình AI ngày càng lớn, bộ xử lí có thể phải chờ dữ liệu từ bộ nhớ. Việc di chuyển dữ liệu giữa GPU, bộ nhớ và các thành phần khác vừa tiêu tốn thời gian vừa tiêu thụ điện năng.

Vì thế, AMD đưa vấn đề bộ nhớ vào trung tâm của kiến trúc MI400. Công ty trước đó cho biết dòng Instinct MI400 có thể đạt tới 432 GB HBM4 với băng thông lên tới 23,3 TB/giây.

AMD đồng thời phát triển Helios, hệ thống AI hoàn chỉnh được tích hợp trong một tủ máy chủ. Theo AMD, Helios có thể kết nối tới 72 GPU Instinct MI455X thành một hệ thống thống nhất, với tổng dung lượng bộ nhớ HBM4 lên tới 31 TB. Hệ thống này còn được thiết kế để các GPU trao đổi dữ liệu với nhau ở tốc độ rất cao, giúp xử lí những mô hình AI lớn và các tác vụ suy luận phức tạp.

Dễ thấy AMD không chỉ muốn cạnh tranh với Nvidia ở cấp độ từng GPU. Nếu Nvidia nhấn mạnh khả năng kết hợp CPU Vera, GPU Rubin và mạng NVLink thành một nền tảng thống nhất, AMD cũng đang đi theo hướng tương tự với EPYC + Instinct + Helios.

Cuộc chiến vì thế không còn đơn giản là "Rubin nhanh hơn MI400 bao nhiêu phần trăm". Câu hỏi quan trọng hơn là nền tảng nào có thể huấn luyện và vận hành mô hình AI với chi phí thấp hơn, hiệu quả năng lượng tốt hơn và dễ mở rộng hơn.

Intel giới thiệu Diamond Rapids, Crescent Island và Wildcat Lake

Tại Hot Chips 2026, Intel không chỉ giới thiệu một mẫu chip mới mà đưa ra ba kiến trúc phục vụ ba phần khác nhau của hệ thống AI: Diamond Rapids dành cho máy chủ, Crescent Island cho GPU trung tâm dữ liệu và Wildcat Lake cho máy tính cá nhân cũng như các thiết bị biên. Qua đó, Intel muốn cho thấy cách đưa agentic AI từ những hệ thống lớn trong trung tâm dữ liệu xuống các thiết bị nhỏ hơn ở bên ngoài.

Trước hết là Diamond Rapids, bộ xử lí Xeon thế hệ tiếp theo dành cho các hệ thống doanh nghiệp lớn và agentic AI. Intel cho biết Diamond Rapids có tối đa 256 lõi, bộ nhớ đệm cấp cuối (LLC) lên tới 1,28 GB, hỗ trợ 16 kênh bộ nhớ với tốc độ tối đa 12.800 MT/giây và 128 làn kết nối PCIe Gen6/CXL 3.0.

LLC là bộ nhớ đệm nằm ở cấp cuối của CPU, có nhiệm vụ giữ những dữ liệu mà bộ xử lí thường xuyên sử dụng để giảm thời gian phải lấy dữ liệu từ bộ nhớ chính. PCIe là chuẩn kết nối tốc độ cao dùng để CPU giao tiếp với GPU, card mạng và các thiết bị mở rộng khác. CXL cũng là một chuẩn kết nối tốc độ cao, được thiết kế đặc biệt để các bộ xử lí, bộ nhớ và thiết bị tăng tốc có thể trao đổi dữ liệu hiệu quả hơn.

Vì vậy, 128 làn PCIe Gen6/CXL 3.0 giúp Diamond Rapids có khả năng kết nối với nhiều thiết bị tốc độ cao trong một hệ thống máy chủ.

Diamond Rapids được sản xuất bằng Intel 18A-P, một công nghệ chế tạo chip tiên tiến của Intel. Diamond Rapids cũng sử dụng Foveros Direct 3D (công nghệ cho phép Intel xếp chồng các thành phần chip lên nhau theo chiều dọc) và UCIe-S (chuẩn kết nối dành cho các chiplet). Có thể hiểu chiplet là những mảnh chip nhỏ được thiết kế riêng rồi ghép lại thành bộ xử lí lớn.

Điểm quan trọng trong thiết kế của Diamond Rapids là Intel muốn CPU đóng vai trò “bộ não điều phối” cho hệ thống AI. Khi AI ngày càng chuyển sang các tác vụ có nhiều bước, CPU không chỉ thực hiện những công việc tính toán thông thường mà còn phải điều phối dữ liệu, quản lí nhiều tác vụ cùng lúc và phối hợp với GPU hoặc các bộ tăng tốc AI chuyên dụng.

Tiếp theo là Crescent Island, GPU trung tâm dữ liệu được Intel thiết kế chủ yếu cho AI suy luận.

Intel định vị Crescent Island chủ yếu cho AI suy luận, thay vì tập trung vào những hệ thống có công suất tính toán cực lớn phục vụ huấn luyện mô hình. Thay vào đó, hãng tập trung vào bài toán làm thế nào để doanh nghiệp chạy AI suy luận với chi phí hợp lí hơn. Intel cho biết Crescent Island được thiết kế để tạo ra nhiều token hơn, chạy nhiều tác vụ AI đồng thời hơn và tiêu thụ ít điện năng hơn trong các hệ thống trung tâm dữ liệu làm mát bằng không khí.

Crescent Island sử dụng 32 lõi Xe và 256 XMX engine dựa trên kiến trúc Xe3P, hỗ trợ tối đa 480GB bộ nhớ LPDDR5X và có mức tiêu thụ điện khoảng 350 W trong một card PCIe được làm mát bằng không khí.

Ở đây, XMX là các đơn vị phần cứng chuyên thực hiện những phép tính ma trận - loại phép tính xuất hiện rất nhiều trong AI. XMX giúp GPU thực hiện nhanh những phép tính mà các mô hình AI sử dụng thường xuyên.

Vì vậy, mục tiêu của Crescent Island không đơn giản là GPU nhanh hơn. Intel muốn tăng số lượng token mà hệ thống có thể xử lí với mỗi watt điện và mỗi đơn vị chi phí, từ đó giúp doanh nghiệp vận hành AI hiệu quả hơn.

Cuối cùng là Wildcat Lake, kiến trúc dành cho máy tính cá nhân và các thiết bị biên.

Wildcat Lake thuộc Intel Core Series 3, có 2 lõi hiệu năng cao (P-core) và 4 lõi tiết kiệm điện (E-core). P-core được thiết kế để xử lí những công việc cần hiệu năng cao, trong khi E-core đảm nhiệm các tác vụ nhẹ hơn với mức tiêu thụ điện thấp hơn. Chip hỗ trợ bộ nhớ LPDDR5X-7467, Wi-Fi 7 và Bluetooth 6.0.

Wildcat Lake cũng tích hợp GPU Xe3 với XMX và một NPU có khả năng đạt tối đa 17 TOPS. NPU là bộ xử lí chuyên dụng cho các tác vụ AI trên thiết bị, còn TOPS là đơn vị thường dùng để đo khả năng thực hiện các phép tính AI, viết tắt của "nghìn tỉ phép tính mỗi giây".

Một điểm đáng chú ý là Wildcat Lake trở thành bộ xử lí đầu tiên của Intel sử dụng UCIe, cho phép Intel ghép nhiều chiplet thành thiết kế nhiều chip trong cùng một gói. Cách làm này có thể giúp tạo ra những bộ xử lí linh hoạt hơn và tối ưu chi phí sản xuất.

Nhìn vào cả ba kiến trúc, có thể thấy Intel đang phân chia vai trò khá rõ ràng. Diamond Rapids cung cấp năng lực tính toán và điều phối cho các hệ thống doanh nghiệp lớn. Crescent Island tập trung vào bài toán chạy AI suy luận với chi phí và điện năng hợp lí. Wildcat Lake đưa khả năng xử lí AI xuống máy tính cá nhân và thiết bị biên.

Nói đơn giản, Intel đang muốn xây dựng một hệ thống AI trải dài từ trung tâm dữ liệu đến máy tính cá nhân và thiết bị biên. Đây cũng là lí do hãng không chỉ tập trung vào một chip mạnh hơn, mà kết hợp CPU, GPU, NPU, bộ nhớ và công nghệ chiplet để đáp ứng những nhu cầu khác nhau của agentic AI.

Điểm đáng chú ý nhất trong chiến lược này là Intel đang nhấn mạnh hiệu quả kinh tế, chứ không chỉ hiệu năng thuần túy. Khi agentic AI phải thực hiện ngày càng nhiều bước và xử lí lượng dữ liệu lớn hơn, doanh nghiệp sẽ quan tâm không chỉ đến việc chip nhanh đến đâu mà còn đến việc một hệ thống có thể hoàn thành bao nhiêu công việc với mỗi watt điện, mỗi máy chủ và mỗi USD đầu tư.

(còn nữa)