Anthropic tuyển cựu lãnh đạo TPU của Google, tham vọng tự phát triển chip AI
Anthropic vừa chiêu mộ Amir Salek, một trong những người sáng lập chương trình phát triển TPU tại Google. Động thái này diễn ra trong bối cảnh Anthropic chuẩn bị nền tảng để tự phát triển chip AI.
Anthropic, công ty AI hàng đầu thế giới đứng sau dòng mô hình Claude, cho biết Amir Salek sẽ gia nhập đội ngũ phụ trách năng lực tính toán. Ở vị trí mới tại Anthropic, ông sẽ báo cáo cho James Bradbury.
James Bradbury là kỹ sư hệ thống máy học nổi bật trong lĩnh vực hạ tầng AI, hiện giữ vị trí Trưởng bộ phận năng lực tính toán tại Anthropic. Ông từng làm việc tại Google về JAX, TPU và các mô hình ngôn ngữ lớn trước khi gia nhập Anthropic.
JAX là thư viện Python mã nguồn mở dành cho tính toán số hiệu năng cao và nghiên cứu học máy, được các nhóm nghiên cứu của Google phát triển.
TPU (Tensor Processing Unit) là bộ xử lí chuyên dụng cho AI do Google tự thiết kế, được phát triển để tăng tốc các phép tính quan trọng trong quá trình huấn luyện và vận hành mô hình AI. Về bản chất, TPU là một loại ASIC (mạch tích hợp chuyên dụng), tức chip được thiết kế nhằm phục vụ một nhóm tác vụ cụ thể thay vì xử lí đa dạng công việc như CPU (bộ xử lí trung tâm).
Tên gọi Tensor Processing Unit có thể hiểu là bộ xử lý tensor. Tensor là dạng cấu trúc dữ liệu toán học được sử dụng rộng rãi trong các mô hình học máy và mạng nơ-ron. Các mô hình AI phải thực hiện một lượng khổng lồ phép tính ma trận và vector, vì vậy Google thiết kế TPU để xử lí hiệu quả những phép tính này.
Amir Salek từng dẫn dắt chương trình TPU của Google
Trước đây, Amir Salek điều hành mảng TPU của Google cho đến năm 2022 và tham gia phát triển những thế hệ TPU đầu tiên.
Sau khi rời Google, Amir Salek giữ chức giám đốc quản lý cấp cao tại Cerberus Capital Management - công ty đầu tư vốn cổ phần tư nhân do Stephen Feinberg (Thứ trưởng Quốc phòng Mỹ) đồng sáng lập.
Trước đó, Amir Salek từng làm việc tại Nvidia, hãng chip AI hàng đầu thế giới.
Anthropic hiện mua chip AI từ nhiều nguồn khác nhau, trong đó có Nvidia, Google và Amazon. Gần đây, Anthropic cho thấy tham vọng tự xây dựng mảng chip AI riêng. Công ty có trụ sở tại San Francisco (bang California, Mỹ) đã bắt đầu tuyển dụng nhân sự và đăng các vị trí việc làm phục vụ kế hoạch này.
Giống các gã khổng lồ AI khác, Anthropic đang chạy đua để có đủ hạ tầng trung tâm dữ liệu phục vụ tham vọng phát triển AI. Việc tự thiết kế chip AI có thể giúp công ty giảm phụ thuộc vào nguồn cung bên ngoài, đồng thời tùy chỉnh chip để phù hợp hơn với nhu cầu của mình.
OpenAI đã có chip AI riêng
Đối thủ của Anthropic là OpenAI, công ty đứng sau ChatGPT, cũng đang đi theo hướng tương tự. Cuối tháng 6, OpenAI đã công bố chip AI tùy biến có tên Jalapeño, được phát triển cùng Broadcom, và dự kiến bắt đầu sử dụng chip này vào cuối năm nay.
Jalapeño sẽ được OpenAI sử dụng cho suy luận AI, quá trình tiêu tốn rất nhiều năng lực tính toán để các mô hình tạo ra câu trả lời cho người dùng trên ChatGPT và các ứng dụng AI khác.
Theo thông cáo báo chí, đây là một bước tiến quan trọng trong kế hoạch của OpenAI nhằm "xây dựng toàn bộ nền tảng công nghệ cần thiết để vận hành các mô hình cùng sản phẩm AI của mình”.
Chip của OpenAI thuộc loại ASIC. Theo các chuyên gia trong ngành, ASIC có tính linh hoạt thấp hơn GPU của Nvidia, nhưng đổi lại giá rẻ hơn và được tối ưu hóa cho các tác vụ AI cụ thể.
OpenAI cho biết chỉ mất 9 tháng để thiết kế Jalapeño. Ngoài ra, công ty cũng tự thiết kế phần lớn hệ thống máy tính mà Jalapeño sẽ hoạt động bên trong.
OpenAI và Broadcom gọi Jalapeño là Intelligence Processor (bộ xử lý trí tuệ), mô tả đây là bộ tăng tốc AI đầu tiên trong nền tảng phần cứng mới mà họ đang xây dựng. Mục tiêu của nền tảng này là giúp AI tiên tiến hoạt động nhanh hơn, đáng tin cậy hơn và dễ tiếp cận với nhiều người hơn.
Trong cuộc phỏng vấn với Reuters, Hock Tan (Giám đốc điều hành Broadcom) cho biết Jalapeño có hiệu năng tương đương dòng Blackwell của Nvidia hoặc TPU do Google phát triển.
Richard Ho, Giám đốc phần cứng của OpenAI, nói Jalapeño được thiết kế để hoạt động nhanh và hiệu quả với các mô hình ngôn ngữ lớn - nền tảng đứng sau nhiều ứng dụng AI hiện nay.
"Chúng tôi tin rằng chip này sẽ mang lại hiệu năng tốt với mọi thế hệ mô hình ngôn ngữ lớn trong tương lai", Richard Ho chia sẻ với Reuters.
Hệ thống máy chủ sử dụng Jalapeño sẽ do nhà sản xuất thiết bị điện tử Celestica (Canada) chế tạo.
Anthropic tăng tốc giành năng lực tính toán
Anthropic đang tăng tốc giành năng lực tính toán, đồng thời mở rộng mạng lưới đối tác cung cấp chip và hạ tầng trung tâm dữ liệu để đáp ứng nhu cầu ngày càng lớn của các mô hình Claude.
Thay vì phụ thuộc vào một nhà cung cấp duy nhất, Anthropic đang kí các thỏa thuận với nhiều đối tác khác nhau, từ những hãng công nghệ lớn như Nvidia, Google và Amazon đến startup chip và nhà vận hành trung tâm dữ liệu mới nổi. Chiến lược này vừa giúp Anthropic có thêm nguồn chip và năng lực tính toán trong ngắn hạn, vừa tạo nền tảng cho tham vọng dài hạn là tự phát triển chip AI.
Một trong những thỏa thuận đáng chú ý là với Fractile, startup chip AI có trụ sở tại Anh. Theo hãng tin Bloomberg, Anthropic đã cam kết đặt mua lô chip đầu tiên của Fractile trị giá khoảng 250 triệu USD, đồng thời để ngỏ khả năng mở rộng hợp đồng trong tương lai. Đây là một động thái đáng chú ý bởi Fractile không phải nhà cung cấp chip AI lớn như Nvidia hay các hãng bán dẫn truyền thống. Việc Anthropic hợp tác với một startup chip cho thấy công ty đang chủ động tìm kiếm thêm các kiến trúc phần cứng khác nhau, thay vì chỉ dựa vào những chip AI phổ biến trên thị trường.
Song song với việc đảm bảo nguồn chip, Anthropic cũng đang thuê năng lực trung tâm dữ liệu với quy mô rất lớn. Trong tháng 8, Anthropic được cho là đã kí thỏa thuận trị giá 9,1 tỉ USD trong 20 năm với Riot Platforms, công ty trước đây chủ yếu được biết đến với hoạt động khai thác Bitcoin nhưng đang chuyển hướng sang cung cấp hạ tầng trung tâm dữ liệu cho AI.
Theo thỏa thuận, Riot Platforms sẽ cung cấp cho Anthropic 191 MW công suất công nghệ thông tin tại cơ sở Rockdale, bang Texas, Mỹ. Riot Platforms dự kiến đưa 96 MW đầu tiên vào hoạt động vào tháng 12/2027 và hoàn tất 191 MW trong tháng 6/2028. Nếu Anthropic thực hiện hai quyền gia hạn 5 năm, tổng giá trị hợp đồng có thể tăng lên khoảng 16,1 tỉ USD.
Thỏa thuận với Riot Platforms cho thấy quy mô khổng lồ của nhu cầu tính toán mà Anthropic đang chuẩn bị cho những năm tới. 191 MW ở đây không đơn thuần là tổng lượng điện mà cơ sở tiêu thụ, mà là công suất CNTT dành cho hạ tầng tính toán trong trung tâm dữ liệu, nơi các hệ thống máy chủ AI sẽ được triển khai.
Riot Platforms cho biết cơ sở này có thể cung cấp lượng điện tương đương nhu cầu của khoảng 143.000 hộ gia đình tại một thời điểm.
Ngoài ra, Anthropic đã kí một thỏa thuận lớn khác với Volta Infra Holdings, startup hạ tầng AI được Nvidia hậu thuẫn. Theo Bloomberg, hợp đồng có giá trị khoảng 10 tỉ USD trong 6 năm, liên quan đến một trung tâm dữ liệu tại Na Uy với công suất khoảng 133 MW. Cơ sở này dự kiến được trang bị các hệ thống sử dụng chip AI Vera Rubin của Nvidia, cho thấy Anthropic không chỉ tìm kiếm nguồn chip mà còn đồng thời đảm bảo cả không gian trung tâm dữ liệu, điện năng và hệ thống tính toán cần thiết để triển khai chúng.
Nhìn tổng thể, các thương vụ với Fractile, Riot Platforms và Volta Infra cho thấy Anthropic đang theo đuổi một chiến lược đa tầng với hạ tầng AI. Công ty vừa tìm kiếm thêm nguồn chip, vừa đặt trước công suất trung tâm dữ liệu trong nhiều năm và đồng thời xây dựng đội ngũ để tiến tới tự thiết kế phần cứng.
Điều này đặc biệt quan trọng trong bối cảnh các công ty AI hàng đầu đang tranh giành GPU (bộ xử lí đồ họa), bộ tăng tốc AI, điện năng và không gian trung tâm dữ liệu trên quy mô chưa từng có. Với Anthropic, việc bảo đảm năng lực tính toán không còn chỉ là vấn đề mua thêm chip khi cần, mà đang trở thành một phần quan trọng trong chiến lược phát triển dài hạn của công ty.