Chip AI tiết kiệm năng lượng nhất thế giới cho thiết bị di động

Chip được thiết kế đặc biệt để xử lý các tác vụ AI thường tiêu thụ điện năng đáng kể do yêu cầu tính toán nặng nề, điều này đã hạn chế ứng dụng của chúng trong các tình huống thực tế.

Song thông qua việc tối ưu hóa thuật toán và kiến trúc, giáo sư Zhou Jun cùng nhóm của ông từ Đại học Khoa học và Công nghệ Điện tử Trung Quốc (UETC) đã tìm cách giảm đáng kể mức tiêu thụ điện năng này.

Nhóm đã trình bày hai trong số những chip cải tiến tại Hội nghị Mạch tích hợp Trạng thái rắn Quốc tế IEEE (ISSCC) 2024, được xem là Thế vận hội của ngành công nghiệp mạch tích hợp (IC). ISSCC là một hội nghị toàn cầu thường niên về mạch tích hợp thể rắn, nơi các nhà nghiên cứu, kỹ sư và chuyên gia giỏi nhất gặp nhau để thảo luận về sự phát triển mới và tương lai của công nghệ chip.

Chip AI đầu tiên trong số 2 chip này được thiết kế để nhúng vào các thiết bị thông minh nhằm cho phép điều khiển bằng giọng nói ngoại tuyến.

Chip này vượt trội trong việc phát hiện từ khóa và xác minh người nói bằng cách nhận dạng tín hiệu giọng nói, ngay cả với tiếng ồn môi trường, chẳng hạn như tivi, âm nhạc hoặc người khác đang nói chuyện, vốn thường gây trở ngại cho chip nhận dạng giọng nói truyền thống.

Các chip thông thường cũng có xu hướng tiêu thụ nhiều điện năng khi phải thức dậy từ trạng thái ngủ (sleep mode) để thực hiện các tác vụ và và thường xuyên bị đánh thức sai (kích hoạt một cách không cần thiết).

Nhóm của Zhou Jun đã đề xuất một kiến trúc mới có thể khắc phục những hạn chế này thông qua nhiều phương pháp tối ưu hóa.

Một báo cáo trên trang web Đại học Khoa học và Công nghệ Điện tử Trung Quốc cho biết: “Trong cuộc trình diễn hệ thống, chip 1cm² này đã được tích hợp vào bộ vi điều khiển 3cm x 3cm bên trong một chiếc ô tô đồ chơi để điều khiển chuyển động của nó. Chip này cũng có các ứng dụng trong các tình huống điều khiển bằng giọng nói tiêu tốn ít năng lượng như nhà thông minh, thiết bị đeo được và đồ chơi thông minh. Với những cải tiến bổ sung trong công cụ trích xuất tính năng và công cụ học tập trên chip, mức tiêu thụ năng lượng nhận dạng trung bình của chip này chỉ khoảng 0,07 microjoule, thiết kế tiết kiệm năng lượng nhất trên thế giới”.

Báo cáo chính thức lưu ý rằng độ chính xác đã được cải thiện 10% và mức tiêu thụ năng lượng giảm hơn 90% so với một chip khác được trình bày tại hội nghị năm ngoái.

“Chip này cũng có các ứng dụng tiềm năng vượt ra ngoài việc phát hiện cơn động kinh, gồm cả các giao diện não - máy tính khác và theo dõi giấc ngủ”, báo cáo cho biết thêm.

Ở một cuộc trình diễn tại ISSCC, các tín hiệu điện não đồ của người dùng trong thời gian thực được thu thập từ thiết bị giao diện não - máy tính có thể đeo được sẽ được truyền đến bảng thử nghiệm qua bluetooth. Chip này được cấu hình lại để xác định các lệnh vận động tưởng tượng, cho phép điều khiển chuyển động của robot để di chuyển về phía trước, dừng lại hoặc di chuyển lùi.

Nhóm của Zhou Jun có nhiều năm kinh nghiệm trong lĩnh vực chip xử lý thông minh, đóng góp vào các dự án nghiên cứu và phát triển trọng điểm quốc gia. Nhóm này cũng có quan hệ đối tác với các công ty Trung Quốc hàng đầu như SenseTime (công ty AI nổi tiếng), Huawei (gã khổng lồ viễn thông) và BOE (nhà sản xuất linh kiện điện tử).

AI được kỳ vọng sẽ tác động lớn đến cuộc sống hàng triệu người trên thế giới, nhưng mặt trái là công nghệ này đang tiêu thụ rất nhiều điện năng.

Theo trang The New Yorker, ChatGPT (chatbot AI đình đám của OpenAI) có thể đang sử dụng hơn nửa triệu kilowatt-giờ (kWh) điện để đáp ứng khoảng 200 triệu truy vấn từ người dùng mỗi ngày.

The New Yorker đưa tin một hộ gia đình ở Mỹ trung bình sử dụng khoảng 29kWh điện mỗi ngày. Theo đó, ChatGPT tiêu thụ lượng điện nhiều gấp 17.000 lần một hộ gia đình ở Mỹ mỗi ngày.

Nếu được tiếp tục được cải tiến và sử dụng nhiều hơn, ChatGPT nói riêng và AI tạo sinh nói chung có thể tiêu thụ nhiều điện hơn đáng kể.

Ví dụ, nếu Google tích hợp công nghệ AI tạo sinh vào mọi tìm kiếm thì sẽ dẫn đến việc tiêu thụ khoảng 29 tỉ kilowatt-giờ điện mỗi năm, theo tính toán của Alex de Vries, nhà khoa học dữ liệu của Ngân hàng Quốc gia Hà Lan, trong một bài báo về năng lượng bền vững đăng trên tạp chí Joule. Theo The New Yorker, đó là lượng điện nhiều hơn các quốc gia như Kenya, Guatemala và Croatia tiêu thụ trong một năm.

“AI tiêu thụ rất nhiều điện năng. Mỗi máy chủ AI đều có thể tiêu thụ nhiều điện năng hơn chục hộ gia đình ở Anh cộng lại. Vì vậy, con số tăng lên rất nhanh", de Vries nói với trang Insider.

Tuy nhiên, rất khó để ước tính lượng điện mà ngành công nghiệp AI tiêu thụ. Theo trang The Verge, có sự khác biệt đáng kể trong cách các mô hình ngôn ngữ lớn vận hành và các hãng công nghệ lớn (vốn đang thúc đẩy sự bùng nổ AI) vẫn chưa công bố chính xác về việc sử dụng năng lượng của họ.

Trong bài báo của mình, Alex de Vries đã đưa ra tính toán sơ bộ như trên dựa vào số liệu được Nvidia công bố. Nvidia là hãng chip lớn nhất và có giá trị nhất thế giới. Theo số liệu từ hãng New Street Research, Nvidia chiếm khoảng 95% thị phần bộ xử lý đồ họa (GPU).

Alex de Vries ước tính trong bài báo rằng đến năm 2027, toàn bộ lĩnh vực AI sẽ tiêu thụ từ 85 đến 134 terawatt-giờ điện (1 terawatt-giờ bằng 1 tỉ kilowatt-giờ) mỗi năm.

Ông nói với trang The Verge: “Mức tiêu thụ điện của AI có khả năng chiếm một nửa lượng tiêu thụ điện toàn cầu vào năm 2027. Tôi nghĩ đó là một con số khá đáng kể”.

Một số doanh nghiệp sử dụng điện năng nhiều nhất thế giới thậm chí không bằng con số nêu trên. Theo tính toán từ Insider dựa trên báo cáo của hãng Consumer Energy Solutions, Samsung Electronics sử dụng gần 23 terawatt-giờ điện mỗi năm, trong khi gã khổng lồ công nghệ Google dùng hơn 12 terawatt-giờ điện mỗi năm và Microsoft xài hơn 10 terawatt-giờ điện mỗi năm để vận hành các trung tâm dữ liệu, mạng, thiết bị người dùng.