Google được cho là hợp tác với AMD để phát triển TPU thế hệ tiếp theo

Google được cho là đang hợp tác với AMD để phát triển một trong những TPU thuộc thế hệ thứ 10, trong một động thái có thể mở ra hướng tiếp cận mới đối với thiết kế AI accelerator.

Theo một ghi chú dành cho khách hàng của SemiAnalysis được Sean trích dẫn, Google đang làm việc với AMD trong một dự án TPU thuộc thế hệ v10. Các nhà phân tích cho rằng Google có thể quan tâm đến năng lực CPU của AMD để xử lý những workload đòi hỏi nhiều compute đa dụng, đặc biệt là reinforcement learning (RL).

Nếu thông tin này chính xác, đây sẽ là một trong những lần đầu tiên AMD tham gia đáng kể vào một dự án AI ASIC tùy biến của Google. Quan trọng hơn, động thái này có thể cho thấy Google đang nghiên cứu một thiết kế TPU mới, kết hợp accelerator AI của Google với các lõi CPU được tích hợp trực tiếp trên package.

Vì sao Google có thể cần AMD?

Google đã phát triển 9 thế hệ AI accelerator độc quyền và có chuyên môn sâu về kiến trúc TPU. Broadcom hiện được biết đến là đối tác thiết kế silicon cho các TPU của Google.

Do đó, khả năng Google cần AMD để thiết kế một TPU truyền thống là tương đối thấp.

Thay vào đó, AMD có thể cung cấp một số công nghệ và IP mà Google đang quan tâm, bao gồm CPU IP, programmable logic, interconnect và advanced packaging.

SemiAnalysis đặc biệt nhấn mạnh đến CPU IP của AMD. Theo phân tích này, Google và các khách hàng của hãng đang hướng tới những TPU có CPU cores tích hợp trên package nhằm đáp ứng các workload reinforcement learning.

Reinforcement learning có thể làm thay đổi kiến trúc AI

AI workload đang ngày càng đa dạng.

Training các mô hình ngôn ngữ lớn truyền thống vẫn phụ thuộc chủ yếu vào GPU hoặc các AI accelerator chuyên dụng. Tuy nhiên, reasoning, reinforcement learning và agentic AI có thể yêu cầu nhiều general-purpose compute hơn để xử lý các tác vụ xung quanh accelerator.

Google dường như đã bắt đầu điều chỉnh kiến trúc hệ thống theo hướng này.

Các hệ thống TPU 8i, được thiết kế cho inference, reasoning và reinforcement learning, sử dụng một Google Axion CPU cho mỗi hai TPU.

Trong khi đó, các server sử dụng TPU thế hệ thứ 7 của Google sử dụng một Intel Xeon “Emerald Rapids” cho mỗi bốn TPU.

Sự thay đổi này cho thấy tỷ trọng CPU trong các hệ thống AI có thể tiếp tục tăng khi workload chuyển từ training truyền thống sang reasoning và agentic AI.

Một số phân tích thậm chí cho rằng trong một số trường hợp, tỷ lệ một CPU cho mỗi accelerator có thể mang lại hiệu quả tối ưu.

AMD có kinh nghiệm với thiết kế CPU + accelerator

Việc tích hợp CPU cores trực tiếp vào package của AI accelerator có thể là bước tiến tiếp theo trong thiết kế hệ thống AI.

Khi CPU và accelerator được đặt gần nhau hơn, dữ liệu có thể được di chuyển với khoảng cách ngắn hơn, qua đó tiềm năng cải thiện hiệu năng và giảm mức tiêu thụ năng lượng.

AMD có một lợi thế đáng chú ý trong lĩnh vực này.

Instinct MI300A của AMD là một thiết kế data center hybrid kết hợp x86 CPU và accelerator chiplets trong cùng một package.

Kinh nghiệm này có thể giúp AMD trở thành đối tác phù hợp nếu Google thực sự muốn phát triển một TPU hybrid với CPU được tích hợp trực tiếp vào package.

Một thiết kế giả định có thể kết hợp Google TPU compute chiplets với AMD CPU IP và HBM trong một package có mức độ tích hợp cao.

Đây sẽ là một kiến trúc khá khác biệt so với cách tiếp cận AI accelerator truyền thống, trong đó CPU và accelerator thường nằm trên các thành phần riêng biệt.

Intel cũng có thể là một ứng viên, nhưng AMD có lợi thế

Intel cũng có thể được xem là một ứng viên tiềm năng bởi Google và Intel đã có nhiều hợp tác chiến lược trong lĩnh vực công nghệ.

Tuy nhiên, AMD hiện có kinh nghiệm trực tiếp hơn với việc xây dựng các thiết kế data center kết hợp x86 CPU và accelerator trong cùng một package thông qua MI300A.

Điều này có thể trở thành một lợi thế nếu Google thực sự muốn đưa CPU cores trực tiếp vào kiến trúc TPU.

TPU tương lai có thể cần nhiều CPU hơn

Cần nhấn mạnh rằng thông tin về việc AMD hợp tác với Google trong dự án TPU v10 hiện vẫn chưa được Google hoặc AMD xác nhận chính thức.

Do đó, vai trò cụ thể của AMD trong dự án này vẫn chưa rõ. AMD có thể tham gia ở cấp độ CPU IP, packaging hoặc một thành phần khác của thiết kế, thay vì trực tiếp thiết kế toàn bộ TPU.

Tuy nhiên, nếu thông tin của SemiAnalysis là chính xác, điểm đáng chú ý nhất không đơn thuần là việc AMD có thể tham gia vào một TPU mới của Google.

Điều đáng quan tâm hơn là Google có thể đang hướng tới một thế hệ TPU với tỷ trọng CPU cao hơn, được tối ưu cho reinforcement learning, reasoning và agentic AI.

Đây có thể là dấu hiệu cho thấy kiến trúc của hệ thống AI đang thay đổi: thay vì chỉ tập trung tối đa hóa sức mạnh của accelerator, thế hệ hệ thống tiếp theo có thể cần sự phối hợp chặt chẽ hơn giữa CPU, accelerator, memory và advanced packaging.

Nếu xu hướng này tiếp tục, cuộc cạnh tranh trong AI silicon sẽ không chỉ xoay quanh việc ai có accelerator mạnh nhất, mà còn xoay quanh việc ai có thể xây dựng một kiến trúc tính toán cân bằng và hiệu quả nhất cho thế hệ AI tiếp theo.

Nguồn tham khảo: SemiAnalysis, Tom’s Hardware.