NVIDIA cắt giảm một nửa dung lượng SOCAMM của Vera Rubin khi chi phí bộ nhớ tăng cao

Chi phí bộ nhớ ngày càng tăng đang buộc các nhà cung cấp phần cứng AI phải điều chỉnh chiến lược sản phẩm. Theo Wccftech, dẫn phân tích của GF Securities, NVIDIA được cho là đang giảm dung lượng bộ nhớ trên hệ thống AI rack-scale Vera Rubin NVL72 nhằm ứng phó với giá bộ nhớ tăng cao và tình trạng thiếu hụt nguồn cung kéo dài.

Nếu không có sự điều chỉnh này, chi phí bộ nhớ có thể chiếm khoảng 29% tổng chi phí linh kiện (Bill of Materials – BOM) ước tính 2,1 triệu USD của hệ thống Vera Rubin VR200, cao hơn đáng kể so với mức mục tiêu 20% mà NVIDIA mong muốn.

Áp lực chi phí là rất lớn. Wccftech, dẫn lại báo cáo trước đó của Bernstein, cho biết một rack Vera Rubin NVL72 có thể có giá lên tới 9,1 triệu USD, trong đó bộ nhớ chiếm tỷ trọng đáng kể. Bernstein cũng dự báo giá HBM4 sẽ tăng lên 53 USD/GB vào năm 2027.

Để giảm chi phí và giảm áp lực nguồn cung, NVIDIA có thể chuyển sang sử dụng các mô-đun SOCAMM 96GB cho mỗi CPU Vera trong hệ thống Vera Rubin NVL72, thay vì cấu hình 192GB như kế hoạch ban đầu. Điều này sẽ khiến tổng dung lượng bộ nhớ của các CPU Vera giảm từ khoảng 55TB xuống còn 28TB, trong khi dung lượng HBM4 dành cho GPU vẫn giữ nguyên ở mức 20,7TB mỗi rack.

Việc điều chỉnh cấu hình bộ nhớ có thể mang lại khoản tiết kiệm đáng kể. Theo Wccftech, GF Securities ban đầu ước tính chi phí LPDDR5X cho hệ thống VR200 vào khoảng 1,2 triệu USD theo cấu hình cũ. Với cấu hình mới, con số này được dự báo giảm xuống còn khoảng 586.000 USD, và thậm chí có thể giảm xuống 293.000 USD nếu dung lượng bộ nhớ tiếp tục được cắt giảm xuống còn một phần tư.

Theo thông cáo báo chí của TrendForce công bố vào đầu tháng 6, dựa trên kế hoạch phân bổ sơ bộ từ Samsung, SK hynix và Micron, NVIDIA dự kiến chỉ nhận được lượng LPDRAM đáp ứng khoảng 60% nhu cầu ước tính, trong khi khả năng tăng thêm nguồn cung là rất hạn chế. Vì vậy, công ty có thể sẽ giảm cấu hình bộ nhớ SOCAMM trên nền tảng Vera Rubin Superchip nhằm tăng sản lượng CPU Vera và giảm thiểu nguy cơ thiếu hụt nguồn cung kéo dài.

Tăng cường hợp tác dài hạn với các nhà sản xuất bộ nhớ

Song song với việc giải quyết bài toán chi phí và nguồn cung, NVIDIA cũng đang củng cố quan hệ hợp tác dài hạn với ngành công nghiệp bộ nhớ Hàn Quốc. Theo Tom's Hardware, NVIDIA và SK Group đã ký các biên bản ghi nhớ (LOI) để chính thức hóa quan hệ đối tác chiến lược có tổng giá trị hơn 500 tỷ USD. Thỏa thuận hợp tác bao gồm nhiều lĩnh vực, trong đó có thỏa thuận cung ứng bộ nhớ dài hạn với SK hynix đã được công bố vào tháng 6.