JEDEC tăng tốc chuẩn MRDIMM Gen 2 cho AI và CPU thế hệ mới

Khi Agentic AI thúc đẩy nhu cầu CPU tăng mạnh, kiến trúc bộ nhớ phía sau các bộ xử lý này cũng ngày càng trở nên quan trọng. Trong bối cảnh đó, MRDIMM (Multiplexed Rank Dual In-line Memory Module) đang nổi lên như một trong những giải pháp quan trọng cho bài toán nghẽn băng thông bộ nhớ. Theo ZDNet, tổ chức tiêu chuẩn hóa JEDEC hiện đã bước vào giai đoạn hoàn thiện cuối cùng cho chuẩn MRDIMM thế hệ thứ hai.

Theo ZDNet, trong khi HBM được tích hợp với GPU để xử lý workload AI, MRDIMM đóng vai trò là bộ nhớ chính được CPU truy cập trực tiếp.

Micron đi đầu với MRDIMM
ZDNet cho biết dòng module này được thiết kế tối ưu cho data center AI và được kỳ vọng sẽ tăng trưởng nhu cầu rất nhanh cùng với HBM. Samsung và SK hynix cũng đang phát triển sản phẩm nhằm chiếm lợi thế sớm trên thị trường.

Đáng chú ý, Micron Technology từng công bố vào năm 2024 rằng hãng đã bắt đầu gửi mẫu MRDIMM thử nghiệm. Micron cho biết công nghệ này được xây dựng trên chuẩn vật lý và điện của DDR5 nhưng mang lại bước tiến lớn về hiệu năng bộ nhớ, giúp tăng băng thông và dung lượng trên mỗi nhân CPU nhằm đáp ứng nhu cầu ngày càng cao của workload data center.

Theo Micron, so với RDIMM truyền thống, MRDIMM có thể:
• Tăng hiệu quả băng thông bộ nhớ lên tới 39%
• Cải thiện hiệu suất bus hơn 15%
• Giảm độ trễ tới 40%

MRDIMM là gì?
Theo ZDNet, MRDIMM là thế hệ DRAM server mới được tối ưu cho AI và HPC. Công nghệ này cho phép hai rank bộ nhớ hoạt động đồng thời, từ đó tăng đáng kể tốc độ xử lý dữ liệu.

Tuy nhiên, MRDIMM hiện vẫn là công nghệ mới và chưa hoàn tất quá trình tiêu chuẩn hóa cũng như thương mại hóa rộng rãi. Hiện mới chỉ có số ít CPU hỗ trợ công nghệ này, trong đó có dòng Intel Xeon 6.

Một tài liệu kỹ thuật của Lenovo cũng cho biết các nhà thiết kế server đang ngày càng quan tâm tới MRDIMM để giải quyết nút thắt băng thông bộ nhớ khi triển khai CPU thế hệ mới.

Theo Lenovo, MRDIMM có thể truyền tới 128 byte dữ liệu bộ nhớ cho CPU trong mỗi lần hoạt động, gần gấp đôi throughput so với DDR5 DIMM thông thường. Trong kiến trúc DDR5, bộ nhớ được tổ chức thành các rank gồm nhiều chip hoạt động song song trên cấu trúc dữ liệu 64-bit. MRDIMM mở rộng kiến trúc này bằng cách cho phép các rank hoạt động đồng thời, giúp các CPU như Intel Xeon và AMD EPYC truy xuất dữ liệu hiệu quả hơn từ mỗi module.

ZDNet dẫn thông tin từ JEDEC cho biết tổ chức này hiện đang hoàn thiện blueprint cho MRDIMM thế hệ 2 với tốc độ mục tiêu lên tới 12.800 MT/s. Đây là mức tăng hiệu năng khoảng 45% so với MRDIMM thế hệ đầu tiên đang hoạt động ở khoảng 8.800 MT/s.