Khi HBM và DDR dần tiến đến giới hạn về dung lượng phục vụ các khối lượng công việc AI, các nhà sản xuất bộ nhớ hàng đầu đang chuyển hướng sang những công nghệ mới. Theo Seoul Economic Daily, Samsung Electronics và SK hynix đều đang phát triển các giải pháp dựa trên Compute Express Link (CXL) nhằm tạo ra một tầng bộ nhớ (memory tier) mới dành cho hệ thống AI.
HBM và DDR phải được kết nối trực tiếp với GPU và CPU, khiến việc mở rộng dung lượng bộ nhớ gặp nhiều hạn chế. Trong khi đó, bộ nhớ CXL tạo ra một tầng bộ nhớ riêng, cho phép mở rộng dung lượng với chi phí tương đối thấp mà không cần bổ sung thêm GPU hoặc CPU.
CXL tiến gần hơn đến giai đoạn thương mại hóa
Theo Sharing Economy News, Samsung Electronics đặt mục tiêu sản xuất hàng loạt mô-đun CXL Memory Module-DRAM (CMM-D) 3.0, dựa trên chuẩn CXL 3.2, vào cuối năm nay.
Samsung cho biết bộ nhớ CXL có thể:
Tăng tổng dung lượng bộ nhớ lên tới 50%.
Tăng gấp đôi băng thông bộ nhớ so với hệ thống chỉ sử dụng DDR5.
Hỗ trợ memory pooling, cho phép nhiều máy chủ chia sẻ tài nguyên bộ nhớ một cách linh hoạt theo nhu cầu.
Chuẩn CXL 3.2 còn bổ sung Hot Page Monitoring Unit (CHMU), một cơ chế giám sát tần suất truy cập dữ liệu theo thời gian thực. CHMU sẽ tự động phân bổ dữ liệu được truy cập thường xuyên và ít thường xuyên vào các vùng bộ nhớ phù hợp, giúp giảm lượng dữ liệu phải di chuyển không cần thiết và nâng cao hiệu quả sử dụng tài nguyên bộ nhớ.
SK hynix giới thiệu kiến trúc bộ nhớ CXL mới cho AI
Theo Sharing Economy News, tại sự kiện HPED 2026 diễn ra tháng trước, SK hynix đã trình diễn mẫu CMM-DDR5 thế hệ thứ hai dựa trên chuẩn CXL 3.2. Công ty hiện đã bắt đầu thảo luận cung ứng với khách hàng nhưng chưa công bố thời điểm sản xuất hàng loạt.
Bên cạnh đó, Seoul Economic Daily cho biết SK hynix vừa giới thiệu kiến trúc Inference Memory Tiering Expansion (IMTE).
Kiến trúc này cải thiện hiệu suất suy luận AI thêm 35,7% so với các hệ thống truyền thống bằng cách bố trí bộ nhớ lai CXL giữa HBM/DDR và SSD.
IMTE tạo ra một tầng bộ nhớ mới với:
Dung lượng nhiều terabyte.
Hiệu năng cao hơn SSD truyền thống.
Sử dụng CXL như một trung tâm điều phối thông minh, chủ động di chuyển dữ liệu giữa HBM, DDR và SSD để tối ưu hiệu suất.
Trong khi đó, Micron đã giới thiệu sản phẩm bộ nhớ CXL 2.0 CZ120 từ năm 2023 và hiện được cho là đang tăng tốc phát triển các thế hệ sản phẩm mới dựa trên chuẩn CXL 3.1 và CXL 3.2.
Những thách thức trước khi CXL được triển khai rộng rãi
Xu hướng này cũng đang nhận được sự hỗ trợ từ toàn bộ hệ sinh thái. Theo Seoul Economic Daily, NVIDIA, Intel và AMD đều đang tích hợp khả năng hỗ trợ bộ nhớ CXL vào các thế hệ chip tiếp theo, bao gồm NVIDIA Vera Rubin, dự kiến ra mắt trong nửa cuối năm nay.
Microsoft cũng được cho là đã triển khai dịch vụ cloud thử nghiệm sử dụng bộ nhớ CXL từ cuối năm ngoái nhằm nâng cao hiệu quả vận hành máy chủ.
Tuy nhiên, theo Sharing Economy News, vẫn còn nhiều rào cản trước khi thị trường CXL có thể mở rộng quy mô.
Toàn bộ hệ sinh thái gồm CPU, switch, bộ điều khiển bộ nhớ (memory controller) và phần mềm đều phải hỗ trợ CXL. Đồng thời, khả năng tương thích giữa phần cứng của nhiều nhà cung cấp khác nhau cũng cần được kiểm chứng trong các môi trường máy chủ sản xuất thực tế của khách hàng.
Về dài hạn, hệ sinh thái CXL được kỳ vọng sẽ thúc đẩy sự chuyên môn hóa trong chuỗi cung ứng. Các hãng bộ nhớ sẽ tập trung vào sản xuất DRAM và phát triển mô-đun bộ nhớ, trong khi các công ty fabless đảm nhiệm thiết kế bộ điều khiển CXL và switch. Khi CXL được triển khai rộng rãi, lợi ích sẽ không chỉ thuộc về các nhà sản xuất bộ nhớ mà còn lan sang các doanh nghiệp phát triển controller, switch, máy chủ và phần mềm.
