Tại Hot Chips 2026, hai ông lớn bộ nhớ Hàn Quốc là Samsung và SK hynix đã đưa ra những hướng tiếp cận khác nhau cho thế hệ HBM tiếp theo. Trong khi Samsung tập trung vào việc phát triển kiến trúc HBM theo hướng custom hóa và tích hợp logic, với lộ trình từ HBM tiêu chuẩn → custom HBM (cHBM) → zHBM, SK hynix lại nhấn mạnh vào advanced packaging và quản lý nhiệt – hai yếu tố ngày càng quan trọng khi mật độ tích hợp của HBM tiếp tục tăng.
Theo các thông tin được Wccftech và ServeTheHome tổng hợp từ Hot Chips 2026, Samsung tuyên bố kiến trúc zHBM có thể đạt hiệu suất năng lượng cao hơn 70% và băng thông DRAM lớn hơn 230% so với một stack HBM4E tiêu chuẩn.
Trong khi đó, SK hynix dành nhiều sự chú ý cho các công nghệ đóng gói như CoWoS-S, CoWoS-L và Intel EMIB, đồng thời nghiên cứu các giải pháp mới nhằm giải quyết vấn đề nhiệt và độ tin cậy cơ học của các stack HBM.
Samsung: Từ HBM tiêu chuẩn đến cHBM và zHBM
Lộ trình HBM của Samsung tại Hot Chips 2026 cho thấy xu hướng chuyển từ bộ nhớ HBM truyền thống sang những kiến trúc có mức độ tích hợp cao hơn.
cHBM: Đưa logic vào bên trong HBM
Với HBM tiêu chuẩn, base die chủ yếu đảm nhiệm các chức năng liên quan đến dữ liệu và kiểm tra. Samsung đang thay đổi cách tiếp cận này với custom HBM (cHBM), sử dụng các tiến trình logic tiên tiến để tích hợp thêm chức năng giống SoC vào base die.
Mục tiêu là chuyển một phần tác vụ từ xPU sang HBM, qua đó giảm tải cho bộ xử lý và giải phóng thêm diện tích silicon cho các chức năng tính toán.
Một thay đổi đáng chú ý là việc thay thế PHY truyền thống bằng giao diện Die-to-Die (D2D) nhỏ gọn hơn. Theo thông tin được Wccftech dẫn lại, Samsung kỳ vọng diện tích dành cho PHY và D2D sẽ được thu nhỏ đáng kể khi chuyển từ HBM4 lên HBM5.
Tuy nhiên, tích hợp nhiều logic hơn vào một không gian nhỏ cũng tạo ra thách thức mới: mật độ nhiệt cục bộ tăng cao.
HPB: Giải quyết điểm nóng nhiệt
Để xử lý vấn đề này, Samsung phát triển Heat Path Block (HPB) cho cHBM4.
Giải pháp này bao phủ khoảng 50% diện tích PHY và được thiết kế để tạo đường dẫn nhiệt hiệu quả hơn. Theo thông tin được công bố, HPB có thể giúp giảm nhiệt độ đỉnh hơn 35%.
Đây là một yếu tố quan trọng khi HBM ngày càng được tích hợp sâu hơn với logic, bởi hiệu suất không còn phụ thuộc đơn thuần vào băng thông mà còn bị giới hạn bởi khả năng kiểm soát nhiệt.
zHBM: Đưa HBM trực tiếp lên trên XPU
Sau cHBM, Samsung đang hướng tới một kiến trúc mới có tên zHBM.
Thay vì đặt HBM cạnh xPU trên một interposer 2.5D truyền thống, zHBM được thiết kế để xếp chồng HBM trực tiếp lên XPU.
Cách tiếp cận này giúp rút ngắn khoảng cách giữa bộ nhớ và bộ xử lý, đồng thời có thể giảm diện tích silicon và loại bỏ nhu cầu sử dụng interposer 2.5D truyền thống.
Một trong những điểm đáng chú ý nhất của zHBM là hiệu suất năng lượng.
Theo Samsung, việc loại bỏ SerDes và giảm overhead liên quan đến căn chỉnh dữ liệu có thể giúp giảm đáng kể mức tiêu thụ điện năng cho I/O.
Samsung tuyên bố hiệu suất tăng 70%
Theo các thông tin được Wccftech và ServeTheHome dẫn lại, Samsung tuyên bố zHBM có thể đạt:
70% higher power efficiency so với HBM4E tiêu chuẩn
230% higher DRAM bandwidth
Có khả năng giải phóng thêm khoảng 8,3% công suất cho XPU
Một cấu hình được Samsung đề xuất sử dụng 4 stack zHBM đặt trực tiếp trên một XPU.
Trong một ví dụ được ServeTheHome đề cập, hệ thống System-in-Package với 4 stack zHBM kết hợp GPU 1.200W có thể mang lại mức tăng đáng kể về băng thông, đồng thời tiết kiệm khoảng 100W điện năng.
Nếu những con số này có thể được duy trì trong các hệ thống thương mại, zHBM có thể mở ra một hướng tiếp cận đáng chú ý cho các bộ xử lý AI có công suất và mật độ tính toán ngày càng cao.
SK hynix: Tập trung vào bài toán nhiệt và advanced packaging
Trong khi Samsung tập trung nhiều hơn vào kiến trúc HBM, SK hynix lại dành trọng tâm tại Hot Chips 2026 cho advanced packaging và bài toán nhiệt.
Khi số lượng layer HBM tiếp tục tăng, việc xếp chồng nhiều die trong một không gian ngày càng nhỏ tạo ra những thách thức lớn về nhiệt, ứng suất cơ học và độ tin cậy.
I-HBM: Tạo đường dẫn nhiệt ngay tại hotspot
Tương tự hướng tiếp cận HPB của Samsung, SK hynix đang phát triển một công nghệ được gọi là I-HBM.
Công nghệ này tích hợp một vật liệu có độ dẫn nhiệt cao nhưng cách điện vào khu vực D2D PHY của HBM, ngay gần các điểm nóng nhiệt.
Mục tiêu là tạo ra một đường dẫn nhiệt chuyên biệt, qua đó giảm thermal resistance hơn 30% theo các thông tin được Wccftech dẫn lại.
Theo một báo cáo trước đó của Sisa Journal, SK hynix dự kiến hỗ trợ các sản phẩm thế hệ tiếp theo như HBM5 bằng cấu trúc iHBM, kết hợp với công nghệ Advanced Mass Reflow Molded Underfill (MR-MUF).
SK hynix hiện đã sử dụng MR-MUF cho các sản phẩm HBM3E 16-Hi, đồng thời đang nghiên cứu hybrid bonding như một hướng phát triển quan trọng cho các thế hệ HBM vượt qua cấu hình 16-Hi.
Hybrid bonding có thể cho phép pitch nhỏ hơn, mật độ kết nối cao hơn và cải thiện khả năng dẫn nhiệt – những yếu tố cần thiết khi số lượng die trong stack tiếp tục tăng.
SK hynix đánh giá Intel EMIB cho HBM
Một điểm đáng chú ý khác tại Hot Chips 2026 là việc SK hynix đưa Intel EMIB (Embedded Multi-die Interconnect Bridge) vào lộ trình advanced packaging của mình.
Trong roadmap đóng gói HBM 2.5D, SK hynix đề cập đến EMIB cùng với CoWoS-S, CoWoS-L và CoWoS-R.
Mỗi kiến trúc packaging tạo ra những mức độ ứng suất cơ học và nhiệt khác nhau lên HBM stack cũng như silicon interposer. Do đó, lựa chọn công nghệ đóng gói không chỉ ảnh hưởng đến khả năng tích hợp mà còn quyết định mức độ stress mà HBM phải chịu trong quá trình vận hành.
Đáng chú ý, một báo cáo của ZDNet hồi tháng 5 cho biết SK hynix đang tiến hành R&D với công nghệ đóng gói 2.5D dựa trên Intel EMIB, sử dụng HBM của chính SK hynix.
Công ty được cho là đang thử nghiệm việc tích hợp HBM và logic semiconductor trên các substrate tích hợp EMIB do Intel cung cấp, đồng thời đánh giá các vật liệu và nhà cung cấp linh kiện liên quan cho khả năng sản xuất hàng loạt trong tương lai.
Hai hướng tiếp cận, cùng một bài toán
Những công bố tại Hot Chips 2026 cho thấy Samsung và SK hynix đang đi theo hai hướng khác nhau, nhưng cùng hướng tới một mục tiêu: đẩy giới hạn của HBM trong kỷ nguyên AI.
Samsung tập trung vào việc thay đổi kiến trúc: HBM → cHBM → zHBM
Trong đó, bộ nhớ ngày càng được tích hợp sâu hơn với logic và XPU nhằm giảm khoảng cách dữ liệu, tăng băng thông và cải thiện hiệu suất năng lượng.
SK hynix lại tập trung nhiều hơn vào nền tảng đóng gói: HBM → Advanced Packaging → Thermal Management → Hybrid Bonding
Mục tiêu là giải quyết những giới hạn về nhiệt và độ tin cậy khi HBM ngày càng được xếp chồng ở mật độ cao hơn.
HBM đang bước vào một cuộc đua mới
Cuộc đua HBM hiện không còn đơn thuần là cuộc đua về dung lượng và băng thông.
Khi AI accelerator ngày càng mạnh, những yếu tố như power efficiency, thermal management, advanced packaging và interconnect đang trở thành những biến số quan trọng không kém.
Nếu Samsung có thể biến zHBM thành một kiến trúc thương mại khả thi, trong khi SK hynix tiếp tục mở rộng các giải pháp packaging và hybrid bonding, thế hệ HBM tiếp theo có thể chứng kiến sự thay đổi đáng kể trong cách memory và compute được tích hợp.
Và khi đó, lợi thế cạnh tranh trong AI infrastructure có thể không chỉ nằm ở việc ai sản xuất được HBM nhanh hơn, mà còn ở việc ai có thể đưa memory đến gần compute hơn, với ít điện năng và ít nhiệt hơn.
Nguồn: Trendforce, Wccftech, ServeTheHome, Sisa Journal, and ZDNet.
-bf056b2a49fd7.jpg)
