GIGABYTE giới thiệu máy chủ điện toán tăng tốc với băng thông bộ nhớ tăng đáng kể bằng cách sử dụng nền tảng NVIDIA HGX™ H200

Ngày 15/8, Giga Computing đã bổ sung thêm hai máy chủ cơ sở 8 GPU mới vào dòng GIGABYTE G593 hỗ trợ NVIDIA HGX™ H200 , một nền tảng bộ nhớ GPU lý tưởng cho các tập dữ liệu AI lớn cũng như mô phỏng khoa học và các khối lượng công việc đòi hỏi nhiều bộ nhớ khác.

Dòng G593 dành cho điện toán mở rộng trong AI và HPC

Với không gian chuyên dụng để làm mát GPU, dòng G593 đạt hiệu suất ổn định, mạnh mẽ trong khung máy 5U nhỏ gọn với luồng khí cao với mật độ tính toán đáng kinh ngạc.

Duy trì cùng yêu cầu về điện năng như các hệ thống dựa trên NVIDIA HGX™ H100 làm mát bằng không khí, GPU NVIDIA H200 Tensor Core kết hợp tối ưu với máy chủ GIGABYTE G593 series đã được thử nghiệm trên đường, được thiết kế riêng cho bo mạch chủ 8 GPU. Để giảm bớt các hạn chế về băng thông bộ nhớ trên AI, bao gồm suy luận AI, GPU NVIDIA H200 cung cấp khả năng tăng đáng kể về dung lượng bộ nhớ và băng thông so với GPU NVIDIA H100 Tensor Core. GPU H200 có tới 141GB bộ nhớ HBM3e và băng thông bộ nhớ 4,8TB/giây, tương đương với khả năng tăng 1,7X về dung lượng bộ nhớ và tăng 1,4X về thông lượng.

Máy chủ GPU GIGABYTE mới

G593-SD1-AAX3 : Hỗ trợ bộ xử lý Intel® Xeon® Scalable thế hệ thứ 5

G593-ZD1-AAX3 : Hỗ trợ bộ xử lý AMD EPYC™ 9004 Series với tối đa 96 lõi CPU

Bên cạnh nền tảng CPU, các máy chủ GIGABYTE mới có chung bố cục và thông số kỹ thuật tổng thể được tinh chỉnh cho tất cả các ứng dụng của khách hàng trong điện toán tăng tốc. Chúng sẽ sớm được đăng trong NVIDIA Qualified System Catalog cùng với các máy chủ GIGABYTE dòng G593 đủ điều kiện khác, bao gồm bốn máy chủ dòng G593 đã vượt qua các bài kiểm tra chức năng và hiệu suất và là NVIDIA-Certified Systems™ .

Dòng G593 được thiết kế để lưu trữ và kết nối mạng ở mức độ cao. Hỗ trợ tối đa 8 ổ SSD U.2 Gen5 NVMe, dòng sản phẩm này có thể xử lý dữ liệu nhanh chóng bằng NVIDIA GPUDirect ® Storage, một trong những công nghệ NVIDIA Magnum IO™, để có đường dẫn trực tiếp từ bộ nhớ GPU đến bộ lưu trữ nhằm cải thiện băng thông và giảm độ trễ. Để kết nối với các máy chủ khác trong cụm hoặc để truyền dữ liệu ra bên ngoài trung tâm dữ liệu, có 12 khe cắm mở rộng dành cho mạng NVIDIA InfiniBand hoặc Ethernet thông qua NIC hoặc DPU. Để cung cấp nguồn điện dồi dào và hoạt động liên tục, có cấu hình nguồn điện dự phòng 4+2 3000W.

Tích hợp vào GIGAPOD cho Giải pháp quy mô Rack

Tầm quan trọng của một cụm máy tính được thiết kế tốt không thể được cường điệu hóa, đặc biệt là khi những tiến bộ của AI đang tăng tốc và các doanh nghiệp và học viện đang háo hức với những hiểu biết mới. Năm ngoái, GIGABYTE đã ra mắt giải pháp quy mô rack, GIGAPOD, đã đạt được thành công lớn trong việc triển khai sử dụng các hệ thống NVIDIA HGX™. Cho đến nay, tất cả các hệ thống này đều sử dụng máy chủ dòng G593 để tích hợp NVIDIA HGX™ H100. Với việc bổ sung hỗ trợ cho GPU NVIDIA H200, GIGAPOD được thiết lập để giúp cho hiệu suất và hiệu quả thậm chí còn cao hơn nữa cho các quy trình làm việc điện toán được tăng tốc.

Ra mắt ngày hôm nay, dòng máy chủ GIGABYTE G593 mới này sẽ mở rộng quy mô sản xuất vào nửa cuối năm 2024.