GIGABYTE ra mắt máy chủ tăng cường hiệu suất AI và LLM với chip AMD EPYC™ 9005 Series và GPU AMD Instinct™ MI325X

Giga Computing thông báo hỗ trợ vi xử lý AMD EPYC™ 9005 Series với việc ra mắt các dòng máy chủ mới của GIGABYTE cùng với các bản cập nhật BIOS cho một số máy chủ hiện có sử dụng nền tảng SP5.

Đợt cập nhật đầu tiên này hỗ trợ hơn 60 dòng máy chủ và bo mạch chủ để khách hàng lựa chọn, cung cấp hiệu suất vượt trội cho vi xử lý AMD EPYC™ thế hệ thứ 5. Ngoài ra, với sự ra mắt của bộ tăng tốc AMD Instinct™ MI325X, một dòng máy chủ mới của GIGABYTE đã được thiết kế và sẽ được giới thiệu tại sự kiện SC24 (19-21 tháng 11) tại Atlanta.

Máy chủ GIGABYTE mới và các bản cập nhật

Để đáp ứng mọi lĩnh vực công việc, từ máy chủ thiết kế theo mô-đun cho đến máy chủ biên và bo mạch chủ cấp doanh nghiệp, các giải pháp mới này sẽ được xuất xưởng với sự hỗ trợ sẵn có cho vi xử lý AMD EPYC™ 9005 Series. Một trong những giải pháp nổi bật là XV23-ZX0, với thiết kế máy chủ mô-đun sử dụng hai vi xử lý AMD EPYC™ 9005 và hỗ trợ tới bốn GPU cùng ba khe mở rộng FHFL bổ sung. Nó cũng được trang bị nguồn điện dự phòng 2+2 ở mặt trước để dễ dàng truy cập.

Để hỗ trợ số lượng lớn các máy chủ và bo mạch chủ sử dụng vi xử lý AMD EPYC™ 9004 Series trong danh mục sản phẩm của GIGABYTE, hai đợt cập nhật sẽ được triển khai nhằm hỗ trợ vi xử lý AMD EPYC™ 9005, bao phủ hầu hết các mẫu máy. Để xác định liệu máy chủ hiện có có hỗ trợ vi xử lý AMD EPYC™ thế hệ thứ 5 hay không, trang sản phẩm của GIGABYTE sẽ chỉ rõ điều này trong phần mô tả, và nếu có, sẽ có sẵn bản cập nhật BIOS để tải xuống. Nếu không, chỉ EPYC™ 9004 sẽ được liệt kê trong mô tả sản phẩm. Do sự khác biệt thế hệ về tốc độ bộ nhớ cho cấu hình một DIMM mỗi kênh, khách hàng cần kiểm tra trang sản phẩm để xác định xem 6000 MT/s có được hỗ trợ hay không.

Các tiến bộ công nghệ với AMD

Vi xử lý AMD EPYC™ 9005 Series là dòng mới nhất trong gia đình EPYC™, sử dụng kiến trúc "Zen5", cung cấp dải lõi rộng (lên đến 192 lõi và 384 luồng), tần số (tối đa 5 GHz), dung lượng bộ nhớ đệm, và nhiều tính năng khác. Được thiết kế cho các trung tâm dữ liệu hỗ trợ AI, các vi xử lý này mang lại hiệu suất vượt trội, hiệu quả và tương thích tốt với phần mềm x86. Chúng hỗ trợ các ứng dụng từ sáng kiến AI của doanh nghiệp, hạ tầng đám mây quy mô lớn, đến lưu trữ các ứng dụng quan trọng cho doanh nghiệp, giúp cải thiện hiệu suất năng lượng và giảm sự lãng phí không gian trong trung tâm dữ liệu. Các máy chủ dựa trên CPU AMD EPYC™ 9005 Series mang đến lộ trình mượt mà cho doanh nghiệp muốn dẫn đầu về giải pháp tính toán và AI.

Các bộ tăng tốc AMD Instinct™ MI325X đặt ra tiêu chuẩn mới về hiệu suất AI với kiến trúc A  MD CDNA™ 3, mang lại hiệu suất và hiệu quả tuyệt vời cho cả đào tạo và suy luận. Với dung lượng bộ nhớ hàng đầu trong ngành và băng thông 6 TB/s, chúng tối ưu hóa hiệu suất và giúp giảm tổng chi phí hệ thống (TCO). Tích hợp với phần mềm AMD ROCm™, các bộ tăng tốc mới hỗ trợ các khung AI quan trọng và đơn giản hóa quá trình triển khai. Bộ tăng tốc AMD Instinct™ MI325X sẽ tích hợp liền mạch vào hạ tầng của GIGABYTE, cũng như cung cấp hỗ trợ mạnh mẽ ngay từ ngày đầu cho các đối tác trong hệ sinh thái như OpenAI, PyTorch, Hugging Face, Databricks, Lamini và nhiều công ty khác, giúp các doanh nghiệp mở rộng quy mô hiệu quả.

"Việc sử dụng cùng một socket để hỗ trợ nhiều thế hệ vi xử lý AMD EPYC™ là điều khá ấn tượng, đặc biệt khi xét đến sự gia tăng hiệu suất tính toán mà chúng tôi đã chứng kiến với vi xử lý EPYC™ 9005 Series," ông Vincent Wang, Phó Chủ tịch Kinh doanh tại Giga Computing chia sẻ. "Khi những tiến bộ công nghệ như AMD Instinct™ MI325X tiếp tục phá vỡ giới hạn trong tính toán AI và các lĩnh vực khác, chúng tôi rất trân trọng mối quan hệ với AMD, điều này cho phép chúng tôi cập nhật sản phẩm đồng thời với những công bố của AMD."

"AMD là nhà cung cấp giải pháp trung tâm dữ liệu hàng đầu cho các tổ chức tiên phong, cho dù họ đang thực hiện các sáng kiến AI doanh nghiệp, xây dựng hạ tầng đám mây quy mô lớn, hay lưu trữ các ứng dụng kinh doanh đòi hỏi cao tại chỗ," ông Ravi Kuppuswamy, Phó Chủ tịch cấp cao, Đơn vị Kinh doanh Máy chủ tại AMD cho biết. "Các vi xử lý AMD EPYC™ thế hệ thứ 5 mới nhất của chúng tôi mang lại hiệu suất, tính linh hoạt và độ tin cậy - với khả năng tương thích trong toàn bộ hệ sinh thái trung tâm dữ liệu - để cung cấp các giải pháp tùy chỉnh đáp ứng các yêu cầu đặc biệt của trung tâm dữ liệu hiện đại."

"AMD đang dẫn đầu cuộc cách mạng AI, thiết lập các chuẩn mực mới về hiệu suất và khả năng của AI sinh sinh với các bộ tăng tốc Instinct của chúng tôi," ông Travis Karr, Phó Chủ tịch Phát triển Kinh doanh, AMD, phát biểu. "Bộ tăng tốc Instinct™ MI325X mới nhất của chúng tôi, được xây dựng trên kiến trúc CDNA3 và trang bị 256GB bộ nhớ HBM3E hàng đầu trong ngành, cho phép các tổ chức mở rộng hiệu quả các khối lượng công việc AI phức tạp nhất, thúc đẩy những tiến bộ vượt bậc trong xử lý ngôn ngữ tự nhiên, thị giác máy tính và nhiều lĩnh vực khác."

Tại sự kiện Advancing AI 2024, GIGABYTE giới thiệu máy chủ mới ra mắt và duy nhất được biết đến với 48 DIMMs trên một node đơn, máy chủ "zig zag" R283-ZK0. Ngoài ra, một concept máy chủ thiết kế 8U mới, một máy chủ cơ sở 8 GPU được cải tiến cho GPU AMD Instinct™ MI325X, cũng được trưng bày tại sự kiện, nhằm cung cấp giải pháp cần thiết cho các mô hình ngôn ngữ lớn và suy luận AI.