Intel Xeon 6 P-core ra mắt

Intel vừa giới thiệu bộ xử lý Xeon 6 và bộ tăng tốc AI Gaudi 3 vào ngày thứ Ba vừa qua. Sự ra mắt này đánh dấu sự tăng cường nỗ lực từ Intel trong việc cung cấp các hệ thống AI mạnh mẽ với hiệu suất tối ưu và giảm tổng chi phí sở hữu.

Vài năm trở lại đây, Intel đã đánh mất vị trí là người dẫn đầu vi xử lý nói chung và x86 nói riêng. Đặc biệt mảng server vốn là nơi công ty này ngự trị hàng chục năm qua nay trở nên thua kém trước cái tên EPYC đến từ đối thủ AMD.

Hồi Computex diễn ra vài tháng trước, Intel đã công bố thương hiệu mới có tên Xeon 6, như là sự lột xác cho dòng sản phẩm server của mình. Tuy vậy "lứa" Xeon 6 ở Computex chỉ sử dụng E-core (Sierra Forest), vốn có lợi thế về hiệu quả tiêu thụ điện chứ không phải hiệu suất cao. Mà để nhắm tới hiệu suất cao thì phải dùng P-core là thứ chúng ta nói đến trong bài viết này.

Bộ xử lý Xeon 6900P “Granite Rapids” có lõi hiệu suất (P-core) cung cấp tới 128 lõi, cạnh tranh hiệu quả với dòng sản phẩm EPYC của AMD. Điểm đáng chú ý là Xeon 6900P hỗ trợ DDR5 lên đến 6400 MT/giây, MRDIMM lên đến 8800 MT/s, và có nhiều tính năng mạnh mẽ khác như UPI 2.0, PCIe 5.0/CXL 2.0, bộ nhớ đệm lên đến 504 MB và Intel Advanced Matrix Extensions (AMX).

Đối với cấu hình CPU, Xeon 6900 sử dụng thiết kế chiplet cho phép tối đa năm chiplet cho CPU P-Core. Nền tảng Xeon 6900 “Granite Rapids” cao cấp hơn hỗ trợ ổ cắm LGA 7529 (Birch Stream) cho cấu hình 1S/2S với TDP lên tới 500W cho mỗi CPU, với hiệu suất cải thiện đáng kể so với CPU EPYC của AMD.

Dòng sản phẩm Xeon 6900P của Intel cung cấp hiệu suất cải thiện đáng kể so với các đối thủ, với mức tăng lên tới 60% và giảm tổng chi phí sở hữu xuống 30%. Intel cũng ra mắt bộ tăng tốc AI Gaudi 3, được thiết kế cho AI tạo sinh quy mô lớn với nhiều tính năng mạnh mẽ và khả năng mở rộng.

Hợp tác với IBM và Dell Technologies, Intel đang tập trung vào việc giảm TCO cho khách hàng và cải thiện khả năng mở rộng và hiệu suất của các giải pháp AI. Nền tảng Tiber Developer Cloud của Intel cung cấp quyền truy cập sớm vào các hệ thống Xeon 6 và Gaudi 3 cho các nhà phát triển.

Nhìn chung, việc giới thiệu bộ xử lý Xeon 6 và bộ tăng tốc AI Gaudi 3 của Intel đánh dấu bước tiến mạnh mẽ trong lĩnh vực AI và đội ngũ máy chủ, cạnh tranh chặt chẽ với các sản phẩm của AMD. Intel cam kết tiếp tục đồng hành cùng khách hàng trong việc cung cấp các giải pháp AI linh hoạt, có khả năng mở rộng và tiết kiệm chi phí.

Hôm thứ Ba, Intel đã giới thiệu bộ xử lý Xeon 6, có lõi hiệu suất (P-core) và bộ tăng tốc AI Gaudi 3. Lần ra mắt này tăng cường nỗ lực của Intel nhằm cung cấp các hệ thống AI mạnh mẽ với hiệu suất được cải thiện trên mỗi watt và giảm tổng chi phí sở hữu (TCO).

Tổng quan về Xeon 6900P “Granite Rapids”

CPU P-Core Xeon 6900P “Granite Rapids” cung cấp tới 128 lõi, cạnh tranh hiệu quả với dòng sản phẩm EPYC của AMD. Điều này theo sau trước đó giải phóng của dòng Xeon 6700E vào tháng 6, có tới 144 lõi, với kế hoạch nâng cấp lên 288 lõi vào đầu năm 2025.

Các tính năng chính của Xeon 6900P

Hỗ trợ DDR5 lên đến 6400 MT/giây

Hỗ trợ MRDIMM lên đến 8800 MT/s

Lên đến 128 lõi hiệu suất

6 liên kết UPI 2.0 với tốc độ lên tới 24 GT/giây

Lên đến 96 làn PCIe 5.0/CXL 2.0

Bộ nhớ đệm L3 lên đến 504 MB

Intel Advanced Matrix Extensions (AMX) với hỗ trợ FP16

Cấu hình CPU

Dòng Xeon 6900 sử dụng thiết kế chiplet, cho phép tối đa năm chiplet cho CPU P-Core. Compute Die được xây dựng trên nút quy trình “Intel 3”, có Redwood Cove P-Core và Bộ điều khiển bộ nhớ tích hợp (IMC). I/O die, dựa trên nút quy trình “Intel 7”, bao gồm nhiều bộ điều khiển I/O và động cơ tăng tốc.

Cấu hình Xeon 6900P bao gồm:

SKU XCC: 3 Compute Tiles + 2 IO Tiles = Tối đa 128 lõi

6700P (SKU XCC): 2 Compute Tile + 2 IO Tile = Tối đa 86 lõi

6500P (HCC SKU): 1 Compute Tile + 2 IO Tile = Tối đa 48 lõi

6300P (SKU LCC): 1 Compute Tile + 2 IO Tile = Tối đa 16 lõi

6900E (SKU XCC): 2 Compute Tile + 2 IO Tile = Tối đa 288 lõi

6700E (HCC SKU): 1 Compute Tile + 2 IO Tile = Tối đa 144 lõi

Nền tảng và hỗ trợ

CPU Xeon 6900 “Granite Rapids” cao cấp hơn của Intel sẽ hỗ trợ nền tảng ổ cắm LGA 7529 (Birch Stream), cho phép cấu hình 1S/2S với TDP lên tới 500W cho mỗi CPU. Các thông số kỹ thuật chính bao gồm:

12 kênh bộ nhớ hỗ trợ tốc độ DDR5-6400/MCR-8800 MT/s

Lên đến 96 làn PCIe Gen 5.0/CXL 2.0

6 liên kết UPI 2.0 với tốc độ lên tới 24 GT/giây

Số liệu hiệu suất

Intel tuyên bố Xeon 6900P mang lại hiệu suất cải thiện đáng kể so với CPU EPYC của AMD.

So với CPU Emerald Rapids thế hệ thứ 5, Xeon 6900P cho thấy hiệu suất tăng 2,28 lần và cải thiện hiệu suất 60%.

Intel Xeon 6900P cung cấp hiệu suất cải thiện 60% trên mỗi watt và giảm tổng chi phí sở hữu (TCO) xuống 30%. Trong các điểm chuẩn cụ thể, nó cho thấy khả năng Tóm tắt tăng 34%, hiệu suất Chatbot cải thiện 2,15 lần và tác vụ Biên dịch tăng 18%.

So với chip EPYC Genoa của AMD và chip Turin sắp ra mắt, Xeon 6900P mang lại mức tăng hiệu suất AI trung bình gấp 3,65 lần và vượt trội trong cơ sở dữ liệu vectơ và khối lượng công việc tìm kiếm vectơ có thể mở rộng.

Dòng CPU

Intel đã ra mắt năm SKU trong dòng Xeon 6900P:

Xeon 6980P: 128 lõi, xung nhịp cơ bản 2,0 GHz, xung nhịp tăng cường 3,9 GHz, bộ nhớ đệm L3 504 MB, TDP 500W

Xeon 6979P: 120 lõi

Xeon 6972P: 96 lõi, tốc độ cơ bản 2,1 GHz, tốc độ tăng cường 3,9 GHz, bộ nhớ đệm L3 480 MB, TDP 400W

Xeon 6952P: 96 lõi, xung nhịp cơ bản 2,1 GHz, xung nhịp tăng cường 3,9 GHz, TDP 400W

Xeon 6960P: 72 lõi, tốc độ cơ bản 2,7 GHz, tốc độ tăng cường 3,9 GHz

Nhìn chung, dòng sản phẩm Intel Xeon 6900P đánh dấu sự trở lại mạnh mẽ của Intel trên thị trường máy chủ, nhằm cạnh tranh chặt chẽ với CPU Turin sắp ra mắt của AMD.

Gaudi 3 AI Accelerator: Tối ưu hóa cho AI tạo sinh

Intel đã công bố Gaudi 3 AI Accelerator, được thiết kế cho AI tạo ra quy mô lớn. Với 64 lõi xử lý Tensor (TPC) và tám công cụ nhân ma trận (MME), nó tăng cường tính toán mạng nơ-ron sâu.

Sản phẩm có bộ nhớ HBM2e 128GB và 24 cổng Ethernet 200Gb để tăng khả năng mở rộng và hiệu suất, đồng thời hoàn toàn tương thích với các mẫu PyTorch và Hugging Face.

Hợp tác với IBM để giảm TCO

Intel và IBM đã hợp tác để triển khai bộ tăng tốc AI Gaudi 3 trên IBM Cloud. Sự hợp tác này nhằm mục đích giảm tổng chi phí sở hữu (TCO) cho doanh nghiệp và cải thiện khả năng mở rộng và hiệu suất của AI.

Hợp tác phát triển các giải pháp AI với Dell Technologies

Intel đang hợp tác với Dell Technologies để đồng thiết kế các giải pháp AI, tập trung vào việc đưa các nguyên mẫu AI tạo sinh vào sản xuất. Các hệ thống tạo ra tăng cường truy xuất (RAG) của Dell tận dụng các công nghệ của Intel, giải quyết các thách thức về khả năng mở rộng và bảo mật.

Truy cập sớm vào hệ thống AI thông qua Tiber Developer Cloud

Tiber Developer Cloud của Intel cung cấp quyền truy cập sớm vào các hệ thống Xeon 6 và Gaudi 3 cho các nhà phát triển để thử nghiệm khối lượng công việc AI. Các cụm Gaudi 3 sẽ có sẵn để triển khai quy mô lớn vào quý tới, cùng với nền tảng SeekrFlow của Intel, hỗ trợ các ứng dụng AI. Các công cụ AI được cập nhật, bao gồm phần mềm Intel Gaudi và PyTorch 2.4, cung cấp khả năng tăng tốc nâng cao.