Cụm hạ tầng inference quy mô lớn đầu tiên của Together AI trên IBM Cloud sử dụng hệ thống NVIDIA HGX B300, nhằm hỗ trợ doanh nghiệp triển khai workload AI với tốc độ cao và hiệu quả cho môi trường production.
ARMONK, New York và SAN FRANCISCO, ngày 11/8/2026 — IBM công bố hợp tác với Together AI nhằm cung cấp hạ tầng AI của IBM và NVIDIA. Theo thỏa thuận trị giá 240 triệu USD trong nhiều năm giữa IBM và Together AI, IBM dự kiến triển khai một cụm lớn các hệ thống NVIDIA HGX B300 trên IBM Cloud, dự kiến sẵn sàng vào quý I/2027.
Together AI sẽ sử dụng cụm hạ tầng này để cung cấp dịch vụ inference cho các mô hình AI mã nguồn mở. Đây là cụm hạ tầng chuyên dụng quy mô lớn đầu tiên được xây dựng cho inference trên IBM Cloud, sử dụng hệ thống HGX B300 kết hợp với mạng Ethernet NVIDIA Spectrum-X. Theo NVIDIA, hệ thống được thiết kế để mang lại sản lượng AI factory cao hơn 30 lần so với các thế hệ trước.
Sự hợp tác nhằm giúp Together AI mang lại hiệu năng tốt hơn và tối ưu chi phí trên mỗi token cho doanh nghiệp khi mở rộng triển khai AI một cách hiệu quả.
Together AI theo đuổi quan điểm rằng các mô hình mã nguồn mở đóng vai trò thiết yếu trong tương lai của AI và các nhà phát triển cần có khả năng xây dựng trên những stack mở, có tính module.
Gần đây, Together AI đã huy động 800 triệu USD trong vòng Series C, với mức định giá 8,3 tỷ USD, nhằm mở rộng nền tảng AI Native Cloud. Nền tảng của công ty cung cấp các năng lực từ inference, training, fine-tuning đến agentic workflows. Công ty cho biết sản phẩm inference đang có tốc độ tăng trưởng đáng kể và hiện xử lý 400 nghìn tỷ token mỗi tháng.
Together AI lựa chọn IBM và NVIDIA nhờ lộ trình sản phẩm cũng như khả năng cung cấp năng lực GPU với tốc độ cần thiết để đáp ứng quá trình mở rộng AI nhanh chóng và hướng tới chi phí trên mỗi token thấp nhất.
Dựa trên kinh nghiệm của IBM trong việc cung cấp các năng lực cloud cấp doanh nghiệp, sự hợp tác này nhằm giúp Together AI tiếp tục mở rộng sang thị trường enterprise, đồng thời đưa AI mã nguồn mở đến gần hơn với các nhà phát triển và doanh nghiệp trên toàn cầu.
CEO Together AI Vipul Ved Prakash cho biết các doanh nghiệp muốn có hiệu năng của những frontier model hàng đầu nhưng không muốn chịu mức chi phí của các mô hình đóng. Theo ông, điều này chỉ khả thi khi hạ tầng bên dưới đủ nhanh và đáng tin cậy ở quy mô lớn. Cụm hạ tầng mới sẽ giúp Together AI đưa inference cấp production đến nhiều doanh nghiệp hơn trong thời gian ngắn hơn.
IBM và NVIDIA mở rộng hợp tác để thúc đẩy làn sóng đổi mới AI tiếp theo
IBM cho biết doanh nghiệp đang trong cuộc đua triển khai agentic AI ở quy mô lớn nhằm tạo ra các kết quả kinh doanh thực tế. IBM và NVIDIA đang cung cấp hạ tầng AI có khả năng mở rộng, tối ưu chi phí và đáp ứng yêu cầu enterprise, qua đó hỗ trợ Together AI đẩy nhanh đổi mới trong thế hệ hạ tầng AI tiếp theo.
Theo NVIDIA, AI factory đang trở thành một phần hạ tầng thiết yếu của doanh nghiệp, tương tự điện và viễn thông, biến compute và dữ liệu thành intelligence.
Với hệ thống NVIDIA HGX B300 và mạng NVIDIA Spectrum-X trên IBM Cloud, IBM và Together AI hướng tới cung cấp một nền tảng accelerated computing giúp doanh nghiệp triển khai AI mã nguồn mở với hiệu năng, hiệu quả và khả năng mở rộng cần thiết cho các dịch vụ AI thời gian thực.
Đây là bước tiến mới nhất trong mối quan hệ hợp tác rộng hơn giữa IBM và NVIDIA nhằm thúc đẩy AI trên cả hạ tầng và phần mềm, mang lại hiệu năng và hiệu quả cho khách hàng doanh nghiệp cũng như startup.
Môi trường hybrid trên IBM Cloud, được vận hành bằng GPU NVIDIA kết nối qua NVIDIA Spectrum-X Ethernet và nền tảng inference của Together AI, tạo nền tảng để các tổ chức xây dựng, triển khai và mở rộng hệ thống AI.
IBM và NVIDIA gần đây cũng công bố những tiến triển trong các lĩnh vực như phân tích dữ liệu GPU-native, trích xuất dữ liệu phi cấu trúc, hạ tầng on-premises và cloud, cũng như dịch vụ tư vấn.
-be871bdc58d10.jpg)
