Computex 2024: Gigabyte đã công bố giải pháp AI Top PC Tự đào tạo AI bằng máy tính cá nhân

Tại sự kiện Computex 2024 tại Đài Bắc (Đài Loan), hãng công nghệ Gigabyte đã công bố bộ giải pháp training trí tuệ nhân tạo local. Công ty gọi đây là sản phẩm AI TOP.

Dải thiết bị sẽ được phát triển song song với linh kiện Aorus (cho gaming) và Aero (người làm sáng tạo). Hệ thống này bao gồm cả phần cứng và phần mềm, cho phép người dùng có thể tự đào tạo AI để phục vụ mục đích sử dụng cá nhân hoặc đáp ứng nhu cầu của doanh nghiệp vừa và nhỏ.

Máy chuyên dụng, phục vụ cho việc huấn luyện AI của người dùng cá nhân được đánh giá là tương lai mới của ngành PC. 

Trung tâm của hệ sinh thái này nằm ở các bo mạch chủ thế hệ mới, được trang bị nhiều khe cắm PCIe 5.0. Nhờ vậy, người dùng có thể gắn thêm nhiều card đồ họa chuyên dụng cho mục đích đào tạo AI hiệu suất cao. Người dùng có thể gắn thêm rất nhiều card đồ họa chuyên dụng cho mục đích training AI hiệu suất cao. Đi kèm với đó là phiên bản card đồ họa NVIDIA 4070 Ti Super phiên bản AI TOP. Đây vốn là dòng GPU chuyên game, nhưng được cộng đồng phát triển AI đơn lẻ đánh giá cao để training model.So với các mẫu card đồ họa thông thường, dòng card đồ họa này có kích thước nhỏ gọn hơn, nhưng vẫn được thiết kế để đảm bảo hiệu quả tản nhiệt khi sử dụng trong thời gian dài.

Phần mềm được sử dụng để đào tạo AI có tên gọi Gigabyte AI Top Utility. Phần mềm này được thiết kế với giao diện tối giản, dễ sử dụng với người dùng có ít kinh nghiệm về lập trình AI. Phần mềm cho phép người dùng theo dõi tiến trình đào tạo AI và trạng thái phần cứng hệ thống thông qua các biểu đồ.

Mô hình ngôn ngữ sau khi được phát triển có thể được trích xuất sang thiết bị khác để sử dụng. Hiện tại, AI Top Utility chỉ hỗ trợ hệ điều hành Linux, cho việc phát triển mô hình ngôn ngữ lớn. Trong tương lai, các ứng dụng liên quan đến hình ảnh, video, âm thanh cũng sẽ được hỗ trợ. Tại phòng trưng bày, Gigabyte thử nghiệm với đầu vào là LLM mã nguồn mở Llama 3 8B của Meta. Nguồn cấp dữ liệu là của doanh nghiệp. Trong app, người dùng có thể chọn sử dụng VRAM, DRAM hoặc cả SSD để hỗ trợ việc phát triển LLM.

Dòng mới cũng có kiểu thiết kế đơn giản, thay vì các loại quạt lớn và thiết kế hầm hố. Kích thước cơ bản của sản phẩm bằng một nửa card gaming cùng model. Trên bo mạch, vị trí vốn gắn được một GPU sẽ tích hợp được hai linh kiện AI TOP.

Thiết kế giải quyết vấn đề cồng kềnh của các bộ máy phát triển trí tuệ nhân tạo từ linh kiện không chuyên dụng. Nhà sản xuất cho hiệu năng của bộ thiết bị này vẫn được đảm bảo dù không chiếm nhiều diện tích, nhờ giải pháp đối lưu dòng khí trong cây máy tính.

Ngoài các bộ phận hiện có, những thành phần khác của máy tính như nguồn, SSD cũng sẽ có phiên bản dành riêng cho tác vụ AI.

So với việc sử dụng AI trên đám mây, giải pháp tự đào tạo AI trên thiết bị sẽ có ưu điểm về tính bảo mật cao hơn, đáp ứng đúng nhu cầu của từng cá nhân hoặc doanh nghiệp và cũng sẽ có mức chi phí sử dụng tiết kiệm hơn.

Xu hướng tự phát triển AI

Ông Eddie Lin, CEO Tập đoàn Gigabyte cho rằng xu hướng chung của ngành AI trong tương lai gần là chuyển từ dịch vụ đám mây có sẵn sang máy tính cá nhân người dùng. Theo các chuyên gia, việc sử dụng công cụ có sẵn vẫn tồn tại nhiều điểm trừ.

Trong số đó, vấn đề chi phí cùng khả năng bảo mật là được dự báo là động lực chính giúp sản phẩm “local AI” phát triển. Người dùng, doanh nghiệp cần trả phí dựa trên số token sử dụng qua API của các công cụ từ Google, Microsoft hoặc OpenAI. Đồng thời, dữ liệu khi trao đổi qua hệ thống cũng tiềm ẩn nguy cơ bảo mật khi nằm trên máy chủ bên thứ 3.

Do vậy, những giải pháp làm việc “tại chỗ” sẽ dần được ưa chuộng trong thời gian tới, với các mô hình hẹp hơn, phục vụ nhu cầu hẹp hơn của doanh nghiệp nhỏ và người dùng cá nhân.

Tuy nhiên, việc tự lắp ráp một bộ máy chuyên dụng cho mục đích AI vẫn tương đối khó khăn tại Việt Nam. Đa số người dùng tìm kiếm các lựa chọn linh kiện gaming để thay thế, tìm cách tối ưu cho tác vụ này. Việc này khiến sản phẩm không được dùng đúng mục đích ban đầu, có rủi ro về độ bền, hiệu suất.

Do vậy, những giải pháp được đóng gói trọn bộ, gồm cả phần cứng, công cụ ứng dụng được xem là tương lai của AI Local.