Gigabyte âm thầm ra mắt bo mạch chủ AI với khả năng chống sốc điện và hỗ trợ tới 4 GPU hai khe – Liệu AI có tạo nên cơn sốt như đào Bitcoin?
Gigabyte mới đây đã công bố một sản phẩm khá ấn tượng: TRX50 AI TOP (trillions of operations per second) – một bo mạch chủ hoàn toàn mới được thiết kế riêng để huấn luyện và tinh chỉnh AI ngay tại chỗ (on-device).
Theo Gigabyte, TRX50 được thiết kế để tận dụng tối đa hiệu năng của CPU, GPU, bộ nhớ và SSD. Với phần cứng phù hợp, bo mạch này có thể hỗ trợ huấn luyện các mô hình ngôn ngữ lớn (LLM) lên tới 236 tỷ tham số – tất cả đều diễn ra trên thiết bị, mang lại lợi ích rõ rệt về bảo mật và quyền riêng tư.
TRX50 tương thích với các CPU AMD Threadripper và Threadripper Pro – những dòng vi xử lý cao cấp hàng đầu thị trường. Đây là bo mạch chủ chuẩn E-ATX với:
-
4 khe PCIe x16,
-
4 khe NVMe M.2,
-
8 khe RAM DIMM,
-
2 cổng Ethernet 10 Gbps,
-
Wi-Fi 7 thông qua mô-đun Qualcomm QCNCM865,
-
và còn có cả chống sốc điện để đảm bảo hệ thống luôn ổn định trong quá trình hoạt động nặng.
Tiệm cận đẳng cấp OpenAI
Việc huấn luyện các mô hình LLM là quá trình phức tạp và tiêu tốn tài nguyên khổng lồ, lý do vì sao OpenAI và nhiều startup AI đang huy động hàng trăm triệu USD để phát triển. Nhằm hỗ trợ người dùng, Gigabyte cung cấp giao diện trực quan, kèm theo quy trình làm việc mới và khả năng theo dõi tiến trình huấn luyện theo thời gian thực.
TRX50 hỗ trợ nhiều mô hình mã nguồn mở phổ biến hiện nay, đặc biệt là những mô hình thân thiện với người mới. Ngoài ra, tính năng AI TOP Tutor còn có thể hướng dẫn cách cài đặt, tinh chỉnh và trải nghiệm mô hình một cách dễ dàng ngay từ ban đầu.
Gigabyte cũng tích hợp nhiều tính năng tiện ích cho người dùng DIY như:
-
EZ-Debug Zone – hỗ trợ đèn báo lỗi và nút điều khiển,
-
WiFi EZ-Plug – thiết kế mới giúp đơn giản hóa kết nối ăng-ten Wi-Fi,
-
và nhiều tiện ích khác.
Dân chủ hóa huấn luyện AI
Tương tự như làn sóng đào Bitcoin những năm trước, cơn sốt AI hiện tại cũng mang theo làn gió hào hứng không kém. Dù AI không tập trung vào giá trị sinh lời như tiền mã hóa, nhưng nhu cầu phần cứng mạnh mẽ thì gần như tương đồng.
Gigabyte đang đặt cược vào xu hướng này, với hy vọng mang khả năng huấn luyện AI xuống tầm tay người dùng phổ thông – ngay tại nhà.