Gigabyte W775-V10-L01: DGX Station GB300 đặt cạnh bàn, nhưng không phải PC thông thường
ServeTheHome thử nghiệm Gigabyte W775-V10-L01, một workstation tower dựa trên NVIDIA DGX Station GB300. Cách gọi “máy AI để bàn” dễ làm người đọc hình dung sai: đây là hệ thống 29 kg, làm mát chất lỏng, công suất tối đa 1,6 kW và có phần cứng mạng 2 x 400Gbps. Nó đưa tổ hợp Grace CPU, Blackwell Ultra GPU và HBM3E vốn gần với máy chủ xuống dạng tower; không biến khối lượng vận hành, điện, nhiệt và mạng của nó thành bài toán đơn giản.
Cấu hình đáng chú ý
Nguồn mô tả Grace Neoverse V2 72 nhân, 496 GB LPDDR5X phía CPU và Blackwell Ultra với 252 GB HBM3E, băng thông GPU 7,1 TB/s. Máy có bốn khe M.2 gồm hai PCIe Gen6 x4 và hai Gen5 x4, có thể thêm RTX PRO Blackwell cho đồ họa. Hệ điều hành là Ubuntu kèm công cụ phát triển NVIDIA AI. Trong bài test, Qwen3.6-35B-A3B Flash NVFP4 đạt hơn 26.000 token/giây, tương đương hơn 2,25 tỷ token/ngày theo cách quy đổi của tác giả. Đây là số liệu của một workload và cấu hình thử nghiệm, không phải cam kết cho mọi model hay pipeline.
Năm điểm cụ thể cần biết
- Điện là yêu cầu triển khai đầu tiên. PSU 1.600 W 80 PLUS Platinum dùng dây C19; tác giả khuyến nghị mạch 20A riêng thay vì coi như PC cắm chung ổ văn phòng.
- Làm mát dùng gần như mọi mặt vỏ. Mặt trước thiên về trang trí; mặt hông, radiator và các vị trí khác đảm nhiệm hút/xả. Không được chặn luồng gió khi đặt máy sát tường.
- Hai cổng QSFP112 là 400Gbps mỗi cổng. ConnectX-8 SuperNIC hướng tới storage tốc độ cao hoặc nối các DGX Station, không phải chỉ để khoe thông số mạng.
- Có 10GbE và quản trị BMC riêng. BMC dùng 1GbE, OpenBMC và HTML5 iKVM; cổng 10GbE dùng Marvell AQC113C nhưng theo topology của nguồn nó nối qua ConnectX-8.
- Đồ họa xuất hình không phải trọng tâm. BMC có Mini DisplayPort để quản trị; muốn workstation đồ họa đầy đủ cần tùy chọn RTX PRO Blackwell.
Vì sao điều này quan trọng?
W775 phù hợp hơn với nhóm cần chạy inference, phát triển AI hoặc xử lý dữ liệu lớn tại chỗ với bộ nhớ GPU lớn và liên kết mạng rất nhanh. Nó không tự động phù hợp với mọi văn phòng. Kích thước 245 x 500 x 531 mm, nặng khoảng 29 kg; Gigabyte khuyến nghị hai người khi di chuyển và không nhấc bằng mặt nhựa phía trước. Nhiệt, tiếng ồn, điểm đặt dock/UPS, đường điện, switch và cáp QSFP đều là chi phí triển khai thật. Cáp DAC hay optics 400G cũng cần tính tương thích và tỏa nhiệt; nguồn thử nghiệm lưu ý không gian thông gió quanh lồng quang không nhiều.
Checklist trước khi mua hoặc POC
- Xác nhận mạch điện chuyên dụng 20A, đầu nối phù hợp, UPS và năng lực làm mát phòng.
- Đo vị trí đặt máy, khoảng trống hút/xả, tải sàn và phương án hai người di chuyển.
- Xác định workload, model, precision, batch size và dữ liệu; không suy ra hiệu năng của mình từ một benchmark token/giây.
- Kiểm tra switch, NIC, DAC/optics, storage và topology trước khi ngân sách cho 400GbE.
- Tách mạng BMC, đổi thông tin quản trị mặc định, cập nhật firmware và giới hạn iKVM theo chính sách.
- Tính tổng chi phí gồm điện, làm mát, bảo hành, cáp/quang, storage và nhân lực vận hành.
Kết luận
Gigabyte W775-V10-L01 cho thấy “desk-side AI” giờ có thể mang cấu hình GB300 rất mạnh ra khỏi rack. Đổi lại, nó vẫn là hạ tầng mật độ cao: cần điện, nhiệt, mạng và quản trị tương xứng. Quyết định tốt là bắt đầu từ workload và điều kiện đặt máy, rồi mới đánh giá sức hấp dẫn của thông số phần cứng.