NVIDIA Mellanox MQM8790-HS2F InfiniBand Chuyển sang sản xuất | Tối ưu hóa kết nối có độ trễ thấp cho RDMA/HPC/AI

May 27, 2026

tin tức mới nhất của công ty về NVIDIA Mellanox MQM8790-HS2F InfiniBand Chuyển sang sản xuất | Tối ưu hóa kết nối có độ trễ thấp cho RDMA/HPC/AI

Khi đào tạo mô hình ngôn ngữ lớn và mô phỏng HPC exascale điều khiển các cụm GPU tới hàng chục nghìn nút, các kết cấu Ethernet truyền thống phải vật lộn với độ trễ cuối và tắc nghẽn nội bộ. Một trung tâm điện toán AI quốc gia gần đây đã giải quyết thách thức này bằng cách triển khaiNVIDIA Mellanox MQM8790-HS2FBộ chuyển mạch InfiniBand đóng vai trò là xương sống cho quá trình mở rộng GPU 800 nút của họ. Bài viết này trình bày về hành trình trong thế giới thực của họ — từ tắc nghẽn đến lợi ích có thể đo lường được — sử dụng RDMA và điện toán trong mạng để tối ưu hóa hiệu suất kết nối cụm.

Bối cảnh & Thách thức: Khi Mạng trở thành nút thắt cổ chai AI

Cụm 400 nút kế thừa của trung tâm chạy trên Ethernet RoCEv2 100Gb/s. Khi khối lượng công việc chuyển từ mô hình CNN sang LLM nghìn tỷ tham số, độ trễ giao tiếp giữa các nút tăng vọt. Trong quá trình vận hành All‑Reduce, thời gian chờ của mạng tiêu tốn hơn 40% tổng thời gian lặp lại. Các kiến ​​trúc sư cần một nền tảng cung cấp độ trễ dưới micro giây, kiểm soát luồng không tổn hao và hỗ trợ RDMA gốc — tất cả trong khi sử dụng lại quang học QSFP56 hiện có. Sau khi đánh giá nhiều lựa chọn thay thế,Công tắc InfiniBand MQM8790-HS2Fnổi bật với băng thông HDR 200Gb/s và thiết kế mật độ cao 40 cổng.

Giải pháp & Triển khai: HDR Fat‑Tree được xây dựng trên MQM8790-HS2F

Kết nối mới áp dụng cấu trúc liên kết cây mỡ hai lớp, triển khai 24 đơn vịNVIDIA Mellanox MQM8790-HS2Fqua các lớp lõi và lá. Mỗi bộ chuyển mạch cung cấp 40 cổng QSFP56 chạy ở tốc độ 200Gb/s mỗi hướng, mang lại công suất chuyển mạch không chặn là 16Tb/s. Các kỹ sư đã làm theoBảng dữ liệu MQM8790-HS2FVàThông số kỹ thuật MQM8790-HS2Fđể cho phép định tuyến thích ứng và kiểm soát tắc nghẽn nâng cao. Mọi nút GPU đều kết nối thông qua bộ điều hợp HDR ConnectX‑6, tận dụng InfiniBand RDMA gốc để truyền dữ liệu không sao chép — giảm tải hơn 95% sự tham gia của CPU vào giao tiếp.

Trung tâm cũng đã đăng ký một sốMQM8790-HS2F 200Gb/s HDR 40 cổng QSFP56đơn vị cho vùng tính toán tại chỗ. Với SHARP (Giao thức tổng hợp và giảm thiểu phân cấp có thể mở rộng), các hoạt động tập thể như All‑Reduce được giảm tải trực tiếp từ máy chủ sang mạng chuyển mạch. Trong đào tạo 128‑GPU, điều này giúp giảm 32% thời gian giao tiếp mà không cần bất kỳ thay đổi mã nào đối với khung AI.

Kết quả & Lợi ích: Độ trễ thấp hơn, Thông lượng cao hơn, TCO được kiểm soát

Các số liệu sau triển khai cho thấy sự cải thiện đáng kể:

  • Độ trễ điểm-điểm:Kiểm tra pingpong MPI đo được ~0,9μs trên liên kết HDR 200Gb/s — thấp hơn 65% so với thiết lập RoCE cũ.
  • Hiệu quả truyền thông tập thể:Ở quy mô 512‑GPU, All‑Reduce hoàn thành chỉ trong 18,3 mili giây, giảm 52% so với mức cơ bản trước đó.
  • Sử dụng mạng:Định tuyến thích ứng giữ cân bằng tải liên kết trên 92%, hầu như không có điểm nóng tắc nghẽn.
  • Mua sắm và vận hành:cácGiá MQM8790-HS2Fmỗi cổng thấp hơn khoảng 12% so với các giải pháp 200G cạnh tranh. Hơn thế nữa,Tương thích MQM8790-HS2Fquang học là các mô-đun QSFP56 tiêu chuẩn, cho phép tái sử dụng toàn bộ hệ thống cáp hiện có.

“Sau khi chuyển đếnGiải pháp chuyển mạch InfiniBand MQM8790-HS2F, cuối cùng chúng tôi đã đạt được quy mô gần như tuyến tính (hiệu suất 0,9) khi đào tạo mô hình nghìn tỷ tham số", kiến ​​trúc sư trưởng của trung tâm cho biết. "Mạng không còn là nút cổ chai nữa — chúng tôi có thể tập trung vào đổi mới kiến ​​trúc mô hình thay vì lập lịch truyền thông."

Kết luận & Triển vọng: Khối xây dựng cốt lõi cho các kết nối Exascale

Trường hợp thực tế này chứng minh rằngMQM8790-HS2Fnhiều hơn mật độ cổng cao hơn. Với HDR 200Gb/s, RDMA gốc, điện toán trong mạng SHARP và định tuyến thích ứng, giải pháp này trực tiếp giải quyết các điểm yếu liên kết có độ trễ thấp trong các cụm AI/HPC ngày nay. Cho dù bạn đang lên kế hoạch xây dựng một trung tâm siêu máy tính của trường đại học hay nâng cấp đám mây AI dành cho doanh nghiệp, thìNVIDIA Mellanox MQM8790-HS2Fcung cấp một lộ trình cân bằng kết hợp giữa hiệu suất, khả năng tương thích và khả năng dự đoán chi phí. Công tắc hiện đang được sản xuất số lượng lớn. Để tham khảo thiết kế chi tiết, hãy yêu cầu chính thứcBảng dữ liệu MQM8790-HS2Ftừ cổng đối tác của NVIDIA. Đối với hàng tồn kho theo thời gian thực hoặcCần bán MQM8790-HS2Fnếu có thắc mắc, hãy liên hệ với nhà cung cấp giải pháp được ủy quyền để biết giá cả và hỗ trợ kỹ thuật.