Mellanox (NVIDIA Mellanox) MQM8790-HS2F InfiniBand Switch

Mellanox (NVIDIA Mellanox) MQM8790-HS2F InfiniBand Switch | Giới thiệu Sản phẩm và Tổng quan Tính năng Chính

Khi nhu cầu băng thông kết nối giữa các nút trong HPC, đào tạo AI và lưu trữ hiệu năng cao ngày càng tăng, các kiến trúc Ethernet truyền thống đang gặp giới hạn nghiêm trọng về độ trễ và kiểm soát tắc nghẽn. Mellanox (NVIDIA Mellanox) MQM8790-HS2F, một switch InfiniBand được xây dựng cho kỷ nguyên HDR 200Gb/s, ra đời để giải quyết sự thay đổi thế hệ này. Đối với các kỹ sư mạng và kiến trúc sư lập kế hoạch cho các cụm GPU quy mô lớn, MQM8790-HS2F cung cấp một lộ trình di chuyển liền mạch từ EDR 100Gb/s lên HDR 200Gb/s.

Bối cảnh: Tại sao MQM8790-HS2F Quan trọng

Trong đào tạo mô hình lớn AI và tính toán khoa học, AllReduce, đồng bộ hóa tham số và truy cập lưu trữ cực kỳ nhạy cảm với độ trễ mạng. Khi các cụm mở rộng lên hàng trăm hoặc hàng nghìn nút, tắc nghẽn và độ trễ đuôi trực tiếp làm giảm hiệu quả sử dụng tính toán. Với switch InfiniBand HDR 40 cổng với tốc độ 200Gb/s mỗi cổng, NVIDIA Mellanox MQM8790-HS2F giảm đáng kể chi phí giao tiếp. Nó giải quyết ba vấn đề điển hình trong môi trường mật độ cao — băng thông không đủ, độ biến động độ trễ và khả năng mở rộng hạn chế — làm cho nó phù hợp với các nhóm có yêu cầu rõ ràng về switch InfiniBand MQM8790-HS2F.

Điểm nổi bật Kỹ thuật: Thông số kỹ thuật và Tính năng Chính của MQM8790-HS2F

MQM8790-HS2F 200Gb/s HDR 40 cổng QSFP56 có vị trí rõ ràng: 40 cổng QSFP56 trong khung gầm 1U với hỗ trợ thích ứng cho tốc độ HDR, EDR và FDR. Các tính năng cốt lõi của nó bao gồm:

• 40 cổng HDR 200Gb/s mang lại thông lượng tổng hợp lên tới 16Tb/s, lý tưởng cho các lớp spine hoặc aggregation trong các cấu trúc fat-tree hoặc DragonFly+.
• Tính toán trong mạng SHARP (Scalable Hierarchical Aggregation and Reduction Protocol), giảm tải các hoạt động tập thể cho switch và giảm sự tham gia của CPU/GPU.
• Tương thích hoàn toàn với hệ sinh thái phần mềm NVIDIA Mellanox MQM8790-HS2F, bao gồm MLNX-OS, quản lý UFM và đo lường NetQ.
• Đối với các triển khai tương thích MQM8790-HS2F, nó hoạt động với các bộ điều hợp ConnectX-6 và ConnectX-7 để tạo thành giải pháp end-to-end 200Gb/s.

Các kỹ sư xem xét bảng dữ liệu MQM8790-HS2F nên tập trung vào khả năng cấp nguồn, làm mát và chia cổng (chẳng hạn như breakout 2x100Gb/s) để lên kế hoạch trước cho nguồn điện và cáp của rack. Đối với thông tin giá MQM8790-HS2F hoặc MQM8790-HS2F để bán, giá cả thường phụ thuộc vào kênh và quy mô dự án và không được đề cập ở đây.

Các kịch bản triển khai và Hướng dẫn lựa chọn

Trong thực tế, NVIDIA Mellanox MQM8790-HS2F thường được triển khai ở lớp aggregation hoặc core của các fabric fat-tree hai hoặc ba lớp. Đối với các cụm nhỏ đến trung bình, nó có thể đóng vai trò là switch core kết nối trực tiếp các nút tính toán; đối với các cụm rất lớn, các fabric đa lớp có thể kết nối hàng chục nghìn nút. 

Kết luận

Với 200Gb/s HDR, 40 cổng QSFP56 và tính năng tính toán trong mạng SHARP là những điểm mạnh cốt lõi, MQM8790-HS2F cung cấp một tùy chọn kết nối InfiniBand băng thông cao, độ trễ thấp cho các cụm AI và HPC. Đối với các kiến trúc sư mạng và các nhà quản lý CNTT đang lên kế hoạch cho các fabric tính toán thế hệ tiếp theo, Mellanox (NVIDIA Mellanox) MQM8790-HS2F xứng đáng có một vị trí trong danh sách rút gọn, với các thông số kỹ thuật MQM8790-HS2F được xác thực dựa trên các yêu cầu về cấu trúc liên kết thực tế.