NVIDIA Mellanox MQM8790-HS2F InfiniBand Switch ra mắt: Xây dựng nền tảng kết nối tốc độ cao 200Gb / s

NVIDIA Mellanox MQM8790-HS2F InfiniBand Switch Ra mắt: Xây dựng Nền tảng Kết nối Tốc độ Cao 200Gb/s cho Các Cụm HPC và AI

Khi điện toán hiệu năng cao (HPC) và đào tạo mô hình AI quy mô lớn tiếp tục đẩy giới hạn của điện toán phân tán, mạng lưới kết nối bên dưới đã trở thành một nút thắt cổ chai quan trọng. Các giải pháp dựa trên Ethernet truyền thống thường gặp khó khăn trong việc cung cấp độ trễ cực thấp, hiệu suất xác định và khả năng tính toán trong mạng cần thiết cho các khối lượng công việc tăng tốc GPU hiện đại. Các kiến trúc sư mạng và quản lý CNTT ngày càng chuyển sang InfiniBand như một lựa chọn kết nối cho các triển khai cụm quan trọng.

Đáp ứng nhu cầu ngày càng tăng này, NVIDIA Mellanox đã chính thức giới thiệu MQM8790-HS2F — một switch InfiniBand thế hệ tiếp theo được thiết kế chuyên dụng cho mạng HDR (High Data Rate) 200Gb/s. Switch 40 cổng QSFP56 này mang lại hiệu suất, mật độ và các tính năng nâng cao cần thiết để xây dựng các mạng trung tâm dữ liệu có khả năng mở rộng, hiệu quả cao cho các môi trường tính toán khắt khe nhất.

Bối cảnh: Tại sao Switch InfiniBand Mới Lại Quan Trọng

Các cụm đào tạo AI hiện đại thường bao gồm hàng nghìn nút GPU, mỗi nút yêu cầu giao tiếp liên tục, độ trễ thấp cho các hoạt động tập thể như all-reduce và all-gather. Trong các môi trường như vậy, ngay cả độ giật micro giây cũng có thể kéo dài đáng kể thời gian hoàn thành đào tạo. Hơn nữa, khi kích thước mô hình tăng lên phạm vi nghìn tỷ tham số, khối lượng dữ liệu trao đổi giữa các nút tính toán tăng theo cấp số nhân, đặt áp lực chưa từng có lên xương sống mạng.

NVIDIA Mellanox MQM8790-HS2F giải quyết những thách thức này bằng cách cung cấp kiến trúc chuyển mạch có radix cao, không chặn, đảm bảo tất cả 40 cổng có thể hoạt động ở băng thông 200Gb/s đầy đủ đồng thời. Điều này loại bỏ tình trạng quá tải thường thấy ở các switch cấp thấp hơn, đảm bảo mỗi nút được kết nối có quyền truy cập nhất quán vào toàn bộ thông lượng của mạng.

Các Tính năng Chính và Điểm Nổi bật Kỹ thuật

Dựa trên datasheet MQM8790-HS2F sơ bộ, switch này tận dụng kiến trúc InfiniBand thế hệ thứ bảy của NVIDIA và bao gồm một số khả năng khác biệt:

Ngoài hiệu suất thô, thiết kế MQM8790-HS2F 200Gb/s HDR 40-port QSFP56 nhấn mạnh hiệu quả năng lượng và sự đơn giản trong vận hành. Switch hỗ trợ cả cấu hình luồng khí trước và sau, cho phép triển khai linh hoạt trong các môi trường làm mát trung tâm dữ liệu đa dạng. Các bộ nguồn và mô-đun quạt có thể thay nóng giúp đơn giản hóa việc bảo trì và giảm thiểu gián đoạn dịch vụ trong quá trình thay thế linh kiện.

Đối với các kỹ sư mạng đang lên kế hoạch xây dựng cụm quy mô lớn, switch InfiniBand MQM8790-HS2F cung cấp khả năng tương thích liền mạch với các bộ điều hợp kênh máy chủ ConnectX-6 và ConnectX-7 HDR/HDR100 của NVIDIA. Giải pháp switch InfiniBand MQM8790-HS2F này đảm bảo khả năng dự đoán hiệu suất đầu cuối, loại bỏ các mối lo ngại về khả năng tương tác thường gặp trong các mạng đa nhà cung cấp.

Các Kịch bản Ứng dụng và Giá trị Triển khai

NVIDIA Mellanox MQM8790-HS2F vượt trội trong nhiều kịch bản triển khai:

• Các cụm đào tạo AI: Cung cấp mạng có độ trễ thấp, không mất mát cần thiết cho SGD đồng bộ và đào tạo song song dữ liệu trên hàng nghìn GPU.
• Siêu máy tính HPC: Cung cấp hiệu suất xác định cho các mô phỏng dựa trên MPI, đảm bảo thời gian hoàn thành công việc nhất quán ngay cả khi có sự cạnh tranh cao.
• Cơ sở hạ tầng AI doanh nghiệp: Cho phép các nhà quản lý CNTT hợp nhất nhiều khối lượng công việc trên một mạng hiệu năng cao duy nhất với chất lượng dịch vụ được đảm bảo.

Khi đánh giá giá MQM8790-HS2F và tổng chi phí sở hữu, hãy xem xét rằng kiến trúc không chặn của nó thường giảm số lượng switch cần thiết cho một kích thước cụm nhất định, giảm cả chi phí vốn và độ phức tạp của cáp. Ngoài ra, hỗ trợ của switch cho 200Gb/s HDR cho phép lộ trình nâng cấp liền mạch từ các triển khai EDR 100Gb/s hiện có, bảo vệ các khoản đầu tư cơ sở hạ tầng trước đó.

Đối với các tổ chức sẵn sàng triển khai, MQM8790-HS2F để bán thông qua các đối tác kênh toàn cầu của NVIDIA bao gồm các tùy chọn bảo hành và hỗ trợ toàn diện. Người mua tiềm năng cũng có thể yêu cầu thông số kỹ thuật MQM8790-HS2F chi tiết và ma trận tương thích để xác minh khả năng tương tác với kho phần cứng hiện có của họ.

Tóm tắt: Công cụ Chiến lược cho Trung tâm Dữ liệu Thế hệ Tiếp theo

MQM8790-HS2F đại diện cho một bước tiến đáng kể trong công nghệ chuyển mạch InfiniBand, kết hợp mật độ cổng cao, độ trễ cực thấp và tăng tốc tính toán trong mạng trong một khung gầm 1U duy nhất. Đối với các kiến trúc sư mạng, kỹ sư và quản lý CNTT xây dựng thế hệ tiếp theo của cơ sở hạ tầng HPC và AI, switch này cung cấp một nền tảng đáng tin cậy, có khả năng mở rộng và hiệu quả về chi phí cho các khối lượng công việc khắt khe nhất. Khi điện toán chuyên sâu dữ liệu tiếp tục tăng trưởng không ngừng, NVIDIA Mellanox MQM8790-HS2F sẵn sàng cung cấp hiệu suất và sự đơn giản trong vận hành mà các trung tâm dữ liệu hiện đại yêu cầu.