NVIDIA Mellanox MCX623106AN-CDAT Server Adapter ♪ Sản phẩm ra mắt và các tính năng chính

Ra mắt sản phẩm & Tính năng chính của Bộ điều hợp máy chủ NVIDIA Mellanox MCX623106AN-CDAT

Bối cảnh: Thách thức mạng mới trong kỷ nguyên Hyperscale và AI

Với sự bùng nổ của AI tạo sinh, đào tạo mô hình ngôn ngữ lớn và các cơ sở dữ liệu phân tán quy mô lớn, các mẫu lưu lượng mạng trong trung tâm dữ liệu đang trải qua một sự biến đổi cơ bản. Các mạng 25GbE và 40GbE truyền thống không còn đáp ứng được các yêu cầu khắt khe về giao tiếp Tất cả-với-Tất cả giữa các cụm GPU, các fabric lưu trữ NVMe-oF và các ứng dụng dựa trên microservices. Các kiến trúc sư mạng đang đối mặt với một cơn bão hoàn hảo: nhu cầu băng thông tăng gấp đôi sau mỗi 18 tháng, trong khi yêu cầu về độ trễ ngày càng chặt chẽ xuống dưới 5μs cho các giao dịch quan trọng. Bộ điều hợp NVIDIA Mellanox MCX623106AN-CDAT ra đời như một giải pháp được thiết kế đặc biệt để giải quyết các áp lực hội tụ này, mang lại kết nối 200GbE và các khả năng offload nâng cao cho các môi trường doanh nghiệp và đám mây đòi hỏi khắt khe nhất.

MCX623106AN-CDAT Giải quyết những vấn đề gì?

Bộ điều hợp NVIDIA Mellanox MCX623106AN-CDAT giải quyết ba điểm yếu quan trọng đã trở nên phổ biến trong các trung tâm dữ liệu hiện đại. Thứ nhất, nó loại bỏ gánh nặng CPU liên quan đến mạng tốc độ cao — ở tốc độ 200GbE, xử lý gói tin dựa trên phần mềm có thể tiêu tốn tới 40% nhân CPU. MCX623106AN-CDAT offload các giao thức truyền tải, bảo mật và lưu trữ trực tiếp vào phần cứng, giải phóng các chu kỳ đó cho các khối lượng công việc đòi hỏi tính toán cao. Thứ hai, nó giải quyết các thách thức về tắc nghẽn và điều chỉnh tốc độ trong môi trường mật độ cao thông qua khả năng đo lường nâng cao và kiểm soát tắc nghẽn động, đảm bảo hiệu suất có thể dự đoán được ngay cả trong điều kiện lưu lượng đột biến. Thứ ba, bộ điều hợp giúp đầu tư vào cơ sở hạ tầng có khả năng chống lỗi trong tương lai bằng cách không chỉ hỗ trợ các fabric 200GbE hiện tại mà còn cung cấp một con đường liền mạch tới 400GbE và xa hơn nữa thông qua kiến trúc silicon tiên tiến của nó.

Đối với các nhà quản lý CNTT giám sát các cụm AI/ML, card bộ điều hợp Ethernet MCX623106AN-CDAT giảm đáng kể thời gian hoàn thành công việc bằng cách tăng tốc các mẫu giao tiếp tập thể (all-reduce, all-gather) chiếm ưu thế trong đào tạo phân tán. Bộ điều hợp hoàn toàn tương thích với MCX623106AN-CDAT với các nền tảng GPU NVIDIA (HGX, DGX) và các máy chủ CPU hàng đầu từ Dell, HPE và Supermicro.

Các tính năng kỹ thuật chính

Trái tim của card mạng PCIe bộ điều hợp MCX623106AN-CDAT là ASIC ConnectX-7, silicon mạng tiên tiến nhất của NVIDIA cho đến nay. Card có giao diện máy chủ PCIe 5.0 x16, cung cấp băng thông hai chiều lên tới 200Gb/s với độ trễ dưới 1μs. Dưới đây là tóm tắt các thông số kỹ thuật chính được trích xuất từ datasheet MCX623106AN-CDAT chính thức:

Việc triển khai RoCE được tăng tốc phần cứng của bộ điều hợp đảm bảo truyền tải Ethernet không mất mát với hỗ trợ PFC (Kiểm soát luồng ưu tiên) và ECN (Thông báo tắc nghẽn rõ ràng), trong khi các tính năng nâng cao như GPUDirect cho phép truy cập bộ nhớ trực tiếp giữa GPU và mạng mà không cần sự can thiệp của CPU — một khả năng quan trọng cho các cụm đào tạo AI. thông số kỹ thuật MCX623106AN-CDAT cũng bao gồm khả năng đo lường mạng toàn diện trong băng (INT), cho phép hiển thị chi tiết về độ trễ trên mỗi luồng và các điểm tắc nghẽn trên toàn bộ fabric.

Các kịch bản triển khai và tích hợp hệ sinh thái

Bộ điều hợp NVIDIA Mellanox MCX623106AN-CDAT được thiết kế cho các môi trường đòi hỏi khắt khe nhất, bao gồm các nhà cung cấp đám mây hyperscale, sàn giao dịch tài chính và các tổ chức nghiên cứu đang đẩy ranh giới của AI và HPC. Trong các cụm AI/ML, bộ điều hợp tăng tốc đào tạo phân tán lên tới 3 lần so với các bộ điều hợp thế hệ trước, nhờ vào các offload giao tiếp tập thể được tối ưu hóa. Đối với môi trường lưu trữ, card cho phép NVMe-oF với độ trễ dưới 10μs, biến lưu trữ chia sẻ thành một tài sản quan trọng về hiệu suất cho các khối lượng công việc cơ sở dữ liệu và phân tích.

Khi đánh giá giá MCX623106AN-CDAT so với các giải pháp thay thế, các tổ chức nên xem xét tổng chi phí sở hữu: các offload tiên tiến của bộ điều hợp giảm thiểu sự phân tán máy chủ bằng cách cho phép mật độ VM và container cao hơn, trong khi thiết kế tiết kiệm năng lượng của nó (thường dưới 20W) giảm thiểu chi phí làm mát. MCX623106AN-CDAT để bán thông qua các đối tác kênh toàn cầu của NVIDIA bao gồm bảo hành toàn diện và hỗ trợ cập nhật firmware, đảm bảo độ tin cậy lâu dài trong các môi trường quan trọng.

Đối với các kiến trúc sư đang lên kế hoạch cho fabric trung tâm dữ liệu thế hệ tiếp theo của họ, giải pháp card bộ điều hợp Ethernet MCX623106AN-CDAT tích hợp liền mạch với các switch NVIDIA Spectrum-4 và ngăn xếp mạng NVIDIA rộng lớn hơn, cung cấp khả năng hiển thị đầu cuối và cấu hình tự động thông qua các công cụ như NVIDIA Air và NetQ. Bộ điều hợp cũng tương thích ngược với các quang 100GbE và 50GbE, cung cấp một lộ trình di chuyển linh hoạt cho các nâng cấp theo giai đoạn.

Tóm tắt: Một khoản đầu tư chiến lược cho tương lai do AI thúc đẩy

Bộ điều hợp NVIDIA Mellanox MCX623106AN-CDAT đại diện cho một bước nhảy vọt thế hệ trong mạng máy chủ. Bằng cách kết hợp thông lượng 200GbE kép, giao diện máy chủ PCIe 5.0 và RDMA tăng tốc phần cứng với hỗ trợ GPUDirect, card mạng PCIe bộ điều hợp MCX623106AN-CDAT mang lại hiệu suất, khả năng mở rộng và hiệu quả mà các trung tâm dữ liệu ưu tiên AI yêu cầu. Cho dù bạn đang xây dựng một cụm đào tạo quy mô lớn mới, nâng cấp một môi trường HPC hiện có hay hiện đại hóa một cơ sở hạ tầng đám mây, bộ điều hợp này cung cấp khoảng trống và bảo vệ đầu tư mà các kỹ sư mạng và nhà quản lý CNTT yêu cầu.

Để biết hướng dẫn tích hợp chi tiết, các điểm chuẩn hiệu suất và ma trận tương thích, vui lòng tham khảo datasheet MCX623106AN-CDAT chính thức có sẵn thông qua cổng tài liệu của NVIDIA. Bộ điều hợp NVIDIA Mellanox MCX623106AN-CDAT không chỉ là một card mạng — nó là một khối xây dựng nền tảng cho trung tâm dữ liệu thông minh, băng thông cao, độ trễ thấp của ngày mai.