Mellanox (NVIDIA) MCX631432AN-ADAB trong thực tế: Biến đổi truyền tải độ trễ thấp với RDMA/RoCE

Khi một công ty dịch vụ tài chính hàng đầu bắt đầu gặp phải tình trạng suy giảm hiệu suất trên nền tảng giao dịch tần suất cao (HFT) của họ, thủ phạm rõ ràng là: độ trễ mạng. Cơ sở hạ tầng hiện tại của họ, được xây dựng trên các card mạng Ethernet tiêu chuẩn, không thể theo kịp thời gian phản hồi ở cấp độ micro giây cần thiết cho giao dịch cạnh tranh. Các chu kỳ CPU bị tiêu tốn bởi việc xử lý ngăn xếp mạng, để lại ít khoảng trống cho logic ứng dụng. Nhóm kiến trúc biết rằng họ cần một giải pháp có thể giảm tải chi phí mạng và mang lại độ trễ nhất quán, cực thấp.

Công ty đã chuyển sang công nghệ bộ điều hợp tiên tiến, đặc biệt là đánh giá MCX631432AN-ADAB từ Mellanox (NVIDIA). Mục tiêu là triển khai RDMA qua Ethernet hợp nhất (RoCE) để bỏ qua nhân và cho phép truyền dữ liệu trực tiếp từ bộ nhớ này sang bộ nhớ khác trên cụm, giảm đáng kể độ trễ và tải CPU.

Việc triển khai tập trung vào NVIDIA Mellanox MCX631432AN-ADAB, một bộ điều hợp SFP28 25GbE cổng kép được xây dựng trên kiến trúc ConnectX-6 Lx. Nhóm kỹ thuật đã chọn mẫu cụ thể này vì nó hỗ trợ RoCE gốc và khả năng giảm tải phần cứng đã được chứng minh. Chiến lược triển khai bao gồm việc thay thế các card mạng cũ trong các máy chủ giao dịch của họ bằng các bộ điều hợp mới và cấu hình một mạng Ethernet không mất mát để hỗ trợ lưu lượng RoCE.

Điểm mấu chốt của giải pháp là khả năng của bộ điều hợp hoạt động như một giải pháp thẻ bộ điều hợp Ethernet MCX631432AN-ADAB thực sự cho cả lưu lượng lưu trữ và tính toán. Nhóm đã tận dụng thiết kế cổng kép của nó để tạo ra một đường dẫn dự phòng, thông lượng cao, đảm bảo không có điểm lỗi đơn lẻ nào có thể làm gián đoạn hoạt động giao dịch. Việc cấu hình được hợp lý hóa bằng cách sử dụng các công cụ NVIDIA tiêu chuẩn và thẻ đã chứng tỏ là tương thích với MCX631432AN-ADAB ngay lập tức với môi trường dựa trên Linux hiện có của họ.

Sau khi triển khai các bộ điều hợp MCX631432AN-ADAB ConnectX-6 Lx cổng kép 25GbE SFP28, công ty đã tiến hành các bài kiểm tra hiệu suất toàn diện. Kết quả thật sự mang tính chuyển đổi, trực tiếp giải quyết các thách thức cốt lõi về độ trễ và thông lượng.

Những cải thiện này đạt được bằng cách sử dụng đầy đủ các bộ tăng tốc giảm tải phần cứng của bộ điều hợp. Bằng cách chuyển việc xử lý lưu lượng mạng từ CPU sang thẻ bộ điều hợp Ethernet MCX631432AN-ADAB , các thuật toán giao dịch của công ty đã có quyền truy cập vào các tài nguyên tính toán nhiều hơn đáng kể. Thông lượng 25GbE gần tốc độ đường truyền trên mỗi cổng đảm bảo rằng dữ liệu từ các nguồn cấp dữ liệu thị trường có thể được nhập và xử lý mà không bị chậm trễ hàng đợi.

Mặc dù trường hợp sử dụng tài chính này nêu bật tiềm năng độ trễ cực thấp, MCX631432AN-ADAB mang lại lợi ích tương tự trên nhiều môi trường đòi hỏi khắt khe. Đối với các nhà quản lý CNTT giám sát các cụm cơ sở dữ liệu quy mô lớn, khả năng RoCE của bộ điều hợp tăng tốc sao chép và chuyển đổi dự phòng. Trong các khối lượng công việc AI và học máy, độ trễ giảm trực tiếp chuyển thành thời gian đào tạo phân tán nhanh hơn.

Đối với các kiến trúc sư lập kế hoạch cơ sở hạ tầng thế hệ tiếp theo của họ, thông số kỹ thuật MCX631432AN-ADAB chi tiết và bảng dữ liệu MCX631432AN-ADAB tiết lộ một nền tảng linh hoạt. Nó hỗ trợ mọi thứ từ lưu trữ NVMe-oF đến ảo hóa với SR-IOV, làm cho nó trở thành một khoản đầu tư bền vững. Khi các tổ chức đánh giá các lựa chọn của họ, các chỉ số hiệu suất hấp dẫn và mức giá MCX631432AN-ADAB đưa ra một trường hợp kinh doanh mạnh mẽ để nâng cấp.

Kinh nghiệm của công ty tài chính với MCX631432AN-ADAB cho thấy rằng hiệu suất mạng mang tính chuyển đổi có thể đạt được với phần cứng phù hợp. Bằng cách áp dụng RDMA/RoCE và các khả năng giảm tải tiên tiến của kiến trúc ConnectX-6 Lx, họ đã loại bỏ nút thắt cổ chai về độ trễ và mở khóa các cấp độ thông lượng máy chủ mới. Khi nhu cầu dữ liệu tiếp tục tăng, thẻ bộ điều hợp Ethernet MCX631432AN-ADAB sẵn sàng cung cấp năng lượng cho làn sóng tiếp theo của các ứng dụng quan trọng về hiệu suất. Đối với các tổ chức đang tìm kiếm kết quả tương tự, việc khám phá giải pháp này là một bước đầu tiên quan trọng.