Mellanox (NVIDIA Mellanox) MCX556A-ECAT Server NIC trong hành động.

Các trung tâm dữ liệu siêu quy mô và môi trường đám mây doanh nghiệp phải đối mặt với một thách thức chung: khi số lượng lõi CPU tăng, mạng TCP / IP truyền thống trở thành nút thắt.và chuyển đổi ngữ cảnh tiêu thụ các nguồn CPU đáng kể, hạn chế hiệu suất ứng dụng. Nghiên cứu trường hợp này kiểm tra cách một nhóm cơ sở hạ tầng dịch vụ tài chính giải quyết những điểm khó khăn này bằng cách triển khai cácMellanox (NVIDIA Mellanox) MCX556A-ECATNIC máy chủ, đạt được giảm đáng kể độ trễ và cải thiện có thể đo lường trong thông lượng máy chủ.

Bối cảnh & Thách thức: Khi mỗi vi giây đều quan trọng

Nhóm cơ sở hạ tầng quản lý một cụm dữ liệu phân tán hỗ trợ phân tích rủi ro thời gian thực.Khi khối lượng giao dịch tăng, ba vấn đề quan trọng xuất hiện: sử dụng CPU trên các nút cơ sở dữ liệu vượt quá 75% do xử lý ngăn xếp mạng;độ trễ đuôi cho các hoạt động bộ nhớ chéo nút tăng lên 200 microsecond trong giờ cao điểm; và công ty phải đối mặt với việc cung cấp quá nhiều chi phí  thêm nhiều máy chủ chỉ để xử lý chi phí trên mạng, không phải là nhu cầu tính toán.Giải pháp thẻ adapter Ethernet MCX556A-ECATcó thể giảm tải mạng trong khi cho phép truy cập bộ nhớ trực tiếp từ xa (RDMA).

Giải pháp & triển khai: Thực hiện RoCE với ConnectX Adapters

Sau khi đánh giá các lựa chọn, nhóm đã chọnNVIDIA Mellanox MCX556A-ECATdựa trên khả năng 100GbE cổng kép và hỗ trợ RoCE gốc (RDMA trên Converged Ethernet).MCX556A-ECAT ConnectX adapter thẻ mạng PCIe, mỗi máy chủ nhận được một bộ điều hợp duy nhất được kết nối với một công tắc trên-rack có khả năng RoCE với PFC (Kiểm soát dòng chảy ưu tiên) và ECN (Báo cáo tắc nghẽn rõ ràng) được bật.Con đường di cư rất đơn giản.: bộ chuyển đổi làHoàn hợp với MCX556A-ECATvới các khe cắm PCIe 3.0 hiện có, loại bỏ nâng cấp máy chủ.Bảng dữ liệu MCX556A-ECATTrong vòng hai tuần, toàn bộ cụm 120 nút đang chạy giao tiếp dựa trên RDMA để sao chép cơ sở dữ liệu và lưu trữ bộ nhớ.

CácMCX556A-ECAT Ethernet adapter cardhoạt động khóa được tải xuống: bỏ qua lõi thông qua userpace Verbs API, vận chuyển dựa trên phần cứng cho RDMA viết / đọc, và di chuyển dữ liệu không sao chép.Mellanox (NVIDIA Mellanox) MCX556A-ECATvào xương sống độ trễ thấp của cụm mà không thay đổi logic ứng dụng hiện có, chỉ chuyển từ ổ cắm TCP sang libfabric hoặc UCX, một thay đổi được quản lý trong một cửa sổ bảo trì thường xuyên.

Kết quả & Lợi ích: Lợi nhuận có thể đo lường trong độ trễ và thông lượng

Các số liệu sau khi triển khai xác nhận khoản đầu tư.Thông số kỹ thuật MCX556A-ECATnhư là một đường cơ bản (sự trễ phần cứng dưới microsecond), nhóm đã đạt được:

Ngoài các con số thô, nhóm đã đạt được độ trễ đuôi ổn định dưới 4 microsecond ở tỷ lệ 99,9 phần trăm quan trọng cho tính toán rủi ro.Các lõi CPU được giải phóng cho phép các máy chủ hiện có xử lý thêm 40% các luồng ứng dụng, trì hoãn mua phần cứng.MCX556A-ECAT để bánkinh tế đã trở nên rõ ràng: một bộ chuyển đổi cho mỗi máy chủ cung cấp ROI trong vòng sáu tháng chỉ từ số lượng nút giảm và chi phí điện / làm mát thấp hơn.Giá MCX556A-ECATso với các thẻ 100G cạnh tranh, tổng chi phí sở hữu, bao gồm khả năng tương thích phần mềm và ổn định trình điều khiển, ưa thích giải pháp Mellanox.

Nhóm cũng xác minhHoàn hợp với MCX556A-ECATĐiều này củng cố mạng lưu trữ trên cùng một vải, đơn giản hóa cáp và cổng chuyển đổi.TheoBảng dữ liệu MCX556A-ECAT, thẻ hỗ trợ lên đến 16 triệu IOPS mỗi cổng ư phòng đầu nhóm dự định sử dụng trong năm tới nâng cấp lưu trữ.

Tóm lại & triển vọng: Một nền tảng cho các trung tâm dữ liệu thế hệ tiếp theo

Việc triển khai này chứng minh rằngMCX556A-ECATkhông chỉ là một NIC nhanh hơn mà là một nền tảng cho chuyển đổi kiến trúc. Bằng cách cho phép RDMA / RoCE, các tổ chức có thể phá vỡ nút thắt TCP, tái sử dụng chu kỳ CPU cho khối lượng công việc có giá trị gia tăng,và mở rộng hiệu quả.NVIDIA Mellanox MCX556A-ECATđã chứng minh giá trị của nó trong tài chính nhạy cảm với độ trễ, nhưng lợi ích của nó mở rộng đến đào tạo AI, mô phỏng HPC và cơ sở dữ liệu phân tán.MCX556A-ECAT ConnectX adapter thẻ mạng PCIeđại diện cho một sự lựa chọn trưởng thành, được ghi chép kỹ lưỡng.Thông số kỹ thuật MCX556A-ECATđể điều chỉnh hiệu suất hoặc tìm kiếmMCX556A-ECAT để bánđể lên kế hoạch triển khai toàn bộ cụm, bộ chuyển đổi này cung cấp lời hứa về Ethernet không mất mát, độ trễ thấp.