Card mạng máy chủ Mellanox (NVIDIA) MCX556A-ECAT trong thực tế: Truyền độ trễ thấp RDMA/RoCE và Máy chủ

Trong kỷ nguyên bùng nổ dữ liệu ngày nay, các trung tâm dữ liệu doanh nghiệp đang đối mặt với những thách thức chưa từng có: làm thế nào để đạt được tốc độ truyền nhanh hơn và thông lượng máy chủ cao hơn trong khi vẫn đảm bảo tính nhất quán của dữ liệu. Đặc biệt trong các tình huống như giao dịch tài chính, phân tích tần suất cao và lưu trữ phân tán quy mô lớn, độ trễ do ngăn xếp giao thức TCP/IP truyền thống gây ra đã trở thành một nút thắt cổ chai cốt lõi hạn chế sự phát triển kinh doanh. Bài viết này đi sâu vào một trường hợp ứng dụng điển hình dựa trên bộ điều hợp mạng máy chủ Mellanox (NVIDIA) MCX556A-ECAT, minh họa cách nó định hình lại kiến trúc truyền tải độ trễ thấp thông qua công nghệ RDMA/RoCE.

Một doanh nghiệp internet lớn (sau đây gọi là "doanh nghiệp") có các hoạt động kinh doanh cốt lõi liên quan đến phân tích kiểm soát rủi ro theo thời gian thực và xử lý nhật ký khổng lồ. Kiến trúc mạng trung tâm dữ liệu ban đầu sử dụng card mạng 25GbE tiêu chuẩn với giao thức TCP/IP. Khi khối lượng kinh doanh tăng vọt, CPU thường xuyên bị chiếm dụng bởi các tác vụ xử lý gói tin mạng, dẫn đến độ trễ phản hồi ứng dụng tăng đáng kể và thông lượng máy chủ vẫn bị kẹt dưới mức nút thắt cổ chai trong thời gian dài. Đồng thời, độ trễ trao đổi dữ liệu giữa cụm lưu trữ và các nút tính toán lên tới vài trăm micro giây, ảnh hưởng nghiêm trọng đến hiệu quả đào tạo mô hình AI. Doanh nghiệp khẩn cấp cần một giải pháp mạng có độ trễ thấp và sử dụng CPU thấp để hỗ trợ các ứng dụng chuyên sâu về dữ liệu thế hệ tiếp theo của mình.

Trong quá trình điều tra, đội ngũ kỹ thuật đã xác định công nghệ RDMA (Truy cập Trực tiếp Bộ nhớ Từ xa) là chìa khóa để giải quyết vấn đề. Tuy nhiên, các giải pháp InfiniBand truyền thống tốn kém và khó tích hợp với môi trường Ethernet hiện có của doanh nghiệp. Do đó, việc tìm kiếm một card mạng hiệu suất cao có thể hỗ trợ hoàn hảo RoCE (RDMA qua Ethernet Hợp nhất) đã trở thành yêu cầu cốt lõi của dự án.

Sau quá trình kiểm tra và đánh giá nghiêm ngặt, doanh nghiệp cuối cùng đã chọn Mellanox (NVIDIA) MCX556A-ECAT làm thành phần cốt lõi cho việc nâng cấp mạng của mình. Card mạng NVIDIA Mellanox MCX556A-ECAT này, dựa trên kiến trúc ConnectX-5, hỗ trợ sẵn công nghệ RoCE v2, cho phép chức năng RDMA trên cơ sở hạ tầng Ethernet tiêu chuẩn và cân bằng hoàn hảo giữa hiệu suất và chi phí. Đội ngũ triển khai đã lắp đặt card mạng Ethernet MCX556A-ECAT này vào các nút tính toán và lưu trữ chính, kết nối chúng với các switch 100GbE hiện có.

Trong quá trình triển khai, các kỹ sư đã tận dụng tối đa các tính năng offload thông minh của card mạng PCIe ConnectX MCX556A-ECAT này. Bằng cách bật QoS (Chất lượng Dịch vụ) và PFC (Kiểm soát Luồng Ưu tiên), họ đã đảm bảo đảm bảo độ trễ thấp cho lưu lượng RoCE ngay cả trong điều kiện tắc nghẽn mạng. Toàn bộ chu kỳ triển khai chỉ mất hai tuần và không ảnh hưởng đến các ứng dụng lớp trên hiện có, cho phép chúng hưởng lợi từ việc tăng hiệu suất RDMA mà không cần sửa đổi mã.

Sau khi triển khai, hiệu suất mạng của doanh nghiệp đã đạt được một bước nhảy vọt về chất. Thứ nhất, với sức mạnh của công nghệ RDMA, độ trễ truy cập dữ liệu giữa lưu trữ và các nút tính toán đã giảm từ 200 micro giây xuống dưới 5 micro giây, giúp tăng tốc đáng kể phản hồi truy vấn cho các cơ sở dữ liệu phân tán. Thứ hai, nhờ khả năng offload phần cứng mạnh mẽ của MCX556A-ECAT, chi phí CPU cho việc xử lý giao thức mạng đã giảm hơn 90%. Các tài nguyên tính toán được giải phóng đã được phân bổ lại cho các ứng dụng kinh doanh cốt lõi, dẫn đến tăng thông lượng máy chủ tổng thể gần gấp ba lần.

Theo thông số kỹ thuật chi tiết của MCX556A-ECAT và dữ liệu giám sát thực tế, card mạng đã thể hiện hiệu suất xuất sắc khi xử lý đồng thời cao các gói dữ liệu nhỏ, đạt được chuyển tiếp tốc độ dây với không mất gói tin. Đặc điểm này rất quan trọng đối với các tình huống giao dịch tần suất cao và kiểm soát rủi ro theo thời gian thực. Trưởng nhóm kỹ thuật cho biết: "Sau khi giới thiệu MCX556A-ECAT, nút thắt cổ chai mạng của chúng tôi đã được loại bỏ hoàn toàn. Giờ đây, chúng tôi có thể tự tin mở rộng các cụm đào tạo AI của mình mà không lo mạng trở thành mắt xích yếu". Đối với các doanh nghiệp khác đang tìm kiếm giải pháp tương thích MCX556A-ECAT, trường hợp này cung cấp tài liệu tham khảo có giá trị, chứng minh rằng đây không chỉ là một phần cứng, mà là một giải pháp card mạng Ethernet MCX556A-ECAT đã được chứng minh.

Ngoài những lợi ích cốt lõi mà RDMA/RoCE mang lại, doanh nghiệp còn khám phá ra tiềm năng sâu hơn của MCX556A-ECAT trong quá trình ứng dụng. Ví dụ, việc tận dụng các tính năng offload ảo hóa tích hợp đã giúp tăng đáng kể mật độ mạng trong môi trường ảo hóa; công nghệ điều khiển ngắt động đã tối ưu hóa hơn nữa tỷ lệ cache hit của CPU. Những tối ưu hóa chi tiết này cùng nhau tạo thành một nền tảng vững chắc cho các nỗ lực hiện đại hóa trung tâm dữ liệu của doanh nghiệp.

Để giúp những người dùng tiềm năng khác hiểu rõ hơn về chi tiết sản phẩm, doanh nghiệp khuyến nghị tham khảo datasheet chính thức của MCX556A-ECAT, trong đó chứa các thông số hiệu suất đầy đủ và danh sách tương thích. Hiện tại, MCX556A-ECAT để bán này có sẵn trên thị trường toàn cầu, và chi tiết giá MCX556A-ECAT cụ thể có thể thu được bằng cách liên hệ với các kênh chính thức của NVIDIA dựa trên khối lượng mua hàng.

Trường hợp này minh họa rõ ràng hiệu suất vượt trội của Mellanox (NVIDIA) MCX556A-ECAT trong việc giải quyết các thách thức về truyền tải độ trễ thấp và thông lượng cao. Thông qua việc ứng dụng sâu công nghệ RDMA/RoCE, nó không chỉ giải quyết các nút thắt hiệu suất của kiến trúc mạng truyền thống mà còn mở đường cho các đổi mới chuyên sâu về dữ liệu trong tương lai của doanh nghiệp. Khi kỷ nguyên 400G/800G đến gần, khái niệm smart NIC được thể hiện bởi NVIDIA Mellanox MCX556A-ECAT sẽ tiếp tục dẫn đầu sự phát triển của mạng trung tâm dữ liệu hướng tới hiệu quả và thông minh hơn.