Mellanox (NVIDIA Mellanox) 980-9I45T-00H020 Tài liệu kỹ thuật | Kết nối độ tin cậy cao & Tối ưu hóa vận hành

Mellanox (NVIDIA Mellanox) 980-9I45T-00H020 Sách trắng kỹ thuật

Sách trắng này tập trung vàoMellanox (NVIDIA Mellanox) 980-9I45T-00H020thiết bị mạng là nền tảng của một chiến lược kết nối độ tin cậy cao và hoạt động xuất sắc cho các trung tâm dữ liệu hiện đại và mạng doanh nghiệp.980-9I45T-00H020là một giải pháp kết nối hiệu suất cao được thiết kế để xử lý khối lượng công việc đòi hỏi cao nhất trong các cụm AI, môi trường HPC và cơ sở hạ tầng quan trọng.

1. Bối cảnh & Yêu cầu kinh doanh

Trung tâm dữ liệu hiện đại đang chuyển từ kiến trúc CPU-centric sang thiết kế dựa trên GPU và DPU.độ trễĐồng thời, các mạng doanh nghiệp phải đối mặt với những thách thức trong việc kết nối đa vị trí, truy cập đa đám mây và tuân thủ quy định.làm cho kiến trúc mạng ba cấp truyền thống không đủ cho quy mô kinh doanh đàn hồi.

Việc áp dụngMellanox (NVIDIA Mellanox) 980-9I45T-00H020giải quyết các điểm đau quan trọng sau:

• Các nút thắt hiệu suất: Các mạng 25G/40G hiện có không thể đáp ứng các yêu cầu giao thông phía bắc-nam của các cụm GPU lớp 800G;
• Sự phức tạp của hoạt động: Thiết bị đa nhà cung cấp dẫn đến giám sát silo và thời gian sửa chữa trung bình kéo dài (MTTR);
• Các lỗ hổng độ tin cậy: Các lỗi liên kết và sự cố tắc nghẽn gây ra sự suy giảm hiệu suất ứng dụng đáng kể và vi phạm SLA.

Các chỉ số thành công chính cho giải pháp này bao gồm thời gian trễ dưới microsecond, không mất gói dưới tình trạng tắc nghẽn và phát hiện và khắc phục lỗi tự động.

2Thiết kế kiến trúc mạng tổng thể

Kiến trúc được đề xuất áp dụng mộtvải lá xương sốngtopology với một thiết kế Clos hai cấp, cho phép độ trễ thấp xác định và khả năng mở rộng quy mô lớn.Sản phẩm mạng 980-9I45T-00H020kết nối với các máy chủ GPU và các nút lưu trữ thông qua các cổng OSFP 800G/400G. Ở lớp cột sống, các công tắc mật độ cao cung cấp kết nối không chặn giữa các cột.

Các nguyên tắc kiến trúc chính bao gồm:

• Vải RDMA không mất mát: Tận dụng RoCEv2 và kiểm soát dòng chảy PFC/ECN để đảm bảo vận chuyển không mất mát cho NVMe-oF và GPUDirect Storage;
• Đường dẫn thích nghi: Chọn đường dẫn năng động dựa trên đo từ xa thời gian thực, tránh các liên kết bị tắc nghẽn mà không cần can thiệp bằng tay;
• Phân biệt đa người thuê: Hỗ trợ chồng chất VXLAN và GENEVE dựa trên phần cứng cho phép phân khúc an toàn cho khối lượng công việc AI, HPC và mục đích chung.

Kiến trúc được thiết kế để hỗ trợ tối đa 2.048 nút GPU cho mỗi lớp vải, với980-9I45T-00H020 Trung tâm dữ liệu mạng tốc độ caothiết bị phục vụ như nút đầu tiên cho kết nối tính toán / lưu trữ.

3Vai trò của Mellanox (NVIDIA Mellanox) 980-9I45T-00H020 trong giải pháp

CácMellanox (NVIDIA Mellanox) 980-9I45T-00H020là một bộ điều hợp mạng đa chức năng / yếu tố chuyển mạch nối nối bus chủ (PCIe 6.0) và fabric (InfiniBand hoặc Ethernet).

• Chuyển tiếp tốc độ dây 800G: Hỗ trợ XDR InfiniBand và 800GbE, cung cấp đủ không gian cho các thế hệ GPU tương lai (ví dụ: B100, X100);
• Tải tải máy tính trong mạng (SHARPv3): Giảm thời gian giao tiếp tập thể MPI lên đến 30% bằng cách thực hiện các hoạt động tổng hợp trực tiếp trong cấu trúc mạng;
• Thiết bị đo từ xa: Khám phá tắc nghẽn tích hợp (ví dụ: đánh dấu ECN, giới hạn dòng chảy) cung cấp tầm nhìn chi tiết về động lực hàng đợi mà không cần CPU overhead;
• An ninh tiên tiến: Hardware root of trust, khởi động an toàn và mã hóa IPSec / MACsec trực tuyến bảo vệ dữ liệu trong quá trình vận chuyển khỏi các cuộc tấn công lớp vật lý.

Là một980-9I45T-00H020 Giải pháp sản phẩm mạng, nó tích hợp liền mạch với các công tắc Mellanox hiện có và bộ phần mềm NVIDIA DOCA, giảm rủi ro tích hợp và tăng tốc thời gian sản xuất.

4. Các khuyến nghị triển khai và mở rộng quy mô

Các kịch bản triển khai điển hình bao gồm:

• Mức độ nhỏ (lên đến 64 GPU): Hai giá đỡ triển khai với 1x980-9I45T-00H020cho mỗi máy chủ, sử dụng cáp DAC OSFP-OSFP kết nối trực tiếp để giao tiếp nội bộ rack có độ trễ thấp;
• Mức độ lớn (256+ GPU): Kiến trúc đa-pod với980-9I45T-00H020Các thiết bị tổng hợp các bộ chuyển đổi lá thông qua các liên kết lên 800G đến các bộ chuyển đổi cột sống, cho phép băng thông cắt ngang đầy đủ;
• Vải lưu trữ AI + lai: Các980-9I45T-00H020có thể được cấu hình với cổng phân chia (2x 400G hoặc 8x 100G) để đồng thời phục vụ mạng tính toán và lưu trữ, giảm capex.

Biểu minh topology (đơn giản hóa):

Đối với việc mở rộng trong tương lai, kiến trúc hỗ trợ mở rộng quy mô pay-as-you-grow bằng cách thêm các khối lá bổ sung mà không phải thiết kế lại lớp cột sống.

5. Ops giám sát, khắc phục sự cố & tối ưu hóa

Các980-9I45T-00H020tích hợp với bộ đống đo lường từ xa của NVIDIA để cung cấp tầm nhìn thời gian thực vào:

• Khám phá micro burst: Báo cáo cấp phần cứng về việc sử dụng đệm cho mỗi luồng, cho phép điều chỉnh QoS trước;
• Giám sát chất lượng liên kết: Các bộ đếm FEC (Điều chỉnh lỗi chuyển tiếp) và cảnh báo tỷ lệ tín hiệu-gọi với tiếng ồn cho sự suy giảm liên kết quang học;
• Mô phỏng mạng: Sử dụng dữ liệu đo từ xa nhúng để xây dựng lại các mô hình giao thông trong môi trường sinh đôi kỹ thuật số để phân tích.

Thực hành tốt nhất được khuyến cáo:

• Thiết lậphồ sơ cơ bản tự độngđối với độ trễ và thông lượng dưới tải trọng bình thường, và kích hoạt cảnh báo khi độ lệch vượt quá 10%;
• Kiểm tra thường xuyênPhiên bản firmwaređể đảm bảo khả năng tương thích với các phiên bản NVIDIA DOCA và trình điều khiển mới nhất;
• Sử dụngThông số kỹ thuật 980-9I45T-00H020vàBảng dữ liệu 980-9I45T-00H020để hiệu chuẩn các ngưỡng đệm cho các hỗn hợp giao thông cụ thể (ví dụ, mô hình giảm tất cả so với tất cả cho tất cả);
• Khi mở rộng quy mô, xác nhận980-9I45T-00H020 tương thíchquang học và cáp sử dụng ma trận tương thích chính thức để tránh các vấn đề về tính toàn vẹn tín hiệu.

6. Tóm lại & Đánh giá giá trị

CácMellanox (NVIDIA Mellanox) 980-9I45T-00H020cung cấp một con đường được chứng minh để xây dựng độ tin cậy cao, hoạt động hiệu quả mạng trung tâm dữ liệu. sự kết hợp của nó 800G thông lượng, trong mạng máy tính,và telemetry chi tiết cho phép các tổ chức đạt được:

• Giảm 30-40% thời gian hoàn thành đào tạo AIthông qua truyền thông tập thể tối ưu;
• Không ảnh hưởng đến người dùng trong khi kết nối bị hỏngNhờ định tuyến thích nghi và chuyển đổi thất bại dưới giây;
• 50% chi phí hoạt động thấp hơnthông qua việc giám sát thống nhất và luồng công việc khắc phục tự động.

VớiSản phẩm mạng 980-9I45T-00H020như nền tảng cạnh, các doanh nghiệp có thể tự tin triển khai khối lượng công việc AI thế hệ tiếp theo trong khi duy trì toàn quyền kiểm soát độ tin cậy, bảo mật và tổng chi phí sở hữu.980-9I45T-00H020 giávà980-9I45T-00H020 để bánxin vui lòng liên hệ với đối tác được ủy quyền của NVIDIA Mellanox.