Sự Trỗi Dậy của Điện toán Biên và Kết nối Liên mạng có Độ Trễ Thấp

Ngày:5 tháng 12 năm 2023

Sự tăng trưởng theo cấp số nhân của các thiết bị IoT, xử lý AI theo thời gian thực và kết nối 5G đang thúc đẩy một sự thay đổi mô hình lớn từ điện toán đám mây tập trung sang các kiến trúc biên phân tán. Sự chuyển đổi này đòi hỏi một loại hình mới của mạng điện toán biên cơ sở hạ tầng có khả năng mang lại hiệu suất giống như đám mây trong môi trường bị hạn chế. Các giải pháp biên Mellanox của NVIDIA đang đi đầu trong cuộc cách mạng này, cung cấp cấu trúc liên kết hiệu suất cao, độ trễ thấp cần thiết để cung cấp năng lượng cho các ứng dụng thông minh ở biên, từ các nhà máy thông minh đến xe tự hành và hơn thế nữa.

Những hạn chế của điện toán đám mây tập trung đã trở nên rõ ràng đối với các ứng dụng nhạy cảm với độ trễ. Độ trễ khứ hồi đến các trung tâm dữ liệu ở xa—thường vượt quá 50-100ms—là không thể chấp nhận được đối với các trường hợp sử dụng yêu cầu phản hồi theo thời gian thực.

• Các Ứng dụng Nhạy cảm với Độ trễ: Xe tự hành yêu cầu thời gian phản ứng dưới 10ms; robot công nghiệp đòi hỏi độ chính xác dưới mili giây; các ứng dụng AR/VR cần độ trễ dưới 20ms để ngăn người dùng bị mất phương hướng.
• Các Ràng buộc về Băng thông: Việc truyền các nguồn cấp dữ liệu video thô từ hàng nghìn camera đến các đám mây tập trung là không thực tế về mặt kinh tế và kỹ thuật. Xử lý biên làm giảm yêu cầu về băng thông hơn 90% bằng cách chỉ gửi các thông tin chi tiết đã được xử lý.
• Chủ quyền và Quyền riêng tư của Dữ liệu: Các quy định thường yêu cầu dữ liệu nhạy cảm (ví dụ: chăm sóc sức khỏe, tài chính) phải được xử lý cục bộ, thúc đẩy nhu cầu về các nút điện toán biên mạnh mẽ.

Những yếu tố này cùng nhau thúc đẩy sự tăng trưởng lớn trong việc triển khai điện toán biên, dự kiến sẽ đạt 250 tỷ đô la vào năm 2024 theo IDC.

Triển khai hiệu quả mạng điện toán biên đặt ra những thách thức độc đáo khác biệt với môi trường trung tâm dữ liệu truyền thống:

• Môi trường bị Giới hạn: Các vị trí biên thường thiếu khả năng làm mát chuyên dụng, dự phòng nguồn và bảo mật vật lý, đòi hỏi thiết bị mạng mạnh mẽ nhưng nhỏ gọn.
• Kiến trúc Lai: Phải duy trì kết nối liền mạch giữa các thiết bị biên, máy chủ biên và các trung tâm dữ liệu đám mây/lõi tập trung, tạo ra các mạng nhiều tầng phức tạp.
• Yêu cầu về Hiệu suất: Mặc dù bị hạn chế về kích thước, các ứng dụng biên yêu cầu hiệu suất cấp trung tâm dữ liệu với độ trễ thấp xác định và thông lượng cao cho các hoạt động nhạy cảm về thời gian.
• Độ phức tạp trong Quản lý: Việc triển khai và quản lý hàng nghìn vị trí biên phân tán đòi hỏi khả năng cung cấp tự động, không cần chạm và quản lý từ xa.

Các giải pháp biên Mellanox của NVIDIA giải quyết những thách thức này thông qua danh mục công nghệ mạng toàn diện được tối ưu hóa cho việc triển khai biên:

• DPU BlueField: Các bộ xử lý tích hợp này cung cấp khả năng ngoại tuyến các dịch vụ mạng, bảo mật và lưu trữ được tăng tốc bằng phần cứng, cho phép sử dụng tài nguyên hiệu quả trong các máy chủ biên nhỏ gọn.
• Công tắc Ethernet Spectrum: Cung cấp các tính năng cấp doanh nghiệp trong các yếu tố hình thức nhỏ gọn, chắc chắn với mức tiêu thụ điện năng thấp, các công tắc này mang lại hiệu suất và độ tin cậy cần thiết cho môi trường biên khắc nghiệt.
• NIC thông minh ConnectX: Cung cấp RDMA ngoại tuyến phần cứng và xử lý gói được tăng tốc, các bộ điều hợp này đảm bảo độ trễ thấp xác định và thông lượng cao cho các ứng dụng biên theo thời gian thực.
• NVIDIA Cumulus Linux: Cung cấp khả năng điều phối mạng tự động và trải nghiệm vận hành nhất quán trên các vị trí biên phân tán thông qua phần mềm mạng mở.

Sự trỗi dậy của điện toán biên đại diện cho một sự thay đổi kiến trúc cơ bản trong cách chúng ta triển khai và quản lý tài nguyên tính toán. Thành công trong mô hình mới này phụ thuộc vào mạng điện toán biên cơ sở hạ tầng có thể mang lại hiệu suất cấp trung tâm dữ liệu trong môi trường phân tán, bị hạn chế trong khi vẫn duy trì kết nối liền mạch với các đám mây lõi. Các giải pháp biên Mellanox của NVIDIA cung cấp nền tảng quan trọng này, cho phép các tổ chức triển khai các ứng dụng thông minh ở quy mô lớn trong khi đáp ứng các yêu cầu nghiêm ngặt về độ trễ, băng thông và hoạt động. Khi điện toán biên tiếp tục phát triển, các công nghệ mạng này sẽ đóng một vai trò ngày càng quan trọng trong việc cung cấp năng lượng cho thế hệ trải nghiệm kỹ thuật số tiếp theo.

Bạn đã sẵn sàng để chuyển đổi chiến lược điện toán biên của mình chưa? Khám phá cách các giải pháp của chúng tôi có thể giúp bạn triển khai cơ sở hạ tầng biên hiệu suất cao, độ trễ thấp.