Kiến trúc giải pháp:
- Lớp Networking: Cung cấp giao diện tốc độ cao lên tới hàng trăm Gbps kết nối các computing nodes, Master nodes và các thiết bị lưu trữ với nhau. Lớp networking có thể là các switch ethernet, InfiniBand, NVIDIA (Mellanox) để tăng tốc điện toán đa nút và truy cập dữ liệu.
- Lớp Quản trị: Cung cấp giao diện kết nối tới các cổng quản trị chuyên dụng của các thiết bị cho việc quản lý và truy cập các thiết bị. Lớp Quản trị có thể sử dụng các switch Ethernet 1G/10G quang/đồng.
- Lớp Lưu trữ: Để đáp ứng hiệu suất hoạt động lớn của các GPU, cần có sự cân bằng hợp lý giữa bộ lưu trữ flash NVMe truy cập nhanh và bộ lưu trữ HDD mật độ cao.
- Lớp Tính toán hiệu năng cao: Là các nút với mật độ GPU dày đặc có nhiều bộ nhớ đệm tích hợp hơn, kết nối NVLink nhanh hơn, từ NVIDIA, AMD hoặc IPU Graphcore được thiết kế riêng hoặc bộ tăng tốc FPGA Xilinx.
- Nền tảng phần mềm quản lý cụm: Là một phần mềm quản lý cụm máy tính được sử dụng để quản lý các cụm máy tính động lớn, có khả năng mở rộng dễ dàng. Nó bao gồm các tính năng như quản lý hạ tầng, quản lý tài nguyên, phân phối và cập nhật phần mềm tự động, quản lý máy ảo và tích hợp với các công nghệ cloud khác.
- AI/DL/ML frameworks: Là một danh sách các bộ khung cung cấp các thư viện, giao diện lập trình, xây dựng các mô hình huấn luyện AI/DL/ML gồm: mô hình phân loại, dự đoán, xử lý ngôn ngữ tự nhiên, xử lý hình ảnh và nhận dạng giọng nói. Ví dụ: Tensorflow, Pytorch, OpenCV, Caffe, Keras…
Đánh giá
Chưa có đánh giá nào.