본 장비는 딥러닝 모델을 학습하기 위한 서버 장비로써, NVIDIA RTX PRO 6000 GPU 2장을 포함함. 해당 장비는 대규모 병렬 연산 및 고대역폭 메모리를 갖추고 있어 멀티모달 데이터 학습과 대형 파운데이션 모델의 학습을 안정적으로 지원할 수 있음.

LEADERS SV8000 Base System 2x AMD EPYC 9355 (32 Core, 256M L3 Cache, 3.55 GHz, 280W) 2x Socket SP5 (LGA 6096) 6x 64GB DDR5 PC5 ECC/REG 2x M.2 960GB NVMe PCIe with RAID Card (RAID 0,1) 1x 10G 2Port ETH LAN (RJ45) - OCP NIC 3.0 1x ConnectX-6 200G 1Port VPI NIC (QSFP56) 11x PCIe 5.0 standard expansion slots 1x dual width DPU 8x 3200W 80Plus Titanium PSU, C19-C20 250V 6U Rackmount / 263.9 (H) x 447 (W) x 850 (D) mm 2x NVIDIA RTX PRO 6000 Blackwell Server 96GB GDDR7 PCIe (Passive) GPU Kit installed ( OS : ubuntu / Driver / CUDA Library / Cudnn / NCCL / Docker / Nvidia-ctk ) CUDA Parallel Programming 8시간 의무교육 지원 (NVIDIA DLI 공인 인증 강사) Nvidia GPU Docker 기반 사용환경 구축 및 테스트 (※ 장비 검수용 부하테스트) GPU Server Single/Multi Node Performance Test - NCCL test : Multi GPU & Multi Node NetWork - ML Perf test - Inference & Training - HPL test - Floating Point Calculation - GEN AI-perf test - Large Language Models(LLMs) Blueprint (User AI Playground) AI Bundle - Stable Diffusion Playground - Llama chatbot Playground