DGX A100

NVIDIA A100 기반의 세계 최초 AI 시스템

NVIDIA DGX™ A100 은 모든 AI 워크로드를 위한 유니버설 시스템으로, 세계 최초의 5페타플롭스 AI 시스템을 통해 유례없는 컴퓨팅 밀도, 성능 및 유연성을 제공합니다. NVIDIA DGX A100은 세계에서 가장 최첨단의 가속기인 NVIDIA A100 Tensor 코어 GPU를 탑재하여 엔터프라이즈 기업들이 NVIDIA AI 전문가의 직접적인 지원과 함께 트레이닝에서 추론, 분석에 이르기까지 배포하기 쉬운 통합 AI 인프라를 구축할 수 있게 합니다.

  • 모든 AI 워크로드를 위한 유니버설 시스템
  • 분석에서 트레이닝과 추론에 이르기까지 NVIDIA DGX A100은 모든 AI 인프라를 위한 유니버설 시스템입니다. 컴퓨팅 밀도에 새로운 기준을 제시합니다. 6U 폼 팩터에 5페타플롭스의 AI 성능을 갖추고, 레거시 인프라 사일로를 모든 AI 워크로드에 사용 가능한 단일 플랫폼으로 대체합니다.
  • DGXperts: AI 전문가의 지원
  • NVIDIA DGXperts는 지난 10년간 쌓은 풍부한 경험으로 고객이 DGX 투자 가치를 극대화하도록 지원하는 14,000명 이상의 AI 전문가로 구성된 글로벌 팀입니다.
  • 가장 빠른 솔루션 구축
  • NVIDIA DGX A100은 NVIDIA A100 Tensor 코어 GPU를 탑재한 세계 최초의 시스템입니다. 8장을 A100 GPU를 탑재한 이 시스템은 전례없는 가속을 제공하며 NVIDIA CUDA-X™ 소프트웨어와 엔드 투 엔드 NVIDIA 데이터센터 솔루션 스택에 모두 완전히 최적화되어 있습니다.
  • 전례없는 데이터 센터 확장성
  • NVIDIA DGX A100은 최대 450GB/s의 양방향 대역폭으로 작동하는 내장형 Mellanox 네트워킹을 탑재합니다. 이는 DGX A100을 엔터프라이즈의 확장 가능한 AI 인프라 청사진인 NVIDIA DGX SuperPOD™와 같은 대규모 AI 클러스터의 기초 빌딩 블록으로 만드는 많은 기능 중 하나입니다.

DGX A100의 강력한 구성 요소 살펴보기

  • ① 총 320GB의 GPU 메모리를 탑재한 NVIDIA A100 GPU 8개
  • GPU당 NVLink 12개 GPU 간 대역폭 600GB/s
  • ② 세대 NVSWITCH 6개
  • 양방향 대역폭 4.8TB/s 이전 세대보다 2배 더 증가
  • ③ Mellanox ConnectX-6 VPI HDR InfiniBand/200GB 이더넷 9개
  • 최대 450GB/s의 양방향 대역폭
  • ④ 듀얼 64코어 AMD CPU 및 1TB 시스템 메모리
  • 3.2배 더 많은 코어로 가장 집약적인 AI 작업 처리
  • ⑤ 15 TB GEN4 NVME SSD
  • 최대 25GB/s의 대역폭 Gen3 NVME SSD보다 2배 빠른 속도
GPUs 8개 NVIDIA A100 텐서 코어
GPUs
GPU 메모리 총 320 GB
성능 5 페타플롭스 AI
10 페타플롭스 INT8
NVIDIA NVSwitches 6
시스템 전력 소모 최대 6.5kW
CPU 듀얼 AMD Rome 7742,
총 128개 코어, 2.25 GHz (기본
클럭), 3.4 GHz (최대 부스트 클럭)
시스템 메모리 1TB
네트워킹 8개 싱글 포트 Mellanox
ConnectX-6 VPI
200Gb/s HDR InfiniBand
1개 듀얼 포트 Mellanox
ConnectX-6 VPI
10/25/50/100/200Gb/s 이더넷
스토리지 OS: 2x 1.92TB M.2 NVME
드라이브
내부 스토리지: 15TB
(3.84TB 4개) U.2 NVME 드라이브
소프트웨어 우분투 리눅스 OS
시스템 중량 271 lbs (123 kgs)
패키지 시스템 중량 315 lbs (143kgs)
System Dimensions 높이: 10.4 in (264.0 mm)
너비: 최대 19.0 in (482.3 mm)
길이: 최대 35.3 in (897.1 mm)
시스템 제원 5ºC to 30ºC (41ºF to 86ºF)