NVIDIA GB300
NVIDIA GB300은 최첨단 성능을 제공하여 고급 AI 워크로드를 처리할 수 있으며, 36개의 NVIDIA Grace™ CPU와 72개의 NVIDIA Blackwell Ultra GPU를 탑재했습니다. 이 제품은 ECC 기능이 있는 최대 18TB의 LPDDR5X 메모리와 최대 21TB의 HBM3e를 지원하여 총 최대 40TB의 초고속, 저지연 메모리를 제공합니다. NVIDIA NVLink™ 연결 기술을 통해 GPU 간 통신 대역폭이 초당 130TB에 달하며, GB300은 AI 추론 및 에이전틱 AI, 물리적 AI에 최적화되어 대규모 모델과 복잡한 계산 작업을 원활하게 처리할 수 있습니다.
하이라이트
차세대 AI 슈퍼컴퓨터
- NVIDIA Blackwell Ultra GPU 및 Grace CPU 기반
- 조(兆) 파라미터 규모의 대형 언어 모델(LLM), 실시간 추론 및 과학 컴퓨팅을 위해 설계됨
성능
- HGX H100 대비 AI 팩토리 출력 성능이 전체적으로 50배 향상
- HGX H100 대비 AI FLOPs(FP4 dense 기준)가 70배 증가
- 다양한 정밀도 모드 지원: FP4, FP8, INT8, FP16, TF32, FP32, FP64
메모리 및 대역폭
- 72개의 GPU에 걸쳐 21TB HBM3e 메모리
- NVSwitch™를 통한 총 집계 130TB/s NVLink™ 대역폭
네트워킹 및 확장성
- 800GB/s 네트워킹 대역폭을 제공하는 ConnectX-8 NIC
- NVLink™ 인터커넥트를 통한 다중 노드 GPU 클러스터 지원
- 하이퍼스케일 AI 데이터 센터용으로 설계됨
엔터프라이즈 및 클라우드 준비 완료
- 멀티테넌트 클라우드 및 제로 트러스트 환경을 위해 설계됨
- 액체 냉각 및 컴포저블 인프라 지원
기술 사양
| 모델 | GB300 NVL72 |
|---|---|
| GPU 세대 | Blackwell Ultra |
| GPU 수 | 72 |
| 총 FP4 * | 1,100 | 1,440 PFLOPS |
| 총 FP8 ** | 720 PFLOPS |
| 총 메모리 용량 | 21TB HBM3e |
| 총 메모리 대역폭 | 576TB/s |
| NVLink | 5세대 |
| GPU 간 대역폭 | 1.8TB/s |
| 총 집계 대역폭 | 130TB/s |
| FP4 * | 15 | 20 PFLOPS |
|---|---|
| FP8 ** | 10 PFLOPS |
| FP16 ** | 5 PFLOPS |
| 메모리 용량 | 288GB HBM3e |
| 메모리 대역폭 | 8TB/s |
| 최대 TDP | 1,400W |
| * 표시된 사양은 밀집(dense) / 희소(sparse) 모드 기준|** 표시된 사양은 희소(sparse) 모드 기준 |
Ready to Get Started with NVIDIA GB300?
NVIDIA GB300에 대해 자세히 알아보고 귀하의 요구사항에 맞춘 맞춤 견적을 받으려면 영업팀에 문의하세요.