NVIDIA GB300
NVIDIA GB300 為先進 AI 工作負載提供尖端效能，搭載 36 顆 NVIDIA Grace™ CPU 與 72 顆 NVIDIA Blackwell Ultra GPU。其支援最高達 18 TB 具 ECC 功能的 LPDDR5X 記憶體，以及最高達 21 TB 的 HBM3e 記憶體，總共可提供高達 40 TB 的超高速、低延遲記憶體。透過 NVIDIA NVLink™ 互連技術實現每秒 130 TB 的 GPU 對 GPU 傳輸頻寬，GB300 特別針對 AI 推理、智能代理（agentic AI）與實體 AI（physical AI）進行優化，能無縫處理大規模模型與複雜運算。
產品亮點
次世代 AI 超級電腦
- 搭載 NVIDIA Blackwell Ultra GPU 與 Grace CPU
- 專為兆級參數大語言模型（LLM）、即時推理與科學運算而設計
效能
- AI 工廠整體輸出效能相較於 HGX H100 提升 50 倍
- AI 運算效能（FP4 密集格式）相較於 HGX H100 提升 70 倍
- 支援多種精度模式：FP4、FP8、INT8、FP16、TF32、FP32、FP64
記憶體與頻寬
- 72 個 GPU 共享 21 TB HBM3e 記憶體
- 透過 NVSwitch™ 實現總計 130 TB/s 的 NVLink™ 匯流排頻寬
網路與可擴展性
- ConnectX-8 網路介面卡提供高達 800 GB/s 的網路頻寬
- 支援透過 NVLink™ 互連技術的多節點 GPU 叢集
- 專為超大規模 AI 資料中心設計
企業級與雲端就緒
- 專為多租戶雲端與零信任環境設計
- 支援液冷散熱與可組合基礎架構
技術規格
| 型號 | GB300 NVL72 |
|---|---|
| GPU 世代 | Blackwell Ultra |
| GPU 數量 | 72 |
| 總 FP4 * | 1,100 | 1,440 PFLOPS |
| 總 FP8 ** | 720 PFLOPS |
| 總記憶體容量 | 21TB HBM3e |
| 總記憶體頻寬 | 576TB/s |
| NVLink | 第 5 代 |
| GPU 對 GPU 頻寬 | 1.8TB/s |
| 總聚合頻寬 | 130TB/s |
| FP4 * | 15 | 20 PFLOPS |
|---|---|
| FP8 ** | 10 PFLOPS |
| FP16 ** | 5 PFLOPS |
| 記憶體容量 | 288GB HBM3e |
| 記憶體頻寬 | 8TB/s |
| 最大熱設計功耗 (TDP) | 1,400W |
| * 所示規格為密集/稀疏運算 | ** 所示規格為稀疏運算 |
Ready to Get Started with NVIDIA GB300?
聯絡我們的銷售團隊，了解 NVIDIA GB300 的更多資訊，
並取得符合您需求的專屬報價。