NVIDIA H100 NVL
- Architektura GPU NVIDIA Hopper
- Procesor graficzny zoptymalizowany pod obliczenia
- 14592 rdzenie NVIDIA CUDA
- 456 rdzeni NVIDIA Tensor
- 94 GB pamięci HBM2e z ECC
- Przepustowość pamięci do 3,9 TB/s
- Maksymalne zużycie energii: 400 W
- Magistrala graficzna: PCI-E 5.0 x16
- Chłodzenie: pasywne
Na zamówienie
Darmowa dostawa
Promocja cenowa na model HDR-15-5
Produkt przeznaczony wyłącznie do zastosowań profesjonalnych
NVIDIA H100 NVL
Opis
Procesor graficzny NVIDIA H100 Tensor Core zapewnia wyjątkową wydajność, skalowalność i bezpieczeństwo dla każdego rodzaju obciążeń. H100 wykorzystuje przełomowe innowacje oparte na architekturze NVIDIA Hopper, oferując najlepszą w branży wydajność w zadaniach konwersacyjnej AI i przyspieszając działanie dużych modeli językowych (LLM) 30-krotnie. H100 wyposażono również w dedykowany Transformer Engine, umożliwiający obsługę modeli językowych z bilionem parametrów.
Specyfikacja
| H100 SXM | H100 NVL | |
|---|---|---|
| FP64 | 34 teraFLOPS | 30 teraFLOPS |
| Rdzenie Tensor FP64 | 67 teraFLOPS | 60 teraFLOPS |
| FP32 | 67 teraFLOPS | 60 teraFLOPS |
| Rdzenie Tensor TF32* | 989 teraFLOPS | 835 teraFLOPS |
| Rdzenie Tensor BFLOAT16* | 1,979 teraFLOPS | 1,671 teraFLOPS |
| Rdzenie Tensor FP16* | 1,979 teraFLOPS | 1,671 teraFLOPS |
| Rdzenie Tensor FP8* | 3,958 teraFLOPS | 3,341 teraFLOPS |
| Rdzenie Tensor INT8* | 3,958 TOPS | 3,341 TOPS |
| Pamięć GPU | 80 GB | 94 GB |
| Przepustowość pamięci GPU | 3,35 TB/s | 3,9 TB/s |
| Dekodery | 7 NVDEC, 7 JPEG | 7 NVDEC, 7 JPEG |
| Maksymalny pobór mocy (TDP) | Do 700 W (konfigurowalny) | 350-400 W (konfigurowalny) |
| Wieloinstancyjne GPU (MIG) | Do 7 MIG po 10 GB każdy | Do 7 MIG po 12 GB każdy |
| Format karty | SXM | PCIe dual-slot, chłodzenie powietrzem |
| Interfejs połączenia | NVIDIA NVLink™: 900 GB/s, PCIe Gen5: 128 GB/s | NVIDIA NVLink: 600 GB/s, PCIe Gen5: 128 GB/s |
| Opcje serwerowe | NVIDIA HGX H100, Partner i systemy certyfikowane przez NVIDIA z 4 lub 8 GPU | NVIDIA DGX H100 z 8 GPU, Partner i systemy certyfikowane przez NVIDIA z 1–8 GPU |
| Dodatki NVIDIA Enterprise | Wliczone | Wliczone |
| Uwagi | *Z użyciem sparsity | |
