PNY NVIDIA H100 NVL PCIe 94 GB HBM3 — прискорювач Hopper під інференс великих мовних моделей
H100 NVL несе 94 ГБ пам'яті HBM3 з пропускною здатністю 3938 ГБ/с — це найбільший об'єм і найвища швидкість пам'яті серед PCIe-карт сімейства H100. Така конфігурація розрахована на роботу з моделями, що не вміщаються у 80-гігабайтні прискорювачі: розгортання й донавчання LLM рівня Llama 70B, генеративний AI, обробка великих контекстних вікон без розбиття моделі між картами.
Графічний процесор GH100 на архітектурі NVIDIA Hopper (техпроцес TSMC 4N) має 14 592 CUDA-ядра та 456 Tensor-ядер 4-го покоління з Transformer Engine і підтримкою FP8 — до 3341 TFLOPS FP8 і 3341 TOPS INT8 із Sparsity. Пара карт об'єднується трьома NVLink-мостами зі смугою до 600 ГБ/с, утворюючи конфігурацію H100 NVL із 188 ГБ сукупної пам'яті.
- Пам'ять: 94 ГБ HBM3 з ECC, 3938 ГБ/с, шина 6016 біт
- 14 592 CUDA-ядра, 456 Tensor-ядер 4-го покоління; FP64 — 30 TFLOPS, FP64 Tensor — 60 TFLOPS
- Інтерфейс PCI Express Gen5 x16 (128 ГБ/с), сумісність із Gen4 x16
- NVLink через 3 мости — до 600 ГБ/с між двома картами
- Multi-Instance GPU: до 7 ізольованих інстансів
- FHFL, двослотова, пасивне охолодження, живлення 16-pin (12V-2x6), 350–400 Вт
Карта йде без відеовиходів (headless) і потребує системного обдуву в серверному шасі. У комплект входить ліцензія NVIDIA AI Enterprise; апаратні декодери 7x NVDEC і 7x JPEG прискорюють підготовку даних. Постачаємо як офіційний партнер PNY/NVIDIA — гарантія від дистриб'ютора, рахунок із ПДВ і прорахунок multi-GPU та NVLink-конфігурацій під вашу платформу. Консультація інженера: 093 594 00 77.
