PNY NVIDIA H100 NVL PCIe 94 GB HBM3 — ускоритель Hopper для инференса больших языковых моделей
H100 NVL несёт 94 ГБ памяти HBM3 с пропускной способностью 3938 ГБ/с — это наибольший объём и самая высокая скорость памяти среди PCIe-карт линейки H100. Такая конфигурация рассчитана на модели, которые не помещаются в 80-гигабайтные ускорители: развёртывание и дообучение LLM уровня Llama 70B, генеративный ИИ, работа с большими контекстными окнами без разбиения модели между картами.
Графический процессор GH100 на архитектуре NVIDIA Hopper (техпроцесс TSMC 4N) содержит 14 592 ядра CUDA и 456 тензорных ядер 4-го поколения с Transformer Engine и поддержкой FP8 — до 3341 TFLOPS FP8 и 3341 TOPS INT8 со Sparsity. Две карты объединяются тремя мостами NVLink с полосой до 600 ГБ/с, образуя конфигурацию H100 NVL с 188 ГБ суммарной памяти.
- Память: 94 ГБ HBM3 с ECC, 3938 ГБ/с, шина 6016 бит
- 14 592 ядра CUDA, 456 тензорных ядер 4-го поколения; FP64 — 30 TFLOPS, FP64 Tensor — 60 TFLOPS
- Интерфейс PCI Express Gen5 x16 (128 ГБ/с), совместимость с Gen4 x16
- NVLink через 3 моста — до 600 ГБ/с между двумя картами
- Multi-Instance GPU: до 7 изолированных инстансов
- FHFL, двухслотовая, пассивное охлаждение, питание 16-pin (12V-2x6), 350–400 Вт
Карта поставляется без видеовыходов (headless) и требует системного обдува в серверном шасси. В комплект входит лицензия NVIDIA AI Enterprise; аппаратные декодеры 7x NVDEC и 7x JPEG ускоряют подготовку данных. Поставляем как официальный партнёр PNY/NVIDIA — гарантия от дистрибьютора, счёт с НДС и расчёт multi-GPU и NVLink-конфигураций под вашу платформу. Консультация инженера: 093 594 00 77.
