H200 NVL: 141 ГБ HBM3e для моделей на 70B+ параметрів на одній карті
PNY NVIDIA H200 NVL — обчислювальний прискорювач на архітектурі Hopper із 141 ГБ пам'яті HBM3e та пропускною здатністю 4,8 ТБ/с. Об'єму вистачає, щоб тримати велику мовну модель цілком у пам'яті однієї карти без шардингу — інференс і донавчання LLM на 70B+ параметрів виконуються без виносу ваг у системну RAM.
14 592 ядра CUDA та 456 Tensor-ядер 4-го покоління з Transformer Engine і підтримкою FP8 дають до 3 341 TFLOPS у FP8 (зі sparsity) та 1 671 TFLOPS у BFLOAT16/FP16. Для масштабування передбачено NVLink-міст на 2 або 4 карти з пропускною здатністю 900 ГБ/с на GPU — це знімає вузьке місце міжкартового обміну в кластерах генеративного AI та HPC.
- Пам'ять: 141 ГБ HBM3e, шина 6016-bit, 4,8 ТБ/с, ECC
- Інтерфейс: PCIe 5.0 x16, NVLink 900 ГБ/с (2/4-way)
- Форм-фактор: dual-slot FHFL ~267 мм, пасивне охолодження для серверного корпусу
- Живлення: конфігурований TGP до 600 Вт
- MIG: до 7 ізольованих інстансів по ~16,5 ГБ
- У комплекті: 5-річна підписка NVIDIA AI Enterprise
Карта розрахована на NVIDIA-Certified сервери до 8 GPU, підтримує Confidential Computing, має 7 декодерів NVDEC та 7 JPEG-движків. Це retail-постачання у фірмовій упаковці PNY з повною гарантією від офіційного дистриб'ютора. Підбір multi-GPU конфігурації під вашу модель — за номером 093 594 00 77.
