Решения под задачу

Из пятнадцати моделей Nutanix NX карты берут одиннадцать, а потолок на узел это четыре H100 или L40S в NX-9151-G9. Разобрали, какие узлы поддерживают GPU, сколько виртуалок выходит на карту через MIG и vGPU, и почему L40S на аппаратные слайсы не делится вообще. Плюс то, о чём молчат презентации: MIG выключает NVLink, а живая миграция требует одинакового железа на обоих хостах.

MIG режет карту аппаратно, vGPU делит время и требует лицензии на каждого пользователя. Разбираем, сколько виртуальных машин получается на RTX PRO 6000, RTX PRO 5000 и L40S, какие профили и лицензии для этого нужны, на каких гипервизорах работает MIG-backed vGPU и почему карта с MIG в даташите может не включать его на практике.

Паспортные 600 Вт на карте это требование к блоку питания, а не потребление машины. Собрали измеренные числа для станций на одну, две и четыре карты, разобрали sense-пины 12VHPWR и 12V-2x6 и объяснили, почему RTX PRO 6000 в сервере часто упирается в 450 Вт вместо 600. Плюс расчёт под украинскую линию на 16 ампер.

Веса модели считаются в одно действие, а KV-кеш съедает ещё столько же и больше: 70B с контекстом на 128 тысяч токенов это 180 ГБ на одного человека. Разбираем официальные формулы NVIDIA и показываем, сколько параллельных сессий вытянет карта на 32, 48, 72, 96 и 141 ГБ. Плюс две ловушки, из-за которых модель не стартует на карте, куда она по арифметике влезает.