GPU для виртуализации: MIG, vGPU и сколько ВМ на карту

Карту делят двумя способами. MIG режет GPU аппаратно на изолированные части с собственной памятью, vGPU нарезает время и требует лицензии на каждого пользователя. Дальше цифры: сколько виртуалок получается на конкретной карте, что нужно докупить к железу и где конструкция ломается.

MIG и vGPU: что из чего режется

MIG разрезает карту аппаратно. Каждый инстанс получает свои вычислительные блоки, свою память и свою полосу памяти, поэтому сосед по карте на вас не влияет. vGPU устроен иначе: все виртуалки видят одну и ту же карту и ходят к ней по очереди.

Есть ещё гибрид. MIG-backed vGPU кладёт виртуальную карту поверх аппаратного слайса, и внутри слайса можно нарезать ещё и временем. На профиле 48 ГБ такой режим дал на 20% больше, чем чистое разделение по времени, по сайзинг-гайду NVIDIA.

Сколько кусков даёт карта

Количество инстансов задано архитектурой, настройками его не изменить. Семь частей умеют только датацентровые карты на HBM.

На RTX PRO 6000 доступны профили 1g.24gb (четыре штуки), 2g.48gb (два) и полный 4g.96gb, у каждого есть вариант +gfx, то есть с графикой внутри слайса. До Blackwell такого не было: строка «no graphics APIs are supported» до сих пор стоит в документации с пометкой об исключении для этой серии. При нарезке на четыре части 96 ГБ и 188 SM расходятся по 23,62 ГиБ и 46 SM, а GPT-OSS-20B на таком куске выдаёт около 80 токенов в секунду.

Карта, сценарий, сколько мест

Числа 48 и 12 друг другу не противоречат: сорок восемь это графические профили, двенадцать потолок вычислительных. Сайзинг-гайд добавляет, что планировщик best effort «often results in a 2-3x oversubscription»: когда люди не работают одновременно на полную, мест влезет больше. Правило мониторинга: если видеопамять в виртуалке упирается в потолок профиля, увеличивают профиль, а не число мест.

Лицензии: без них карта работает 20 минут

Продуктов три, и счёт идёт на каждого одновременно активного пользователя, а не на карту. vApps это стриминг приложений: один дисплей, 1280×1024, профили A-серии. vPC это виртуальные десктопы: четыре дисплея до 5120×2880, B-серия, без CUDA. vWS это CAD и разработка: до 7680×4320, Q-серия, CUDA и несколько vGPU на одну виртуалку. В прайс-листе NVIDIA vWS дороже vPC впятеро и дороже vApps в двадцать пять раз, так что ошибка с продуктом стоит дороже ошибки с картой.

Вычислительные C-профили в тройку не входят: они живут только в NVIDIA AI Enterprise, которая лицензируется на каждый GPU в сервере, а не на человека. На форуме спрашивали прямо, включены ли vWS, vPC или vApps в AI Enterprise. Ответ короткий: нет, только C-профили. Для смешанного парка это две закупки.

Когда лицензия отвалилась, включается двухстадийная деградация: двадцать минут на полной скорости, дальше не больше 1280×1024, три кадра в секунду и выключенная CUDA. После восстановления связи ограничения снимаются, а приложения приходится перезапускать.

Гипервизоры

Две детали ломают планы чаще всего. В Proxmox MIG-инстансы создаются руками из командной строки, раскладку vGPU по слайсам изменить нельзя, AI Enterprise там официально не поддерживается. Live Migration требует одинаковой модели GPU и одинаковых версий драйвера и гипервизора на обоих хостах, а между разными MIG-профилями не работает вовсе.

Что ломается на практике

Самая длинная история у RTX PRO 6000 Blackwell. Карты шли с vBIOS 98.02.52.00.02, а MIG требует 98.02.55.00.00, которого на запуске не существовало. Люди получали «Unable to enable MIG Mode: Not Supported» и спрашивали на форуме «why sell a feature and not allow it?». Рабочий порядок описан на форуме под ником eousphoros: обновить vBIOS через партнёра, переключить карту в compute-режим утилитой DisplayModeSelector, дальше профили назначаются. Тред от 30 июня 2026 с той же проблемой до сих пор открыт.

У compute-режима есть последствия. На станции, где карта единственная и держит монитор, видеовыход гаснет. BAR1 растёт с 256 МБ до 64 ГБ непрерывного адресного пространства, и материнская плата должна уметь это выделить. Если не умеет, вернуть настройку на этой же машине уже не получится.

Ограничения, общие для всех карт: MIG выключает NVLink и peer-to-peer, GPUDirect между MIG-устройствами не поддерживается, NCCL с MIG не работает. Распределённое обучение на нарезанной карте строить смысла нет, и NVIDIA формулирует это прямо: MIG для задач, которым не нужен целый GPU. Только Linux с CUDA.

Становится ли быстрее от нарезки

Зависит от того, загружает ли задача карту целиком. Если нет, разделение поднимает суммарную пропускную способность.

Последняя строка важнее всех. Отдельной задаче от нарезки становится хуже, потому что слайс это буквально 1/7 карты сразу по трём ресурсам. Выигрыш появляется только когда слайсов много и все заняты, причём масштабирование сублинейное: бенчмарк MIGPerf показал, что N инстансов N-кратной пропускной способности не дадут.

Вторая причина резать аппаратно это предсказуемость. В тесте с семью арендаторами на A100 защищённый сервис держал P95 около 1319 мс на MIG против 2499 мс на общей карте, а во время всплесков у соседей задержка почти не двигалась.

Что из этого есть у нас

• RTX PRO 6000 Server Edition 96 ГБ: единственная редакция с MIG и vGPU сразу. Охлаждение пассивное, нужен серверный продув
• L40S 48 ГБ: аппаратного деления нет, под VDI с разделением по времени карта рабочая, до 6 профилей 8Q
• RTX PRO 5000 Blackwell 48 ГБ: два инстанса по 24 ГБ, когда нужно развести две задачи и не платить за 96 ГБ
• RTX PRO 5000 Blackwell 72 ГБ: больше памяти под модели, для MIG нужен DisplayModeSelector 1.76

Частые вопросы

Эти модели есть в каталоге

Видеокарта PNY NVIDIA RTX PRO 6000 Server Edition 96 ГБСмотреть в каталоге → Видеокарта PNY NVIDIA L40S 48 ГБСмотреть в каталоге → Видеокарта PNY NVIDIA RTX PRO 4500 Server Edition 32 ГБСмотреть в каталоге →