Сервер под продакшн-инференс, когда на одной машине живёт несколько моделей и каждой нужна своя память. Четыре NVIDIA RTX PRO 6000 Blackwell Server Edition дают 384 ГБ VRAM. По цене гигабайта это самый выгодный вариант среди серверных карт.
Конфигурация
- Платформа: 4U для стойки, до 8 GPU
- Процессоры: 2× AMD EPYC 9355
- Память: 768 ГБ DDR5-6400 ECC Registered (12× 64 ГБ)
- Видеокарты: 4× NVIDIA RTX PRO 6000 Blackwell Server Edition 96 ГБ
- Диски: 2× 960 ГБ M.2 под систему в RAID1, 2× 7.68 ТБ U.2 NVMe под данные
- Сеть: 2× 25GbE, опционально 200G
- Питание: 4× 3200 Вт с резервированием 2+2
Куда расти
Корпус держит восемь карт, то есть 768 ГБ видеопамяти, память расширяется до 1.5 ТБ. Карты делятся между командами через MIG: каждая получает изолированную часть GPU вместо очереди за целой картой.
Как заказать
Количество карт, объём памяти и дисков подбираем под нагрузку. Цену на конфигурацию и срок поставки называет менеджер. Оставьте запрос, и мы ответим.
Частые вопросы
Почему четыре RTX PRO 6000, а не две H200?
Четыре карты по 96 ГБ дают 384 ГБ видеопамяти и четыре независимых устройства под разные модели или команды. H200 NVL выигрывает там, где одна модель должна лежать в общем пуле памяти.
Можно ли разделить карты между командами?
Да, RTX PRO 6000 Server Edition поддерживает MIG: карта делится на изолированные части с собственной памятью. Это штатный способ отдать одну машину нескольким командам.
Сколько места под датасеты?
Два NVMe U.2 по 7.68 ТБ под данные плюс два системных M.2 по 960 ГБ в RAID1. Объём расширяем под ваши датасеты.
Нужна ли лицензия NVIDIA AI Enterprise?
Не обязательно. Подписка под RTX PRO 6000 Server Edition есть в каталоге отдельно, на три или пять лет, и нужна тем, кому важна поддержка производителя.
Можно ли изменить состав системы?
Да. Количество карт, память, диски и сеть подбираем под нагрузку. Опишите задачу на странице индивидуальной конфигурации.
Сколько ждать поставку?
Система собирается под заказ. Точный срок на текущую конфигурацию называет менеджер после запроса.
