Сервер під продакшн-інференс, коли на одній машині живе кілька моделей і кожній потрібна своя пам'ять. Чотири NVIDIA RTX PRO 6000 Blackwell Server Edition дають 384 ГБ VRAM. За ціною гігабайта це найвигідніший варіант серед серверних карт.
Конфігурація
- Платформа: 4U для стійки, до 8 GPU
- Процесори: 2× AMD EPYC 9355
- Пам'ять: 768 ГБ DDR5-6400 ECC Registered (12× 64 ГБ)
- Відеокарти: 4× NVIDIA RTX PRO 6000 Blackwell Server Edition 96 ГБ
- Диски: 2× 960 ГБ M.2 під систему в RAID1, 2× 7.68 ТБ U.2 NVMe під дані
- Мережа: 2× 25GbE, опційно 200G
- Живлення: 4× 3200 Вт із резервуванням 2+2
Куди зростати
Корпус тримає вісім карт, тобто 768 ГБ відеопам'яті, пам'ять розширюється до 1.5 ТБ. Карти діляться між командами через MIG: кожна отримує ізольовану частину GPU замість черги за цілою картою.
Як замовити
Кількість карт, обсяг пам'яті й дисків підбираємо під навантаження. Ціну на конфігурацію та строк постачання називає менеджер. Залиште запит, і ми відповімо.
Часті питання
Чому чотири RTX PRO 6000, а не дві H200?
Чотири карти по 96 ГБ дають 384 ГБ відеопам'яті і чотири незалежні пристрої під різні моделі або команди. H200 NVL виграє там, де одна модель має лежати в спільному пулі пам'яті.
Чи можна поділити карти між командами?
Так, RTX PRO 6000 Server Edition підтримує MIG: карта ділиться на ізольовані частини з власною пам'яттю. Це штатний спосіб віддати одну машину кільком командам.
Скільки місця під датасети?
Два NVMe U.2 по 7.68 ТБ під дані плюс два системні M.2 по 960 ГБ у RAID1. Обсяг розширюємо під ваші датасети.
Чи потрібна ліцензія NVIDIA AI Enterprise?
Не обов'язково. Підписка під RTX PRO 6000 Server Edition є в каталозі окремо, на три або п'ять років, і потрібна тим, кому важлива підтримка виробника.
Чи можна змінити склад системи?
Так. Кількість карт, пам'ять, диски й мережу підбираємо під навантаження. Опишіть задачу на сторінці індивідуальної конфігурації.
Скільки чекати на постачання?
Система збирається під замовлення. Точний строк на поточну конфігурацію називає менеджер після запиту.
