Узел под обучение одной большой модели. Восемь NVIDIA H200 NVL дают 1128 ГБ HBM3E, собранных двумя четвёрками с мостами NVLink: карты внутри четвёрки обмениваются напрямую, минуя PCIe. Модель, которая не помещается в одну карту, остаётся в пределах машины и не уходит в сеть.
Конфигурация
- Платформа: GIGABYTE G494-ZB4-AAP2, 4U для стойки, 8 GPU
- Процессоры: 2× AMD EPYC 9655, по 96 ядер
- Память: 1.5 ТБ DDR5-5200 ECC Registered (24× 64 ГБ, один модуль на канал)
- Видеокарты: 8× NVIDIA H200 NVL 141 ГБ, две четвёрки с 4-way NVLink
- Диски: 12 отсеков 2.5" Gen5 NVMe, суммарный объём выбирается ниже
- Сеть: NVIDIA ConnectX-7 400GbE / NDR
- Питание: 4× 3000 Вт 80 PLUS Titanium с резервированием
Куда расти
48 слотов памяти держат до 3 ТБ, но второй модуль на канал снижает частоту до 4400 или 4000 MT/s: за объём платим скоростью. Под восемь карт на 600 Вт ставится комплект вентиляторов, он добавляет 120 мм глубины, поэтому в стойке нужно закладывать метр.
Как заказать
Объём памяти, диски и сеть подбираем под нагрузку. Цену на конфигурацию и срок поставки называет менеджер. Оставьте запрос, и мы ответим.
Выбираете между настольной станцией и кластером?
Расскажите, какие модели планируете запускать и сколько людей с ними будет работать. Посчитаем, хватит ли одного узла или выгоднее собрать сервер с GPU.
Поставляем как официальный партнёр PNY, с гарантией производителя.
Напишите в Telegram или оставьте заявку.
Частые вопросы
Сколько места в стойке займёт машина?
Корпус 4U глубиной 880 мм, но под восемь карт на 600 Вт ставится комплект вентиляторов, и глубина становится 1000.5 мм. То есть в стойке нужно закладывать метр, иначе двери не закроются. Вес 66.8 кг: в стойку ставят вдвоём или подъёмником.
Что даёт 4-way NVLink против обычного PCIe?
Восемь карт собраны двумя четвёрками, и внутри четвёрки обмен идёт мостом, а не через процессор. Для одной большой модели это значит, что слой, разложенный на четыре карты, не упирается в шину PCIe. Между четвёрками обмен уже обычный.
Почему память 1.5 ТБ, если слотов 48?
В базовой конфигурации стоят 24 модуля по 64 ГБ, по одному на канал, и память работает на 5200 MT/s. Заполнить все 48 можно, это даст до 3 ТБ, но второй модуль на канал снижает частоту до 4400 или 4000 MT/s. Выбираем под задачу: объём или скорость.
Можно ли поставить другие видеокарты?
Платформа валидирована производителем под восемь H200 NVL и под восемь RTX PRO 6000 Server Edition, но только одной моделью на машину: «The system is only validated with a uniform GPU model». Смешивать карты нельзя, а сборку на RTX PRO мы ведём отдельной карточкой.
Чем отличаются варианты дисков в выборе?
Отсеков двенадцать, разница в ёмкости каждого диска: 1.92 ТБ на PCIe 5.0, 3.84 и 7.68 ТБ на PCIe 4.0. Отсюда три суммарных объёма: 23.04, 46.08 и 92.16 ТБ. Если нужен другой набор, менеджер соберёт конфигурацию под задачу.
