Серверы AI

Три разные задачи, три разные машины

Слово «AI-сервер» описывает минимум три конфигурации, и лучшей среди них нет. Есть та, что отвечает вашей задаче.

• Обучение и дообучение моделей. Здесь решает объём видеопамяти и скорость связи между картами. H200 со своими 141 ГБ позволяет держать в памяти то, что на меньших картах приходится резать на части.
• Инференс под нагрузкой. Модель уже обучена, и важно число одновременных запросов на вложенный доллар. Здесь выгоднее несколько карт RTX PRO, чем одна самая дорогая.
• Локальная работа под столом. Компактная станция, которая держит модель у себя, не отдаёт данные наружу и не шумит в кабинете.

О чём спрашивают перед заказом

Сколько параметров в модели, с какой точностью планируете считать и сколько пользователей будут работать одновременно. Этих трёх ответов хватает, чтобы назвать нужный объём видеопамяти и количество карт.

Дальше идёт место размещения. Стойка в серверной, тумба в офисе и полка в кабинете задают разные требования к шуму, питанию и охлаждению.

Что входит в готовую систему

Каждая конфигурация собрана и проверена целиком: карты, процессор с нужным числом линий PCIe, память под объём модели, накопители под датасеты, питание с запасом на пики. Систему можно изменить под вас, от объёма дисков до сетевой карты под InfiniBand.

Опишите задачу своими словами, и мы предложим конфигурацию с объяснением, почему именно такой набор.