Решения под задачу

Второй узел удваивает память, но не добавляет скорости ответа: она держится на 273 ГБ/с каждой машины. Разбираем, чем сшиваются два Spark, какой именно кабель QSFP112 валидировала NVIDIA, почему паспортные 200 Гб/с в открытых тестах превращались в 92 до 95, и где продуктовая страница NVIDIA расходится с инструкцией по эксплуатации насчёт количества узлов.

Кластер на два или четыре узла упирается не в видеокарты, а в сеть между ними. Разбираем цифры ConnectX-7 из даташита, разницу между MQM9700 со встроенным subnet manager и MQM9790 без него, что приходится настраивать для RoCE на коммутаторах Spectrum, почему один порт OSFP несёт два NDR и в каких сценариях Ethernet на 100 Гбит/с закрывает задачу полностью.

Не каждой команде нужна стойка и серверная комната. Станция на RTX PRO 6000 Blackwell 96 ГБ и Threadripper PRO 7975WX держит модели до 70 миллиардов параметров, работает от обычной розетки и стоит в кабинете. Объясняем, почему 96 ГБ на одной карте снимают целый пласт инженерии, что даёт память ECC и почему это логичный следующий шаг после DGX Spark.

Когда на одной машине круглосуточно живут несколько моделей, считают не пиковую производительность, а цену гигабайта видеопамяти. Четыре RTX PRO 6000 Blackwell Server Edition дают 384 ГБ, а аппаратное деление MIG превращает их в дюжину логических карт, чтобы команды не стояли в очереди. Сравниваем с машиной на H200 и объясняем, почему в стойку идёт именно серверное исполнение карты.

Две карты H200 NVL по 141 ГБ, связанные мостом NVLink, дают 282 ГБ общей памяти. Объясняем, почему именно 64 ядра, зачем терабайт оперативной и четыре блока питания, сколько памяти съедает модель на 70 миллиардов параметров и что меняется при дообучении. Конфигурация собрана по стандарту интеграторов Exxact, BIZON и Thinkmate.