Сравнения моделей

Одна карта даёт 48 ГБ и 300 Вт, вторая 96 ГБ и 600 Вт. Между ними удвоенная память, шина 512 бит вместо 384, тензорные ядра пятого поколения с поддержкой FP4 и аппаратное деление MIG, которого у Ada не было вообще. Собрали цифры из даташитов и реальных замеров, чтобы было видно, когда доплата за новое поколение окупается, а когда Ada закрывает задачу.

У трёх версий RTX PRO 6000 один кристалл GB202, 96 ГБ GDDR7 и 24 064 CUDA-ядра, но официальная таблица NVIDIA не показывает ни пропускной способности, ни MIG, ни vGPU. Мы собрали числа из даташитов и whitepaper: 1792 против 1597 ГБ/с, 600 против 300 Вт, сколько карт влезает в корпус и почему серверная карта тихо режется до 450 Вт из-за кабеля.

Вычислительный кремний у двух карт одинаковый до последней цифры: те же 835 TFLOPS в TF32 и 3341 в FP8. Вся разница живёт в памяти, 141 ГБ против 94 и 4813 ГБ/с против 3938. Разобрали, на каких задачах прирост доходит до 3,4 раза, а где он равен нулю, и как посчитать, когда доплата за H200 NVL возвращается.