Новини та огляди

Раніше замовник купував обладнання в одному місці, а тих, хто його впровадить, шукав окремо. Тепер обидві частини закриває одна команда: ETE відповідає за сервери, GPU та мережу, Vixen.UNO за віртуалізацію, хмари й Kubernetes. За плечима партнера 72 віртуалізовані інфраструктури та 42 міграції в хмару. Розбираємо, хто за що відповідає і що можна замовити разом.

Сторінку партнерів веде сам виробник, і картка ETE там є: шість напрямків компетенції, від серверних GPU до Omniverse. У переліку 714 компаній, повний набір із цих шести мають 68, тобто 9,5%. Розбираємо, що стоїть за кожним напрямком, чому в картці немає жодної роздрібної позиції і що партнерський статус дає покупцю на практиці.

128 ГБ уніфікованої пам'яті в коробці розміром із товстий роутер. Зібрали заміри незалежних оглядачів і офіційні числа NVIDIA, щоб показати, де Spark сильний, а де цифри з презентації розходяться з реальністю. Головне обмеження: 273 ГБ/с пропускної здатності, через які щільна модель на 70 мільярдів параметрів видає 2,7 токена за секунду на одному користувачі.

З п'ятнадцяти моделей Nutanix NX карти беруть одинадцять, а стеля на вузол це чотири H100 або L40S у NX-9151-G9. Розібрали, які вузли підтримують GPU, скільки віртуалок виходить на карту через MIG і vGPU, і чому L40S на апаратні слайси не ділиться взагалі. Плюс те, про що мовчать презентації: MIG вимикає NVLink, а жива міграція вимагає однакового заліза на обох хостах.

MIG ріже карту апаратно, vGPU ділить час і потребує ліцензії на кожного користувача. Розбираємо, скільки віртуальних машин виходить на RTX PRO 6000, RTX PRO 5000 і L40S, які профілі та ліцензії для цього потрібні, на яких гіпервізорах працює MIG-backed vGPU і чому карта з MIG у даташиті може не вмикати його на практиці.

Одна карта дає 48 ГБ і 300 Вт, друга 96 ГБ і 600 Вт. Між ними подвоєна пам'ять, шина 512 біт замість 384, тензорні ядра п'ятого покоління з підтримкою FP4 і апаратний поділ MIG, якого в Ada не було взагалі. Зібрали цифри з даташитів і реальних замірів, щоб було видно, коли доплата за нове покоління окупається, а коли Ada закриває задачу.

Кристал AD102, 48 ГБ GDDR6 з ECC і 864 ГБ/с у пасивній карті на 350 Вт. Розбираємо, чим L40S відрізняється від L40 (спойлер: тільки TDP і тензорні числа в даташиті), скільки віртуальних робочих місць вона реально тягне і чому в робочій станції гріється до 100°C. Плюс чесний список задач, де вона програє H100 і RTX 6000 Ada.

Паспортні 600 Вт на карті це вимога до блока живлення, а не споживання машини. Зібрали виміряні числа для станцій на одну, дві й чотири карти, розібрали sense-піни 12VHPWR і 12V-2x6 і пояснили, чому RTX PRO 6000 у сервері часто впирається в 450 Вт замість 600. Плюс розрахунок під українську лінію на 16 ампер.

Три версії RTX PRO 6000 мають один кристал GB202, 96 ГБ GDDR7 і 24 064 CUDA-ядра, але офіційна таблиця NVIDIA не показує ані пропускної здатності, ані MIG, ані vGPU. Ми зібрали числа з даташитів і whitepaper: 1792 проти 1597 ГБ/с, 600 проти 300 Вт, скільки карт влазить у корпус і чому серверна карта тихо ріжеться до 450 Вт через кабель.

Один кристал GB202, 24 064 CUDA-ядра і 96 ГБ GDDR7 з ECC у трьох версіях: Workstation, Max-Q і Server Edition. Розібрали, де різниця між 1792 і 1597 ГБ/с справді помітна, як насправді вмикається MIG і чому серверна карта мовчки сідає на 450 Вт. Плюс заміри в Llama 3.3 70B, Blender і V-Ray та профіль споживання від простою до тренування.

Обчислювальний кремній у двох карт однаковий до останньої цифри: ті самі 835 TFLOPS у TF32 і 3341 у FP8. Уся різниця живе в пам'яті, 141 ГБ проти 94 і 4813 ГБ/с проти 3938. Розібрали, на яких задачах приріст доходить до 3,4 раза, а де він дорівнює нулю, і як порахувати, коли доплата за H200 NVL повертається.

141 ГБ HBM3e і 4 813 ГБ/с проти 94 ГБ і 3 938 ГБ/с у H100 NVL, при цьому обчислювальна частина в обох карт однакова. Розбираємо, які моделі влазять цілком, чим NVL відрізняється від SXM і скільки дає NVLink-місток на чотири карти. Окремо про те, кому ця карта завелика: приріст над H100 гуляє від нуля до 3,4 раза.

Ваги моделі рахуються в одну дію, а KV-кеш з'їдає ще стільки ж і більше: 70B із контекстом на 128 тисяч токенів це 180 ГБ на одну людину. Розбираємо офіційні формули NVIDIA й показуємо, скільки паралельних сесій витягне карта на 32, 48, 72, 96 і 141 ГБ. Плюс дві пастки, через які модель не стартує на карті, куди вона за арифметикою влазить.