32 ГБ GDDR7 и MIG для AI-инференса в стойке на 165 Вт
RTX PRO 4500 Server Edition закрывает задачу, где нужно много параллельных AI-нагрузок при ограниченном питании: дата-центр, облако, edge-узлы. Архитектура NVIDIA Blackwell даёт 10 496 CUDA-ядер, 328 Tensor-ядер 5-го поколения и 82 RT-ядра 4-го поколения, а 32 ГБ GDDR7 с ECC на 256-битной шине прокачивают 800 ГБ/с. Этот SKU TCSRTXPRO4500SE-PB — розничная версия в фирменной упаковке PNY с полным пакетом гарантии от дистрибьютора ASBIS.
Карта выполнена односекционной (single-slot) в пассивном FHFL-формате с TGP 165 Вт, поэтому несколько ускорителей встают в узел без борьбы за слоты и питание. Подключение: PCI Express 5.0 x16, питание через один разъём PCIe CEM5 16-pin. Видеовыходов нет: это headless-карта под вычисления, а не под монитор.
- NVIDIA Blackwell: 10 496 CUDA / 328 Tensor (5 gen) / 82 RT (4 gen)
- 32 ГБ GDDR7 с ECC, 256-бит, 800 ГБ/с
- Single-slot пассив, FHFL, 165 Вт TGP, PCIe 5.0 x16
- MIG: до 2 изолированных инстансов по 16 ГБ для vGPU/VDI
- NVENC 9 gen / NVDEC 6 gen с 4:2:2; NVLink не поддерживается
Confidential Computing и Transformer Engine 2-го поколения держат безопасный инференс генеративных моделей, MIG делит ресурс на двух независимых пользователей, а аппаратные видеодвижки разгружают транскодирование 4:2:2. Подскажем vGPU-профили и совместимость с вашей серверной платформой — инженер на линии 093 594 00 77.
Частые вопросы
Какую модель можно запустить на 32 ГБ памяти?
Ориентировочно 13B в 8-битной точности или 30B в 4-битной без запаса. Точная цифра зависит от длины контекста: чем длиннее диалог, тем больше съедает кеш. Память карты 32 ГБ GDDR7, шина 256 bit.
Какой графический чип стоит на карте?
NVIDIA RTX PRO 4500, 10496 вычислительных ядер. Именно поколение чипа определяет, какие форматы вычислений поддерживаются аппаратно, а это влияет на скорость инференса сильнее, чем голый объём памяти.
Какая гарантия и что в комплекте?
Гарантия 36 мес. Поставляется в заводской упаковке производителя. Состав комплекта уточняйте перед заказом.
Не уверены, что карта подойдёт к вашей системе?
Проверим совместимость с платформой, посчитаем питание под конфигурацию и подскажем, хватит ли памяти под ваши модели.
Нужной модели нет в наличии? ETE есть в официальном перечне партнёров PNY, поэтому возим профессиональные карты NVIDIA под заказ с гарантией производителя.
Напишите в Telegram или оставьте заявку.
