Мережеві адаптери й DPU NVIDIA

Чим мережева карта для розрахунків відрізняється від звичайної

Звичайний Ethernet-адаптер віддає кожен пакет процесору. Коли трафік вимірюється сотнями гігабіт, процесор перестає рахувати задачу й починає розбирати мережу. Адаптери ConnectX працюють інакше: RDMA дозволяє записати дані прямо в пам'ять іншого сервера, оминаючи процесор.

Саме тому в кластерах на кілька вузлів мережева карта впливає на час навчання моделі не менше за самі прискорювачі.

ConnectX чи BlueField

• ConnectX-7 і ConnectX-8. Швидкі адаптери на 200, 400 і 800 Гбіт/с. Працюють в режимі InfiniBand або Ethernet, вибір робиться налаштуванням.
• BlueField-3. Це вже не карта, а окремий комп'ютер у слоті: власні ядра Arm, власна пам'ять і операційна система. Забирає на себе шифрування, зберігання й мережеві політики, звільняючи процесор сервера повністю.

На що дивитись при виборі

Швидкість порту має відповідати комутатору й кабелю: адаптер на 400 Гбіт/с у порту на 200 працюватиме на 200. Кількість портів визначає схему резервування. Роз'єм OSFP чи QSFP112 визначає, які кабелі підійдуть, і переплутати їх легко.

Окремо перевіряють слот у сервері. Карта на PCIe 5.0 x16 у слоті x8 віддасть половину смуги, і сенс покупки зникає.

Напишіть модель сервера й потрібну швидкість, і ми підберемо адаптер разом із кабелем і трансивером, які до нього стануть.