Серверу розпізнавання мовлення на Whisper потрібно небагато відеопам'яті: large-v3 займає близько 10 ГБ, large-v3-turbo близько 6 ГБ, тож сама модель вміщується на будь-яку професійну карту від 16 ГБ. Кількість і тип GPU у сервері транскрибації визначає навантаження: скільки живих дзвінків іде одночасно в пік і скільки годин записів треба обробити за годину роботи.

Нижче зібрано опубліковані цифри пам'яті й швидкості для Whisper, Parakeet, Canary і потокових моделей NVIDIA станом на жовтень 2026 року, точність українською й російською та розрахунок сервера під дзвінки, наради й архіви.

Коротко

  • OpenAI вказує близько 10 ГБ відеопам'яті для Whisper large і близько 6 ГБ для turbo; Parakeet TDT 0.6B v3 має 600 млн параметрів, а ASR NIM від NVIDIA вимагає карту щонайменше на 16 ГБ.
  • На одній A100 у статті Open ASR Leaderboard (грудень 2025) RTFx становив 145,5 у Whisper large-v3, 749 у Canary-1B v2 і 3 333 у Parakeet TDT 0.6B v3.
  • На українському FLEURS у статті NVIDIA Whisper large-v3 має WER 6,51 %, Parakeet v3 6,79 %, Canary 10,50 %; усі три розпізнають і російську.
  • За даними NVIDIA від 07.10.2026, одна L40S обслуговує до 190 живих англомовних потоків Parakeet 0.6B CTC із фрагментами по 160 мс; Whisper у NIM працює лише офлайн.
  • З діаризацією офлайн-швидкість на L40S падає з 3 638 до 101,5 RTFx; за нашою оцінкою, карта на 48 ГБ вміщує розпізнавання, діаризацію і LLM на 20B.

Скільки відеопам'яті потрібно Whisper, Parakeet і Canary

Whisper large-v3 має 1 550 млн параметрів і 99 мов. У large-v3-turbo шарів декодера стало 4 замість 32: за словами OpenAI, модель значно швидша ціною невеликої втрати якості, але перекладу не робить. Код і ваги Whisper опубліковано під MIT, хоча картка large-v3 на Hugging Face позначена Apache 2.0.

Parakeet TDT 0.6B v3 (Hugging Face, 14.08.2025) розпізнає 25 європейських мов, серед них українську й російську, з пунктуацією та мітками часу для слів. За один прохід вона бере до 24 хвилин аудіо з повною увагою на A100 80GB або до 3 годин із локальною. Canary-1B v2 охоплює ті самі мови й перекладає з англійської та на англійську. Обидві мають ліцензію CC BY 4.0.

Модель Параметри Українська / російська Опублікована пам'ять RTFx на A100
Whisper large-v3 1 550 млн так / так, усього 99 мов близько 10 ГБ (OpenAI); профіль NIM 12,5 ГБ 145,5
Whisper large-v3-turbo 809 млн так / так, без перекладу близько 6 ГБ (OpenAI) у статті немає
Parakeet TDT 0.6B v3 600 млн так / так, 25 європейських мов профіль NIM 14,02 ГБ при пакеті 1 024 3 333
Canary-1B v2 978 млн так / так, з перекладом щонайменше 6 ГБ RAM для завантаження (картка) 749
Canary-Qwen 2.5B 2,5 млрд ні / ні, лише англійська не вказано 418
Nemotron ASR Streaming 600 млн англійська модель; версія 3.5: так / так 6 ГБ при пакеті 32, 14,6 ГБ при 64 (NIM) у статті немає

Джерело: картки моделей на Hugging Face і репозиторій Whisper, прочитано 09.10.2026; профілі NIM за матрицею підтримки ASR NIM 26.05.0 (оновлена 25.06.2026, прочитано 24.10.2026); RTFx за статтею Open ASR Leaderboard (arXiv 2510.06961v3, 10.12.2025), одна A100-SXM4-80GB, пакет 64, де дозволяла пам'ять; українська й російська за картками моделей і рейтингом Handy, прочитано 13.11.2026.

Оптимізованим рушіям пам'яті треба менше. У README faster-whisper (реалізація на CTranslate2) 13 хвилин аудіо на large-v2 з beam size 5 на GeForce RTX 3070 Ti 8 ГБ оригінальна реалізація розпізнавала 2 хв 23 с при 4 708 МБ, faster-whisper у FP16 з batch_size=8 за 17 с при 6 090 МБ, а в INT8 за 16 с при 4 500 МБ. На RTX PRO Blackwell цифри INT8 не застосовні: CTranslate2 4.6.2 від 05.12.2025 вимкнув INT8 для sm120, тож плануйте float16. Рушії порівняно в статті про faster-whisper, WhisperX і whisper.cpp.

Контейнер ASR NIM вимагає GPU з compute capability 8.0 або вище і щонайменше 16 ГБ пам'яті. Його профілі резервують пам'ять під великі пакети: 12,5 ГБ для Whisper large-v3, від 13,75 до 14,02 ГБ для Parakeet TDT і до 50,07 ГБ для найбільшого багатомовного профілю Parakeet RNNT, тобто більше, ніж має L40S. Отже, пам'ять залежить передусім від розміру пакета й кількості завантажених моделей.

Українська й російська: що показують вимірювання

Стаття Open ASR Leaderboard міряє багатомовну точність лише на німецькій, французькій, італійській, іспанській і португальській. Українську й російську за однаковою методикою порівнює стаття NVIDIA про Parakeet і Canary.

Модель WER uk, FLEURS, % WER ru, FLEURS, % Ліцензія
Whisper large-v3 6,51 4,17 MIT
Parakeet TDT 0.6B v3 6,79 5,51 CC-BY-4.0
SeamlessM4T v2 large 9,07 7,43 CC-BY-NC-4.0, некомерційна
Canary-1B v2 10,50 6,90 CC-BY-4.0

Джерело: стаття NVIDIA arXiv 2509.14128; ліцензії за репозиторієм OpenAI і картками моделей на Hugging Face; прочитано 13.11.2026.

WER показує частку помилково розпізнаних слів. FLEURS складається з прочитаних речень, тож на дзвінках помилок буде помітно більше. Інше вимірювання дає інші цифри: у рейтингу Handy (FLEURS, ваги Q8_0) на українській першою йде Parakeet Ultra від Moondream, донавчена Parakeet v3, з 5,71 %, далі Whisper large-v3 з 6,28 %, а Parakeet v3 має там 6,84 % і turbo 7,31 %; для російської найнижчий WER там у Whisper large-v3, 4,96 %.

Voxtral Mini 4B Realtime і Qwen3-ASR розпізнають російську, але не українську, а Voxtral Small 24B не підтримує жодної з двох. Вимірювань на суржику чи мішаних українсько-російських записах ми не знайшли. Про моделі для обох мов докладніше в статті про локальне розпізнавання української та російської.

Швидкість розпізнавання: що означає RTFx

RTFx показує, скільки секунд аудіо модель розпізнає за секунду обчислень: при RTFx 100 сто годин записів займають годину роботи GPU. Вибір моделі змінює цю цифру більш ніж на порядок, тому спершу обирають модель, а потім карту.

У статті Open ASR Leaderboard (Hugging Face, Кембриджський університет, Mistral AI) усі моделі міряли на одній A100. Parakeet TDT 0.6B v3 працювала приблизно у 23 рази швидше за Whisper large-v3, а середній WER на англійських наборах мала 6,32 % проти 7,44 %.

Для L4 опублікованих швидкостей цих моделей ми не знайшли, а картка Parakeet v3 називає L4 серед тестового обладнання, проте її архітектуру Ada Lovelace серед підтримуваних не згадує.

Живі дзвінки: скільки потоків витримує одна GPU

Whisper працює вікнами по 30 секунд, і в ASR NIM він, як і Parakeet TDT, працює лише офлайн. Для живих дзвінків NVIDIA пропонує потокові моделі: Parakeet CTC для англійської та кількох інших мов, багатомовну Parakeet RNNT 1.1B і Nemotron ASR Streaming. Багатомовна Nemotron 3.5 ASR Streaming 0.6B (04.06.2026, OpenMDW-1.1) охоплює 40 локалей і має в рейтингу Handy WER 14,88 % на українській та 12,61 % на російській, помітно більше за офлайн-моделі.

Сторінка продуктивності ASR NIM від 07.10.2026 міряє потоки клієнтом riva_streaming_asr_client із прапорцем --simulate_realtime на записі LibriSpeech. На L40S англомовна Parakeet 0.6B CTC із фрагментами по 160 мс обслуговувала 64 потоки із середньою затримкою 33,9 мс і 39,7 мс на p90, а максимум NVIDIA вказує як 190 потоків із n-грамною мовною моделлю. З фрагментами по 960 мс 512 потоків мали середню затримку 198,8 мс при заявленому максимумі 900. У потоковому режимі RTFx приблизно дорівнює кількості потоків, тож стежити треба за затримкою.

Цифр для Whisper чи Canary на L40S там немає, як і для L4 чи карт RTX PRO. Матриця підтримки називає L4, L40 і «Blackwell RTX 60xx», а L40S окремо не згадує, тож звіряйте матрицю свого релізу NIM із картою. Для української кількості потоків ми не знайшли.

Як порахувати сервер транскрибації під навантаження

Живі дзвінки рахують за піковою кількістю одночасних потоків: один на дзвінок при одноканальному записі і два, якщо оператора й клієнта пишуть окремими каналами, як пояснено в статті про AI для контакт-центру. Записи рахують за потрібним RTFx: 2 000 годин дзвінків на місяць, оброблені за 20 робочих днів по 8 годин, вимагають сталого RTFx 12,5.

Навантаження Обсяг Модель і рушій Конфігурація, оцінка
Живі дзвінки англійською 100 одночасних Parakeet 0.6B CTC в ASR NIM, фрагменти 160 мс 1 × L40S, приблизно половина заявлених 190 потоків
Живі дзвінки англійською 300 одночасних Parakeet 0.6B CTC в ASR NIM 3 × L40S при 160 мс або 1 × L40S при 960 мс
Записи нарад 50 годин на день, мовці, підсумки Parakeet TDT v3 або Whisper turbo, діаризація, LLM на 20B 1 × L40S або 1 × RTX PRO 5000 48 ГБ
Архів українською чи російською 10 000 годин разово Parakeet TDT 0.6B v3 1 × L4 або 1 × L40S, час за тестовим прогоном
Архів будь-якою мовою 10 000 годин разово Whisper large-v3-turbo L4 або L40S, кількість за тестовим прогоном

Джерело: наша оцінка, не вимірювання. Живі дзвінки за цифрами ASR NIM для L40S від 07.10.2026 із запасом до приблизно 70 % заявленого максимуму; архіви за тестовим прогоном, бо опублікованих швидкостей немає; наради за офлайн-швидкістю L40S з діаризацією, яку NVIDIA міряла на англомовній Parakeet 0.6B CTC, а не на моделях із цього рядка.

Ваше аудіо, мови й налаштування змінять ці цифри, тому перед замовленням проганяють кілька годин власних записів. Телефонний звук, мовці, що перебивають одне одного, і фоновий шум знижують точність, а довші фрагменти збільшують затримку. Інженер ETE рахує конфігурацію від ваших годин аудіо на день і пікової кількості дзвінків.

Діаризація і підсумки LLM на тому самому сервері

Розмітка мовців може коштувати дорожче за саме розпізнавання: у цифрах NVIDIA для L40S Parakeet 0.6B CTC офлайн із 32 паралельними запитами мала RTFx 3 638 без діаризації і 101,5 з нею. Сервер під наради тому рахують від швидкості з діаризацією.

Nemotron 3 Diarization від NVIDIA (23.09.2026, OpenMDW 1.1) має 100 млн параметрів і розрізняє до восьми мовців; картка наводить RTFx 15 113 при пакеті 32 на RTX PRO 5000 зі скомпільованою моделлю і 12 196 без компіляції. Pyannote community-1 під CC BY 4.0 за замовчуванням працює на CPU і переводиться на GPU одним рядком коду; швидкості й DER для української чи російської картка не наводить, а файли завантажуються після прийняття умов на Hugging Face.

Canary-Qwen 2.5B уміє підсумовувати стенограму лише англійською, тож для українських і російських записів потрібна окрема LLM. За нашим правилом (90 % пам'яті, яку показує драйвер, мінус 3 ГіБ) L40S на 48 ГБ з увімкненим ECC лишає близько 37 ГіБ: gpt-oss-20b на 13,8 ГБ і Whisper turbo на 6 ГБ займають 18,4 ГіБ, решта йде на діаризатор і кеш LLM. RTX PRO 5000 на 48 ГБ лишає близько 40,0 ГіБ. gpt-oss-120b займає 65,3 ГБ і поруч із розпізнаванням потребує RTX PRO 6000 на 96 ГБ. Для контакт-центру підходить сервер із чотирма RTX PRO 6000: одна карта розпізнає, на кожній з інших трьох працює копія gpt-oss-120b. Розрахунок для більших моделей є в статті про відеопам'ять під LLM. Встановити faster-whisper, Parakeet, діаризацію й модель підсумків за потреби допомагають інженери Vixen.UNO.

Які відеокарти підходять для сервера розпізнавання

Карта Пам'ять, споживання Охолодження, формат Призначення, наша оцінка
RTX PRO 2000 16 ГБ, 70 Вт активне, 2,7 × 6,6 дюйма, два слоти одна модель на мінімумі NIM у 16 ГБ, у матриці NIM не названа
RTX PRO 4000 SFF 24 ГБ, 70 Вт активне, низький профіль, два слоти невеликі майданчики без серверного обдуву
RTX PRO 4500 32 ГБ, 200 Вт активне, два слоти розпізнавання і невелика LLM
RTX PRO 5000 48 ГБ, 300 Вт активне, два слоти розпізнавання, діаризація і LLM на 20B
L40S 48 ГБ, 350 Вт пасивне, два слоти живі дзвінки за опублікованими цифрами NVIDIA
RTX PRO 6000 Server Edition 96 ГБ, до 600 Вт пасивне, два слоти розпізнавання поруч із LLM класу 120B

Джерело: пам'ять і споживання за сторінками продуктів NVIDIA, прочитано 09.10.2026; призначення: наша оцінка за цифрами цієї статті.

Пасивним картам потрібен потік повітря серверного корпусу, а RTX PRO з активним охолодженням підходять для робочих станцій. L4 (24 ГБ, 72 Вт, пасивна) є в матриці ASR NIM і підходить для пакетної транскрибації.

faster-whisper поширюється під MIT і не потребує ліцензії NVIDIA AI Enterprise, а промислова експлуатація NIM, за FAQ NVIDIA про NIM від 06.08.2026, вимагає такої ліцензії на кожну GPU. Сервер із кількома картами по 600 Вт планують разом із ДБЖ і генератором, бо в Україні бувають відключення.

Записи розмов, Закон № 2297-VI і безпека сервера

Записи дзвінків і нарад, за якими можна впізнати людей, є персональними даними. В Україні діє Закон № 2297-VI, а наближений до GDPR законопроєкт № 8153 станом на листопад 2026 року не ухвалений. Потрібна одна з шести підстав статті 11 (згода, договір, законний інтерес тощо), а за статтею 12 людині заздалегідь повідомляють, хто записує, з якою метою і які в неї права. На практиці на початку розмови попереджають про запис і називають мету, а аудіо й стенограми зберігають лише стільки, скільки цієї мети потрібно. Власний сервер прибирає зовнішнього обробника, але не замінює правову підставу. Ця довідка не є юридичною консультацією.

Технічно перевірте, що жоден компонент не надсилає аудіо в зовнішній сервіс: картка pyannote, наприклад, пропонує модель Precision-2 через API на серверах pyannoteAI. Тримайте записи на сервері під вашим контролем, обмежте доступ до його API і захистіть контролер керування, драйвери та середовище контейнерів.

Часті питання

Скільки відеопам'яті потрібно Whisper large-v3?

OpenAI вказує близько 10 ГБ для large і близько 6 ГБ для turbo, профіль ASR NIM резервує 12,5 ГБ при пакеті 1 024. faster-whisper для large-v2 використовує близько 6,1 ГБ у float16, з яким і варто рахувати на RTX PRO Blackwell.

Whisper чи Parakeet: що точніше розпізнає українську?

У статті NVIDIA на українському FLEURS Whisper large-v3 має WER 6,51 %, Parakeet v3 6,79 %, але Parakeet на A100 працює приблизно у 23 рази швидше. Для російської Whisper точніший: 4,17 % проти 5,51 %. Перевірте обидві моделі на власних записах.

Яка відеокарта потрібна для транскрибації в реальному часі?

Потрібна потокова модель на кшталт Parakeet CTC, Parakeet RNNT чи Nemotron ASR Streaming. За цифрами NVIDIA, одна L40S обслуговує до 190 живих англомовних потоків Parakeet 0.6B CTC при фрагментах по 160 мс. Для української, L4 і RTX PRO таких цифр немає, тож потрібен тест.

Чи можна розпізнавати мовлення локально без ліцензій NVIDIA?

Так. Whisper поширюється під MIT, Parakeet і Canary під CC BY 4.0, і всі працюють на сервері під вашим контролем. faster-whisper ліцензії NVIDIA AI Enterprise не потребує, а промислове використання ASR NIM потребує.

Скільки GPU потрібно серверу транскрибації?

Для живих дзвінків рахуйте пікову кількість потоків, для записів поділіть години аудіо на доступні години обробки. За нашою оцінкою, 100 одночасних англомовних дзвінків вміщуються на одну L40S при одному потоці на дзвінок або на дві при окремих каналах для оператора й клієнта. Діаризація й підсумки додають навантаження.

Що з цього є в ETE

  • NVIDIA L40S 48 ГБ: опубліковані NVIDIA цифри живих потоків і близько 37 ГіБ корисної пам'яті під розпізнавання, діаризацію й LLM на 20B.
  • NVIDIA RTX PRO 5000 Blackwell 48 ГБ: активне охолодження і близько 40 ГіБ корисної пам'яті для сервера нарад.
  • NVIDIA RTX PRO 6000 Server Edition 96 ГБ: розпізнавання поруч із gpt-oss-120b на одній карті.
  • ETE AI Server RTX PRO: чотири RTX PRO 6000 по 96 ГБ для контакт-центру, де одна карта розпізнає, а три рахують підсумки.

Потрібен сервер розпізнавання під ваші дзвінки й записи?

Напишіть, скільки годин аудіо на день ви обробляєте, скільки дзвінків іде одночасно в пік, якими мовами говорять і чи потрібні розмітка мовців та підсумки. ETE порахує конфігурацію, а за потреби інженери Vixen.UNO встановлять моделі розпізнавання й підсумків.

Обговорити задачу

Автор: Інженер ETE