Живі субтитри для наради, лекції чи конференції можна повністю робити на власному обладнанні: звук із мікшерного пульта йде на сервер у будівлі, потокова модель на GPU за частку секунди перетворює його на текст, а сторінка в браузері показує текст на екрані чи проєкторі. Станом на жовтень 2026 року для цього є відкриті WhisperLiveKit і WhisperLive від Collabora, а для першої зали вистачає станції з однією NVIDIA RTX PRO 4000 Blackwell. Ні звук, ні текст будівлю не залишають.
Матеріал для організаторів подій, університетів, HR-команд і органів влади з публічними засіданнями. Затримка тут означає час між сказаним словом і його появою на екрані, а WER рахує неправильні, пропущені й зайві слова на 100 слів правильної стенограми. Обробку записів після події описано в статті про протоколи нарад із локальним AI.
Коротко
- Затримка локальних субтитрів становить від 80 мілісекунд до 2,4 секунди залежно від моделі та налаштування.
- Voxtral Mini 4B Realtime і Qwen3-ASR української не підтримують; у WhisperLiveKit для неї лишаються Whisper через faster-whisper і Canary, а Nemotron 3.5 ASR Streaming знає обидві мови, але його треба інтегрувати.
- Відкриті інструменти: WhisperLiveKit 0.2.26 (Apache 2.0, власна сторінка, мовці наживо) і WhisperLive 0.10.0 від Collabora (MIT, faster-whisper, TensorRT або OpenVINO).
- Звук у залі важить не менше за модель: за карткою Parakeet TDT 0.6B v3, на записах нарад WER 11,31 % проти 1,93 % на чистому прочитаному мовленні.
- RTX PRO 4000 Blackwell на 24 ГБ тримає Whisper large-v3 (близько 10 ГБ) для однієї зали; кампусу потрібен сервер із картами L40S або RTX PRO 6000 Server Edition.
Як працюють живі субтитри в залі
| Крок | Що відбувається | Обладнання |
|---|---|---|
| 1. Захоплення | мікрофони спікерів заходять у мікшерний пульт | наявна звукова система, вільний вихід пульта |
| 2. Передавання | невеликий комп'ютер транслює звук на сервер субтитрів | аудіоінтерфейс і сторінка в браузері або клієнт |
| 3. Розпізнавання | потокова модель пише текст невеликими кроками | GPU у станції чи сервері |
| 4. Показ | текст на екрані, проєкторі чи другому моніторі | сторінка браузера на весь екран |
| 5. Зберегти чи видалити | стенограму після події зберігають або знищують | правило зберігання, визначене заздалегідь |
Джерело: наш підсумок; ролі клієнта й сервера за документацією WhisperLiveKit і WhisperLive, прочитано 30.10.2026.
Якість субтитрів починається зі звуку. За карткою NVIDIA Parakeet TDT 0.6B v3 має на записаних нарадах AMI WER 11,31 %, а на LibriSpeech test-clean, прочитаному біля мікрофона, 1,93 %. Тест із шумом показує те саме: середня частка помилок зростає з 6,34 % на чистому звуці до 11,66 %, коли шум такий самий гучний, як мова. У залі беріть сигнал із пульта, де вже змішані гарнітури й мікрофони на кафедрі, без мікрофонів для запитань і музики. У переговорній без пульта потрібен щонайменше конференц-мікрофон посередині столу.
Сторінка WhisperLiveKit записує через браузер мікрофонний вхід комп'ютера, на якому її відкрито, і там же показує субтитри. Ноутбук біля пульта може водночас передавати звук і виводити текст на проєктор, а розпізнавання йде на сервері в іншій кімнаті.
Затримка, точність і українська мова
Потокова модель мусить фіксувати слова до кінця речення, тож бачить менше контексту, і чим довше їй дозволено чекати, тим менше помилок. Для української опублікованих даних ми не знайшли. Для російської її дає картка Voxtral Mini 4B Realtime: на FLEURS 6,02 % при 480 мс і 5,41 % при 2 400 мс. Mistral називає 480 мс оптимальним балансом; за нашим підрахунком, це помилка приблизно в кожному сімнадцятому слові навіть на чистому мовленні. На лекції одна-дві секунди затримки дають вищу точність, а в дискусії пів секунди тримає текст ближче до спікера.
Порівняти моделі для обох мов в однакових умовах дозволяє рейтинг Handy. Він міряє готові записи без потокової затримки, тож наживо помилок буде більше.
| Модель | WER uk, % | WER ru, % | Бекенд у WhisperLiveKit |
|---|---|---|---|
| Whisper large-v3 | 6,28 | 4,96 | так, через faster-whisper |
| Canary-1B v2 | 10,58 | 7,83 | так, Canary-1B v2 через NeMo (типова модель) |
| Nemotron 3.5 ASR Streaming 0.6B | 14,88 | 12,61 | ні, потрібна інтеграція |
| Voxtral Mini 4B Realtime | українську не підтримує | 5,41 | так |
| Qwen3-ASR-1.7B | українську не підтримує | 6,25 | так |
Джерело: рейтинг Handy (models.handy.computer), тестовий спліт FLEURS, ваги Q8_0, прочитано 13.11.2026; мови за картками моделей; бекенди за README WhisperLiveKit на GitHub, прочитано 13.11.2026.
Whisper не є потоковою моделлю: він працює з вікнами по 30 секунд, і картка large-v3 називає таку довжину оптимальною. Живі інструменти загортають його в політику, яка перечитує звук, що наростає, і вирішує, які слова вже стабільні: WhisperLiveKit типово використовує SimulStreaming, а WhisperLive називає себе реалізацією «майже наживо». README WhisperLiveKit попереджає, що автовизначення мови у Whisper схиляється до англійської, тож для українського заходу задайте мову явно, а перемикання спікерів між українською й російською перевірте на репетиції. Моделі для української розібрано в статті про локальне розпізнавання української мови.
Відкриті інструменти станом на жовтень 2026 року
| Інструмент чи модель | Ліцензія | Версія | Що робить |
|---|---|---|---|
| WhisperLiveKit | Apache 2.0 | 0.2.26, 29.08.2026 | сервер і сторінка субтитрів; faster-whisper, Voxtral, Qwen3-ASR, Canary; мовці наживо; переклад |
| WhisperLive (Collabora) | MIT | 0.10.0, 07.09.2026 | сервер субтитрів; faster-whisper, TensorRT або OpenVINO; розширення для Chrome і Firefox |
| Voxtral Mini 4B Realtime | Apache 2.0 | модель | 13 мов, серед них російська, української немає; vLLM через realtime-точку |
| Nemotron 3.5 ASR Streaming | OpenMDW-1.1 | модель, 04.06.2026 | 40 локалей, 32 готові до використання; пунктуація вбудована |
Джерело: сторінки WhisperLiveKit і WhisperLive на PyPI, сторінка WhisperLiveKit на GitHub, картки моделей на Hugging Face; прочитано 30.10.2026.
WhisperLiveKit описує себе як конвеєр розпізнавання з наднизькою затримкою для розгортання у себе. Він віддає власну сторінку на порту 8000, має розширення Chrome для звуку вебсторінки, REST-точку, сумісну з OpenAI, і WebSocket. За README, бекенд обслуговує кількох користувачів одночасно, доступ закривається токеном API.
WhisperLive від Collabora запускає Whisper через faster-whisper, TensorRT або OpenVINO, а його розширення для Chrome і Firefox транскрибують звук просто з браузера. Для заходів важливі типові значення: --max_clients дорівнює 4, а --max_connection_time 600 секундам, тож без зміни налаштування сесія завершиться через десять хвилин.
Voxtral Mini 4B Realtime 2602 від Mistral приймає затримку кроками по 80 мс від 80 до 1 200 мс або 2 400 мс, а vLLM віддає її через /v1/realtime по WebSocket; з української й російської вона знає лише російську. Nemotron 3.5 ASR Streaming 0.6B від NVIDIA розпізнає обидві мови, має вбудовані пунктуацію й великі літери і працює фрагментами від 80 мс до 1,12 с у NeMo або Transformers від 5.13.0. Жоден інструмент субтитрів не називає його бекендом, тож підключення буде окремою інтеграцією.
Хто говорить і переклад субтитрів
Мовці. WhisperLiveKit розмічає від одного до чотирьох мовців наживо моделлю Streaming Sortformer від NVIDIA; за README, кожен момент вона приписує одному мовцю, тож накладання голосів не видно, а зайві мовці можуть отримати чужу мітку. Nemotron 3 Diarization (NVIDIA, 23.09.2026, OpenMDW License 1.1) розрізняє до восьми мовців і має профіль затримки 0,32 секунди; на нарадах AMI з одним віддаленим мікрофоном її DER у цьому профілі 12,95 % проти 11,14 % офлайн. Якщо в кожного учасника свій мікрофон, окремі потоки визначать мовця без жодної моделі. Детальніше в статті про діаризацію на власному сервері.
Переклад. WhisperLive перекладає з будь-якої мови англійською, а серверний потік перекладу може працювати й на іншу мову. --target-language у WhisperLiveKit використовує NLLW на основі дистильованої NLLB для 200 мов, а картка NLLB-200 distilled 600M має позначку CC BY-NC 4.0 і називає модель дослідницькою, не призначеною для промислового використання. Для бізнесу потрібна модель із комерційною ліцензією, наприклад через бекенд alignatt, що перекладає мовною моделлю замість NLLB. З українською під Apache 2.0 працюють OPUS-MT uk-en (з української англійською) і Dragoman (лише з англійської українською), але їх підключення до WhisperLiveKit ми не перевіряли; порівняння є в статті про машинний переклад на власному сервері. Дві мови означають дві сторінки й два екрани.
Колеги з порушеннями слуху, гібридні наради й персональні дані
Заздалегідь узгодьте з колегами, які не чують або чують погано, затримку, місце тексту на екрані й те, чи вистачить автоматичних субтитрів, у яких будуть помилки. Щоб глядачі стежили з телефонів, потрібна сторінка, що розсилає субтитри зали на багато пристроїв; жоден README її не описує, тож її готують під час впровадження.
Для гібридних нарад обидва проєкти захоплюють звук із вкладки браузера, але тоді локальною лишається лише обробка субтитрів: звук наради йде через сервіс відеозв'язку.
Сказане людьми, яких можна ідентифікувати, є персональними даними навіть без збереження, тож за Законом № 2297-VI потрібна одна з шести підстав статті 11 (згода, договір, законний інтерес тощо), а спікерів і учасників заздалегідь інформують за статтею 12: хто обробляє, з якою метою і які в них права. Збережену стенограму тримайте лише стільки, скільки потрібно для мети. Наближений до GDPR законопроєкт № 8153 станом на листопад 2026 року не ухвалений; це не юридична консультація, деталі підтвердить ваш юрист.
Яке залізо потрібне: від переговорної до конференц-центру
Глядачі навантаження на GPU не додають; залізо визначають кількість зал одночасно, модель, затримка, розмітка мовців і переклад. Даних про кількість потоків для української чи карт RTX PRO ми не знайшли. Найближча цифра англійська: сторінка продуктивності ASR NIM від NVIDIA (07.10.2026) дає одній L40S до 190 живих потоків Parakeet 0.6B CTC із фрагментами 160 мс і 64 потоки за середньої затримки 33,9 мс на файлі LibriSpeech. Voxtral на 4 млрд параметрів потребує на потік набагато більше обчислень.
| Рівень | Залізо | Що працює | Зал одночасно |
|---|---|---|---|
| Початкова станція | 1 × RTX PRO 4000 Blackwell, 24 ГБ (145 Вт; версія SFF 70 Вт) | Whisper large-v3 у WhisperLiveKit; для російськомовних заходів Voxtral Mini 4B Realtime | одна зала; з моделлю 0.6B більше, після тесту |
| Середня станція | 1 × RTX PRO 5000 Blackwell, 48 ГБ, 300 Вт | потокова модель, мовці наживо й модель перекладу з комерційною ліцензією | кілька зал або дві мови субтитрів |
| Сервер кампусу | карти L4 (24 ГБ, 72 Вт кожна) або L40S (48 ГБ) | одна потокова модель на карту | лекційні зали й переговорні паралельно |
| Спільний сервер компанії | 2 × RTX PRO 6000 Server Edition | субтитри в екземплярі MIG поруч із корпоративним асистентом | коли субтитри лише один сервіс із кількох |
Джерело: пам'ять і споживання карт за NVIDIA; корисна пам'ять за нашим правилом 18,5 ГіБ на 24 ГБ і 40,0 ГіБ на 48 ГБ; пам'ять моделей за цитованими картками; кількість зал є нашою оцінкою, яку підтверджує тест.
Початкова станція. За нашим правилом (90 % пам'яті, яку показує драйвер, мінус 3 ГіБ) RTX PRO 4000 Blackwell дає 18,5 ГіБ. Цього вистачає для Whisper large-v3 або для Voxtral Mini 4B Realtime, якому, за карткою, потрібна GPU від 16 ГБ. Для одного зі своїх потокових бекендів WhisperLiveKit радить планувати одну сесію реального часу на GPU. Модель на 0,6 млрд параметрів лишає більше місця: матриця підтримки мовного NIM 26.05.0 вказує для профілю Nemotron ASR Streaming 6 ГБ при пакеті 32.
Середня станція. RTX PRO 5000 Blackwell з 48 ГБ дає 40,0 ГіБ: за нашою оцінкою, цього вистачає на потокову модель, мовців і переклад, але картка діаризації пам'яті не вказує, тож розподіл підтверджує тест. На цій карті Nemotron 3 Diarization у профілі 0,32 секунди працює в 12,5 раза швидше за реальний час (пакет 1, без компіляції) і в 292 рази (пакет 32, скомпільована модель), тож для кількох зал мовці навантажують карту мало.
Сервер. Для кампусу стійковий сервер із кількома L4 (24 ГБ, 72 Вт, низькопрофільні) або L40S на 48 ГБ дає кожній залі власну карту. Сервер із двома RTX PRO 6000 Server Edition по 96 ГБ запускає субтитри в екземплярі MIG поруч із чат-асистентом компанії; він бере близько 1,8 кВт (наша оцінка), тож з огляду на відключення його планують із ДБЖ і генератором. Конфігурацію під кількість зал і мов ETE рахує від реального навантаження, а інженери Vixen.UNO за потреби налаштовують WhisperLiveKit чи WhisperLive з моделлю під українську.
Що налаштовує ІТ на сервері субтитрів
- Мережа. Звук і субтитри йдуть по WebSocket. WhisperLiveKit радить Gunicorn з Uvicorn за Nginx із заголовками WebSocket upgrade,
wss://з--ssl-certfileі--ssl-keyfile, плюс--api-token,--cors-originsі--forwarded-allow-ips; у WhisperLive підніміть ліміти сесій. - Встановлення. WhisperLiveKit має додатковий пакет
cu129для CUDA 12.9 і Dockerfile для GPU (docker run --gpus all -p 8000:8000); бекенду Qwen3 на vLLM потрібне окреме середовище, а деякі додаткові пакети конфліктують. - Voxtral Realtime потребує актуального vLLM і mistral_common від 1.9.0, а для аудіосесій Mistral радить WebSocket. Якщо на карті працюють ще мовці чи переклад, знизьте
--gpu-memory-utilizationу vLLM від типових 0,92, бо vLLM резервує цю частку пам'яті під час запуску. - Ліцензії. Модель визначення мови AmberNet постачається з NVIDIA NGC на власних умовах, SenseVoiceSmall має власну ліцензію, а типова модель мовців Sortformer поширюється за CC BY 4.0 із вимогою зазначати авторство.
- Репетиція. У реальній залі з реальними мікрофонами виміряйте затримку, зачитайте список імен і назв, а шрифт оберіть з останнього ряду.
Часті питання
Чи можна робити живі субтитри без хмарного сервісу?
Так. Потокова модель працює на GPU у вашій будівлі, WhisperLiveKit чи WhisperLive бере звук із зали, а сторінка в браузері показує субтитри на екрані. Звук і текст лишаються на вашому обладнанні.
Яка модель дає живі субтитри українською?
Voxtral Mini 4B Realtime і Qwen3-ASR української не підтримують. У WhisperLiveKit лишаються Whisper через faster-whisper і Canary-1B v2: у рейтингу Handy на українському FLEURS Whisper large-v3 має 6,28 %, Canary-1B v2 10,58 %. Nemotron 3.5 ASR Streaming українську розпізнає (14,88 % у Handy), але його треба інтегрувати.
Яка затримка в живих субтитрах?
Її задає налаштування. Voxtral Mini 4B Realtime приймає від 80 мс до 1,2 секунди кроками по 80 мс або 2,4 секунди, типово 480 мс; Nemotron 3.5 ASR Streaming працює фрагментами від 80 мс до 1,12 секунди. Довша затримка дає менше помилок.
Яка відеокарта потрібна для субтитрів на заході?
Для однієї зали вистачає RTX PRO 4000 Blackwell на 24 ГБ з Whisper large-v3. RTX PRO 5000 на 48 ГБ додає мовців наживо й переклад. Кампусу потрібен сервер із картами L4 або L40S, по одній на залу.
Чи можна перекладати живі субтитри іншою мовою?
Так, якщо за розпізнаванням стоїть модель перекладу. WhisperLive перекладає англійською, а модель на основі NLLB у WhisperLiveKit має некомерційну ліцензію, тож для корпоративного заходу потрібна модель із комерційною.
Що з цього є в ETE
- NVIDIA RTX PRO 4000 SFF Blackwell 24 ГБ: 24 ГБ для субтитрів однієї зали з Whisper large-v3.
- NVIDIA RTX PRO 5000 Blackwell 48 ГБ: потокова модель, мовці наживо й переклад на одній карті.
- NVIDIA L40S 48 ГБ: окрема карта на кожну залу в сервері кампусу.
- ETE AI Server RTX PRO: чотири RTX PRO 6000 по 96 ГБ, субтитри в екземплярі MIG поруч з іншими AI-сервісами компанії.
Потрібні живі субтитри у ваших залах?
Напишіть, скільки зал субтитруєте одночасно, якими мовами говорять спікери і як сьогодні зведено звук. ETE порахує конфігурацію, а за потреби інженери Vixen.UNO встановлять WhisperLiveKit чи WhisperLive з моделлю під вашу мову.