NVIDIA выпустила Nemotron 3.5 Transcribe. Модель расшифровывает записи, определяет говорящих и переводит речь. Ещё ей можно задавать вопросы о содержании аудио.

Есть ограничение: модель принимает готовые записи, live-поток она не обрабатывает. В том же обновлении NVIDIA рассказала о Liquid AI LFM3, настройках RTX Spark и новых ноутбуках. По данным компании, ноутбуки уже продаются у ASUS, Dell, HP, Lenovo, Microsoft и MSI. Стартовая цена — $2,599. Это цена из объявления NVIDIA, не российская.

Ноутбук с графикой NVIDIA Local AI связан с локальными AI-агентами и распределением ресурсов GPU из обновления NVIDIA.Источник: blogs.nvidia.com

Nemotron 3.5 Transcribe работает с речью в записи

У Nemotron 3.5 Transcribe открытые веса. Модель может расшифровать запись, подписать реплики именами говорящих, перевести речь или ответить на вопрос по содержанию. Например, её можно попросить найти решения, принятые на встрече, или перевести запись на английский.

Настройка NVIDIA GPU App Prioritization распределяет время GPU между приложением на переднем плане и фоновыми задачами.Источник: blogs.nvidia.com

Модель распознаёт речь на 40 языках и переводит 31 язык на английский и обратно. Разметка говорящих доступна для 13 языков. В записи можно различить до восьми собеседников, а максимальная длина аудио — один час.

NVIDIA приводит несколько примеров запросов. Они на английском — оставляю оригиналы, чтобы их можно было скопировать.

Запрос просит расшифровать запись и отметить, кто говорит. В формулировке можно указать другой язык или формат результата.

ПромтанглийскийДля NVIDIA Nemotron 3.5 Transcribe
Transcribe this recording and label each speaker.
Скопируйте и вставьте в нейросеть как есть, на английском: переводить не нужно.
Из чего собран промт
  1. действиерасшифровать аудио в текстTranscribe
  2. сценаданная записьthis recording
  3. действиеи подписать каждого говорящегоand label each speaker

Так модель переводит аудио на английский. Целевой язык можно заменить на нужный.

ПромтанглийскийДля NVIDIA Nemotron 3.5 Transcribe
Translate this audio into English.
Скопируйте и вставьте в нейросеть как есть, на английском: переводить не нужно.
Из чего собран промт
  1. действиеперевестиTranslate
  2. сценаэто аудиоthis audio
  3. форматна английский языкinto English

А этот запрос ищет в записи решения встречи. При необходимости можно уточнить, нужны ли ответственные и сроки.

ПромтанглийскийДля NVIDIA Nemotron 3.5 Transcribe
List what decisions were made in this meeting.
Скопируйте и вставьте в нейросеть как есть, на английском: переводить не нужно.
Из чего собран промт
  1. действиеперечислитьList
  2. параметрыкакие решения были принятыwhat decisions were made
  3. сценана этой встречеin this meeting

Запросы можно уточнять обычным языком. NVIDIA пишет, что в них можно добавить отраслевые термины и правила оформления. Это пригодится, если в аудио встречаются названия продуктов, медицинская лексика или термины из клиентской поддержки. Открытые веса дают разработчикам выбор, где обрабатывать запись — на устройстве или в облаке.

Показатели модели зависят от того, что именно считать

По данным NVIDIA, у модели около 4,3 млрд активных параметров. TechCrunch пишет о 30 млрд параметров всего. Цифры описывают разные вещи: активными называют параметры, которые модель задействует во время обработки. NVIDIA также сообщает, что модель занимает первое место среди открытых моделей в английском разделе Open ASR Leaderboard на Hugging Face и второе — среди открытых моделей в рейтинге Artificial Analysis.

TechCrunch отмечает ещё одно ограничение: Nemotron работает с записанным аудио, live-трансляции ей не подать. Для интервью, подкастов и созвонов модель можно встроить в постобработку. А для live-субтитров она пока не подходит.

Модель доступна на Hugging Face и ModelScope. NVIDIA перечисляет форматы BF16, FP8 и NVFP4. Варианты NVFP4 запускаются через NeMo-Speech.cpp или vLLM. Среди систем с заявленной поддержкой — RTX Spark, DGX Spark, Jetson AGX Thor и GeForce RTX 5090. Для запуска всё равно понадобятся подходящее железо и настроенное окружение.

LFM3 и RTX Spark для локальных задач

Ещё одна новость — семейство моделей Liquid AI LFM3. В него входят текстовые, визуальные, аудио-, omni- и decision-модели на общей основе. Liquid AI пишет, что базовая LFM3-1.7B превосходит предыдущую модель на 2.6 млрд параметров и использует на 35% меньше параметров.

Ряд ноутбуков с логотипами разных производителей — визуальная отсылка к локальным AI-агентам на устройствах.Источник: blogs.nvidia.com

По данным Liquid AI, текстовая модель в 4-битном формате занимает около 1 ГБ и поддерживает контекст до 256K. Это ориентир для локального запуска, а не гарантия, что любая задача заработает без настройки. NVIDIA упоминает LFM3 как вариант для локальных агентов: они могут сортировать почту, работать с календарём и документами, распознавать или переводить речь.

Я бы начал с одной конкретной задачи: расшифровки интервью, поиска фрагментов в материалах или разбора голосовых запросов. Потом стоит проверить модель на своих записях и словаре. Особенно если в аудио несколько голосов, есть шум или часто встречаются специальные названия.

В приложении NVIDIA App владельцы RTX Spark теперь могут распределять ресурсы между активной программой и фоновым агентом. Настройка находится в System > Advanced. Перед этим нужно включить аппаратное планирование GPU в настройках Windows. Если агент выполняет долгую задачу, пока вы работаете в графическом приложении, такая настройка может пригодиться.

  • Проверьте расшифровку и перевод Nemotron на короткой записи с вашей терминологией.
  • Для поиска решений и фактов в разговоре задайте модели отдельный запрос.
  • Если агент тормозит приложение, попробуйте изменить приоритет GPU в NVIDIA App.
  • Перед локальным запуском проверьте формат весов и совместимость выбранного инструмента.

Есть и игровые обновления. NVIDIA сообщает, что Phantom Blade Zero выходит 28 октября в 7 p.m. PT на Steam и Epic Games Store. Игра получит трассировку лучей и DLSS 4.5; Dynamic Multi Frame Generation поддерживает генерацию до 6x. RTX Remix 1.6 добавляет поддержку Minecraft Java Edition 1.21.1 с path tracing и DLSS, а также инструменты генерации материалов через ComfyUI и рабочие процессы с AI-агентами.

Локальный запуск стоит проверять на своих задачах

В обновлении NVIDIA две практические части. Nemotron и LFM3 дают разработчикам варианты для локальной обработки, а RTX Spark предлагает для этого отдельные ноутбуки. Начать можно без покупки нового компьютера: проверить расшифровку на своих записях и настроить приоритет ресурсов для агента на уже доступной системе.

Для live-субтитров Nemotron пока не подходит. А если вы работаете с интервью, созвонами и диктовками, расшифровка, метки говорящих и вопросы к аудио могут убрать несколько шагов из привычного процесса. Думаю, именно на таких задачах и стоит проверять локальные модели — по качеству и по тому, сколько возни они снимают.

Источники

NVIDIA RTX Spark PCs Available Today — A New Beginning for Windows PCs

NVIDIA Nemotron 3.5 Transcribe and Granary v2: Intelligent Multilingual Transcription You Can Prompt and Adapt

Voice AI in vogue: Nvidia releases new open transcription model

Introducing LFM3: Every Modality for Specialized Intelligence

Источникblogs.nvidia.com