Высокая точность. NVIDIA представила ИИ-модели, выполняющие задачи в пять раз быстрее, чем у конкурентов

Об этом пишет издание Interesting Engineering.

Самая крупная модель, Nemotron 3.5 Super VL, предназначена для сложных задач, требующих анализа изображений, выполнения инструкций и использования внешних инструментов. По утверждению NVIDIA, она справляется с задачами в пять раз быстрее, чем ближайший конкурент в своем классе. Компания также заявляет, что точность этой модели приближается к показателям ее крупнейшей модели для логических рассуждений, хотя количество параметров у нее примерно в пять раз меньше.

Такие возможности могут быть полезны для автоматизации длительных исследований, анализа документов и специализированных рабочих процессов. Разработчики также могут дообучать модель на собственных данных, чтобы адаптировать её к конкретным задачам.

Модель уже адаптируют для различных нужд. Компания Scale AI работала над ИИ-агентами для финансовых операций Skydance и проверки сделок по слиянию и поглощению для EY. Компания AfterQuery настроила модель для анализа кредитных договоров в Hebbia. Другие проекты предусматривают использование ИИ в сферах кибербезопасности и программирования.

Для запуска на устройствах с меньшим объемом памяти NVIDIA представила линейку Nemotron 3.5 Bolt. Она включает две модели с различными требованиями к оборудованию.

Nemotron 3.5 Bolt 74B-A9B использует 2-битное квантование — метод снижения объема памяти, необходимого для работы модели. Благодаря этому она помещается в 24 ГБ памяти, что позволяет запускать ее на совместимом оборудовании параллельно с другими программами. Модель можно использовать для помощи в написании кода или поиске информации в интернете. NVIDIA заявляет, что модель занимает первое место среди открытых моделей своего класса в рейтинге PinchBench и второе — в BrowseComp.

Еще более компактная модель Nemotron 3.5 Bolt E4B требует около 4 ГБ памяти. Она была разработана для систем быстрого диалога, в частности для голосовых помощников и интерактивных персонажей. Модель также предназначена для физических ИИ-систем на базе оборудования NVIDIA Jetson. Ее выпуск запланирован на 23 октября 2026 года, тогда как более крупная версия Bolt уже доступна.

NVIDIA открыла веса Super VL — параметры, необходимые для запуска и адаптации модели, — и предоставила материалы для ее обучения. В ходе первоначального обучения было использовано около 26 трлн токенов (единиц текстовых и мультимодальных данных), а последующее обучение охватило примерно 3,8 млн примеров. Кроме того, модель обучали с использованием обучения с подкреплением в десятках сред.

Организации могут адаптировать Super VL с помощью инструментов NVIDIA NeMo и скриптов на Python. Модель доступна на платформах Hugging Face, OpenRouter и ModelScope, а также через сервис NVIDIA NIM для развертывания ИИ в рабочих системах. Bolt 74B-A9B можно загрузить с Hugging Face и запускать, в частности, с помощью Ollama или LM Studio.

Запуск моделей на собственном оборудовании предоставляет организациям больше контроля над обработкой конфиденциальных данных, хотя уровень защиты зависит от настроек и используемой инфраструктуры. В то же время практическая ценность новых моделей будет зависеть от того, насколько надежно они справляются с задачами в реальных условиях (вне тестовых сценариев) и способны ли они обеспечить высокую скорость работы без чрезмерных требований к памяти.