Nvidia представила Nemotron 3.5 Lightning с рекордной скоростью и точностью ИИ

Nvidia вывела ИИ на новый уровень с Nemotron 3.5 Lightning

Компания Nvidia представила новую модель искусственного интеллекта Nemotron 3.5 Lightning, которая обещает значительно повысить скорость и точность обработки данных. Модель содержит 30 миллиардов параметров, из которых одновременно активно работает 3 миллиарда. Контекстное окно модели достигает 1 миллиона токенов.

Гибридная архитектура Mamba-2, MoE и attention

Nemotron 3.5 Lightning построена на гибридной архитектуре, объединяющей Mamba-2, MoE и слои внимания (attention). Весовые коэффициенты модели доступны на платформах Hugging Face и ModelScope под лицензией OpenMDW-1.1, что позволяет использовать её в коммерческих целях. Nvidia также опубликовала данные для обучения и методики, давая компаниям возможность бесплатно загружать, применять и модифицировать модель.

Превосходство в скорости и точности

По данным Nvidia, Nemotron 3.5 Lightning генерирует токены в четыре раза быстрее аналогичных моделей того же размера. В тесте PinchBench модель показала точность 86% и выполнила 10 000 заданий на 30% быстрее, чем китайская модель Alibaba Qwen 3.6 35B. В других тестах Nemotron набрала 81,94 балла в MMLU Pro, 75,44 в GPQA Diamond и 51,56 в SWE-bench Verified.

Обучение и открытый исходный код

Модель была предварительно обучена на более чем 20 триллионах токенов. Nvidia также выпустила библиотеку с открытым исходным кодом NeMo Switchyard, которая направляет рабочие процессы агентов на наиболее подходящую модель. Эта библиотека уже использовалась в 145 задачах платформой LangChain. Благодаря ей затраты на маршрутизацию между моделями Lightning и Claude Opus 4.8 снизились на 74%, при этом лишь 7% запросов перенаправляются на более дорогую модель.

Планы на будущее: Nemotron 4

Nvidia готовит Nemotron 4 с более чем триллионом параметров, релиз которого запланирован на осень. Однако Nemotron 4 всё ещё будет уступать по размеру китайским моделям, таким как Moonshot Kimi K3 — крупнейшей открытой модели на сегодняшний день.

Стратегия компании и влияние на рынок

Открытый релиз Nemotron 3.5 Lightning — часть стратегии Nvidia по коммерциализации программного обеспечения для ИИ и расширению рынка GPU. Бесплатный и открытый доступ к модели позволяет компаниям свободнее использовать технологии искусственного интеллекта и создает новые возможности для конкуренции с китайскими разработками.

В итоге Nemotron 3.5 Lightning устанавливает новые стандарты скорости и точности в области ИИ, закладывая основу для создания ещё более мощных моделей в будущем.