Новости BunkerAI · Nemotron

Nemotron 3 Ultra в длинных агентных задачах: не размер ради размера

Разбираем, где 550B MoE действительно оправдан: сложное планирование, оркестрация подагентов и проверка результатов на длинном горизонте.

После первых тестов Nemotron 3 Ultra 550B-A55B стало понятнее его место в локальном стеке. Это не модель для каждого запроса, а верхний уровень системы: сложное планирование, декомпозиция, контроль подагентов и разбор неоднозначных результатов.

Для обычных операций выгоднее использовать более компактную модель. Ultra подключается только там, где ошибка дороже дополнительного времени инференса. Такой маршрутизируемый подход позволяет использовать модели класса 30B, 120B и 550B в одном автономном контуре.

В BunkerAI мы тестируем Ultra с длинными задачами по анализу документов, инженерному планированию и проверке многошаговых сценариев. Отдельно измеряем не только бенчмарки, но и стоимость завершённой задачи.

Источник: NVIDIA Technical Blog ↗