Новости BunkerAI · Новости

Nemotron 3.5 Lightning 30B: отдельная модель для исполнительного слоя агентов

30B параметров, около 3B активных на токен и акцент на быстрые tool calls — интересная модель для постоянно работающих локальных агентов.

NVIDIA выпустила Nemotron 3.5 Lightning — открытую MoE-модель на 30B параметров, у которой во время генерации активируется около 3B. Она рассчитана не на роль единственного «мозга», а на массовое выполнение коротких действий внутри длинного агентного процесса.

Такое разделение особенно интересно для BunkerAI: крупная модель планирует и проверяет, а компактная Lightning вызывает инструменты, валидирует ответы и выполняет повторяющиеся шаги. Это снижает задержку и требования к памяти без передачи задач наружу.

Модель доступна в BF16 и NVFP4, поддерживает локальное дообучение и рассчитана на инфраструктуру от edge-систем до серверных GPU. Мы добавили её в список кандидатов для исполнительных узлов и тестируем на MCP-сценариях.

Источник: NVIDIA Technical Blog ↗