Новости BunkerAI · Benchmarks

От 20B до 744B: обновили матрицу открытых моделей для локального развёртывания

Сравнили gpt-oss, Qwen3.5, Mistral Small 4, Nemotron и GLM не по одному рейтингу, а по реальным сценариям BunkerAI.

Мы обновили внутреннюю матрицу моделей BunkerAI. В неё вошли классы от 20B до 744B: gpt-oss 20B/120B, Qwen3.5 27B/35B/122B/397B, Mistral Small 4 119B, Nemotron 120B/550B и GLM-5 744B.

У каждой модели проверяем четыре разных качества: обычный диалог, извлечение фактов из локальной базы знаний, структурированные ответы и работу с инструментами. Высокое место в публичном бенчмарке не гарантирует надёжного поведения в агенте.

Практический вывод

  • 20–35B — рабочие станции, быстрые помощники и исполнительные агенты.
  • 80–122B — универсальные узлы для документов, кода и сложного tool calling.
  • 397–744B — кластерные конфигурации для планирования, проверки и тяжёлых экспертных задач.

Именно профиль задачи, доступная память и требуемая скорость определяют конфигурацию — число параметров само по себе ничего не гарантирует.