Как GLM-5 меняет представление о кодинге и автономных агентах
Знакомая ситуация: вы просите нейронку исправить баг в большом проекте, она бодро выдает решение, которое ломает еще три модуля, а на второй итерации начинает ходить кругами? Мы привыкли, что LLM хороши в коротких забегах, но быстро «выдыхаются» на сложных дистанциях. Команда из zai-org решила эту проблему, выпустив GLM-5 и его прокачанную версию 5.1. Эти модели созданы не для того, чтобы просто писать сниппеты, а для полноценной инженерной работы в течение сотен итераций.
Что это за звери
GLM-5 — это свежее семейство открытых моделей, которые нацелены на «agentic engineering». Если переводить на человеческий, это когда ИИ не просто отвечает на вопросы, а работает как автономный агент: ставит гипотезы, запускает тесты в терминале, читает логи и правит код до тех пор, пока всё не заработает.
В репозитории лежат веса для двух основных версий:
- GLM-5: Массивная модель на 744 миллиарда параметров (из которых активны 40 миллиардов благодаря архитектуре Mixture-of-Experts). Она обучалась на чудовищном объеме данных в 28.5 триллионов токенов.
- GLM-5.1: Флагман для кодинга. Она еще лучше справляется с неопределенностью и умеет держать фокус на задаче на протяжении тысяч вызовов инструментов.
Интересно, что разработчики внедрили DeepSeek Sparse Attention (DSA). Это помогло снизить требования к железу при деплое, сохранив при этом способность модели работать с длинным контекстом.
Почему это важно для разработчика
Главная проблема большинства моделей — «плато». Они выдают максимум пользы в первом ответе, а потом их эффективность падает. GLM-5.1 работает иначе. Чем больше времени вы даете ей на размышление и итерации, тем лучше становится результат.
Работа с реальным терминалом
Модель лидирует в бенчмарке Terminal-Bench 2.0. Это значит, что она понимает, как взаимодействовать с реальной средой разработки, а не просто галлюцинировать код в вакууме.
Долгосрочное планирование
В тесте Vending Bench 2 модель заставили управлять симуляцией вендингового бизнеса в течение игрового года. GLM-5 заняла первое место среди open-source решений, показав, что умеет распоряжаться ресурсами и планировать действия наперед.
Генерация целых репозиториев
На бенчмарке NL2Repo (генерация структуры и кода всего репозитория) GLM-5.1 обходит базовую пятерку с огромным отрывом. Это уже не «напиши мне функцию сортировки», а «разверни мне скелет микросервиса с правильной архитектурой».
Техническая начинка
Под капотом у GLM-5 много интересного. Во-первых, они перешли на 744B параметров, используя MoE (Mixture of Experts). Это позволяет модели быть умной, как гигант, но при этом работать со скоростью гораздо меньших моделей, так как в каждый момент времени задействовано только 40B параметров.
Для обучения использовали асинхронную инфраструктуру RL (Reinforcement Learning) под названием slime. Это их собственная разработка, которая позволяет проводить итерации обучения гораздо быстрее. Если вам интересно, как именно они это провернули, в репозитории есть ссылка на технический отчет.
Как запустить у себя
Несмотря на огромный размер, авторы позаботились о том, чтобы мы могли пощупать модель локально. Поддерживаются vLLM, SGLang и Ktransformers.
Если у вас есть доступ к мощному серверу с 8 картами, запуск через vLLM выглядит примерно так:
vllm serve zai-org/GLM-5.1-FP8 \
--tensor-parallel-size 8 \
--gpu-memory-utilization 0.85 \
--speculative-config.method mtp \
--speculative-config.num_speculative_tokens 3 \
--tool-call-parser glm47 \
--reasoning-parser glm45 \
--enable-auto-tool-choice \
--served-model-name glm-5.1-fp8
Для тех, у кого ресурсов поменьше, есть квантованная версия в формате FP8. Она заметно легче, но при этом сохраняет точность, достаточную для большинства задач.
Кому стоит попробовать
Если вы строите своих ИИ-агентов или автоматизируете CI/CD процессы, где нужно принимать сложные решения, GLM-5 — это отличный кандидат на роль «мозга». Она подойдет:
- Бэкенд-разработчикам для автоматической генерации тестов и миграций.
- DevOps-инженерам для написания и отладки сложных скриптов деплоя.
- Исследователям, которые ищут альтернативу закрытым API вроде Claude 3.5 Sonnet или GPT-4o.
Проект выглядит очень солидно. Это не просто очередная «убийца GPT», а инструмент с четким фокусом на инженерные задачи и автономность. Если вам надоело, что нейронки «тупят» на сложных задачах, дайте шанс GLM-5.1 — возможно, ей просто нужно чуть больше времени и итераций, чтобы вас удивить.
Посмотреть код и веса можно в официальном репозитории: zai-org/GLM-5.
