Сбер выпустил GigaChat 3.5 Ultra: открытая 432B-модель стала меньше и быстрее

Сбер выложил в open source GigaChat 3.5 Ultra — новую флагманскую модель семейства GigaChat. Это 432B MoE-модель с 28B активных параметров на токен, открытыми весами под MIT и фокусом на код, математику, агентные сценарии и длинный контекст.

Главная интрига релиза не в том, что модель стала «ещё больше». Наоборот: GigaChat 3.5 Ultra компактнее предыдущего 700B-флагмана GigaChat 3.1 Ultra, но при этом Сбер заявляет прирост качества и эффективности. Для российского рынка это заметное событие: крупная open-weight модель выходит не как витринный демо-чекпойнт, а как инженерная попытка сделать флагман дешевле в инференсе.

Что именно выпустили

Веса доступны на Hugging Face в нескольких вариантах: fp8 instruct, bf16, base, GGUF и training checkpoints. Основная карточка — ai-sage/GigaChat3.5-432B-A28B. В нашей базе уже добавлена отдельная карточка модели: GigaChat 3.5 Ultra: характеристики, бенчмарки и запуск.

Архитектурно это Mixture-of-Experts: всего 432 млрд параметров, но в каждый момент активируется примерно 28 млрд. Поэтому модель не равна по стоимости запуска dense-монстру на 432B, хотя требования к железу всё равно остаются серверными.

Почему релиз важен

Сбер сделал ставку на гибридную архитектуру: часть слоёв использует MLA, часть — GatedDeltaNet linear attention. Практический выигрыш — меньше KV-cache, лучше работа с длинным контекстом и выше throughput. По опубликованным данным, модель использует примерно в 4 раза меньше KV-cache на токен, позволяет уместить более чем в 2 раза больше контекста в ту же память и даёт около 20% прироста throughput.

Отдельно добавили MTP-головы для self-speculative decoding. В greedy decoding первые две головы дают ускорение до 2,2 раза. Это не означает, что любой пользователь увидит ровно такой прирост в своём приложении, но направление понятно: команда пытается снизить цену длинных ответов и агентных цепочек не только за счёт железа, но и за счёт архитектуры.

Бенчмарки: где прибавили

По опубликованным таблицам GigaChat 3.5 Ultra заметно вырос в прикладных задачах. Для instruct-версии указаны 42,6% на SWE-bench Verified, 56,2% на LiveCodeBench v6, 86% на MATH 500, 69,5% на Arena Hard Ru vs GPT-5 и 67,3% на MERA Text. Base-модель показывает 85,28% на MMLU, 87,5% на BBH и 80,49% на HumanEval.

Сравнивать эти числа надо аккуратно: в релизе смешаны base и instruct-таблицы, а методики отличаются. Но общий вывод не меняется: 3.5 Ultra — не косметическое обновление, а заметный шаг вперёд относительно GigaChat 3.1 Ultra, особенно в инженерных задачах.

Где запустить

Есть три реалистичных сценария.

• Hugging Face / собственный кластер. Подходит командам, которым нужны открытые веса, контроль над данными и возможность адаптации. Нужны несколько GPU, быстрый обмен между ними и опыт запуска крупных MoE-моделей.
• SGLang или vLLM. Это основной путь для серверного инференса. В карточке модели есть примеры запуска, но production всё равно потребует настройки памяти, параллелизма и мониторинга.
• GigaChat API или веб-ассистент. Если нужно встроить модель в продукт без обслуживания кластера, проще начинать с API. Для прототипов и внутренних тестов это быстрее, чем поднимать 432B самостоятельно.

Сколько стоит

Сами веса — бесплатные, лицензия MIT. Но бесплатные веса не равны бесплатному production. Основная стоимость здесь — GPU-инфраструктура, хранение, трафик, инженеры, оптимизация latency и тесты качества.

У GigaChat API есть freemium-режим для физических лиц: документация Сбера указывает 1 000 000 токенов на 12 месяцев, включая лимиты для Lite, Pro и Max. Платные пакеты также привязаны к линейке GigaChat 2 Lite/Pro/Max. Если Сбер отдельно заведёт 3.5 Ultra в API-линейку, цены и доступность стоит перепроверять в документации перед расчётом экономики продукта.

Кому стоит пробовать

Модель интересна тем, кто делает русскоязычные корпоративные ассистенты, RAG по внутренним документам, инструменты для разработки, автономные агенты и системы, где данные нельзя отдавать во внешний закрытый API. Для обычного чат-бота поддержки запуск собственного 432B-кластера, скорее всего, будет избыточен.

Хороший стартовый план: сначала проверить GigaChat через API на своих сценариях, затем сравнить качество с открытыми весами на ограниченном наборе задач, и только после этого считать экономику self-hosted. Важны не только бенчмарки, но и скорость ответа, устойчивость к длинным промптам, стоимость одного успешного действия агента и качество на ваших документах.

Итог

GigaChat 3.5 Ultra выглядит как зрелое обновление: меньше параметров, меньше память на KV-cache, быстрее генерация и открытая лицензия. Слабое место — высокий порог самостоятельного запуска. Поэтому для большинства команд это сначала модель для оценки через API и бенчмарков на своих данных, а уже потом кандидат на self-hosted развёртывание.

Источники: Habr, блог Сбера, карточка модели на Hugging Face, тарифы GigaChat API.