От Yandex
YandexGPT 5 Lite — компактная LLM на 8 млрд параметров от Яндекса. Выложена в открытый доступ (pretrain и instruct версии на Hugging Face). Поддержка контекста 32K токенов. Превосходит зарубежные аналоги того же размера в большинстве русскоязычных бенчмарков.
YandexGPT 5 Lite — это первая в истории Яндекса языковая модель на 8 миллиардов параметров, выпущенная в открытый доступ (Open-Source). Представленная в марте 2025 года, она была создана для того, чтобы предоставить разработчикам эффективный инструмент для локального запуска и дообучения на собственных данных, сохраняя при этом лидирующее качество работы с русским языком.
YandexGPT 5 Lite знаменует собой важный этап открытости российских ИИ-технологий. Яндекс опубликовал на платформе Hugging Face две версии модели: базовую (pretrain) и настроенную на диалог (instruct).
Несмотря на статус «Lite», модель показывает впечатляющие результаты, обходя многие зарубежные аналоги того же весового класса в русскоязычных тестах.
| Бенчмарк | Результат | Описание |
|---|---|---|
| MMLU | 71.6% | Общие академические знания |
| GSM8K | 81.3% | Математические задачи среднего уровня |
| HumanEval | 71.3% | Написание кода и логика |
| MBPP | 66.7% | Решение типовых задач по Python |
Модель доступна совершенно бесплатно для скачивания и локального запуска под лицензией Яндекса. Для тех, кто предпочитает облачное использование, она доступна через API Yandex Cloud по крайне низкой цене — около $0.83 за 1M входных токенов, что делает её одной из самых экономичных моделей на рынке.
Плюсы:
Минусы:
Опыт запуска YandexGPT 5 Lite на локальном железе пользователей
Летает отлично, полная выгрузка в VRAM. Ответы моментальные.
Запускал через командную строку. Памяти хватает с головой, кулеры даже не шумят.
Пришлось выгрузить пару слоев в RAM, но терпимо для тестов.
~$0.83 / $0.83 за 1M токенов