AI-модели для локального запуска
Для локального запуска важны не только качество модели, но и размер активных параметров, квантизация, объём VRAM и лицензия. Начинайте с минимальной квантизации, которая помещается в память, и проверяйте деградацию на своих задачах. Телеграм-бот fLLMs мониторит бесплатные API-ключи в роутерах.
Значение показывается только там, где для модели есть результат конкретного теста · Методология и источники
Модели, которые можно развернуть на собственном сервере или рабочей станции без отправки данных во внешний API.
Модели: Локальный запуск
Найдено: 126 моделейСтраница 1 из 6
Qwen3.8-Flash-Next
от Qwen
Qwen
Open Weights
CTX256K нативно / до 1M
PAR125B + 51B n-gram embeddings / 6B активных
PreviewFlashMoE
LiveCode 91.9%
Granite 4.2 30B
от IBM
IBM Granite
Open Source
CTX128K
PAR30B
Open-SourceCodeReasoning
LiveCode 75.77%GPQA 66.41%
Meta Muse Glimmer 30B
от Meta
Other
Open Source
CTX128K
PAR~29.6B включая vision encoder
Open-SourceMultimodalAgentic
* Продукт компании Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории РФ.
GigaChat 3.5 Ultra
от Sber
GigaChat
Open Source
CTX128K
PAR432B (28B активных)
FlagshipRussianMoE
HumanEval 80.49%SWE-bench 42.6%GPQA 30.81%MMLU 85.28%
GLM-5.2
от Z.ai
GLM
Open Weight
CTX1M
PARНе раскрыто
TextCodingAgentic
HumanEval 93.5%SWE-bench 62.1%GPQA 74%MMLU 93.8%
Kimi K 2.7 Code
от Moonshot AI
Other
Open Source
CTX128K
PARНе раскрыто
CodingGeneralText
HumanEval 94%SWE-bench 65%GPQA 72%MMLU 92.5%
Qwen3.5 Plus 2026-04-20
от Qwen
Qwen
Open Source
CTX1M
PARНе раскрыто
StandardGeneralText
HumanEval 80.1%SWE-bench 44.4%GPQA 67.8%MMLU 84.7%
Qwen3.6 27B
от Qwen
Qwen
Open Source
CTX256K
PAR27B
StandardGeneralText
HumanEval 95.7%SWE-bench 67.9%GPQA 71.2%MMLU 87.1%
Qwen3.6 35B A3B
от Qwen
Qwen
Open Source
CTX262K
PAR35B
StandardGeneralText
HumanEval 86.7%SWE-bench 47.9%GPQA 62.8%MMLU 86.8%
Qwen3.6 Flash
от Qwen
Qwen
Open Source
CTX1M
PARНе раскрыто
FastGeneralText
HumanEval 74.6%SWE-bench 49.4%GPQA 59.7%MMLU 83.8%
Qwen3.6 Max Preview
от Qwen
Qwen
Open Source
CTX262K
PARНе раскрыто
StandardGeneralText
HumanEval 93.4%SWE-bench 57.2%GPQA 69.9%MMLU 85.2%
Qwen3.6 Plus
от Qwen
Qwen
Open Source
CTX1M
PARНе раскрыто
StandardGeneralText
HumanEval 84.6%SWE-bench 58.8%GPQA 64.8%MMLU 85.2%
GigaChat 3 Lightning
от Sber
GigaChat
Open Source
CTX128K
PARНе раскрыто
CompactRussianMoE
HumanEval 74%MMLU 72%
GigaChat 3.1 Ultra
от Sber
GigaChat
Open Source
CTX128K
PARНе раскрыто
FlagshipRussianMoE
HumanEval 90.9%GPQA 46%MMLU 84.2%
Mistral Small 4
от Mistral
Mistral
Open Source
CTX262K
PARНе раскрыто
StandardGeneralMultimodal
HumanEval 85.9%SWE-bench 60.5%GPQA 68.2%MMLU 89.9%
Qwen3.5-9B
от Qwen
Qwen
Open Source
CTX262K
PAR9B
StandardGeneralText
HumanEval 82.4%SWE-bench 57.2%GPQA 67.4%MMLU 85.4%
Qwen3.5-122B-A10B
от Qwen
Qwen
Open Source
CTX262K
PAR122B (10B активных)
StandardGeneralText
HumanEval 81.5%SWE-bench 49.3%GPQA 63.7%MMLU 87.3%
Qwen3.5-27B
от Qwen
Qwen
Open Source
CTX262K
PAR27B
StandardGeneralText
HumanEval 79.8%SWE-bench 49.4%GPQA 59.6%MMLU 84.6%
* Продукт компании Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.