AI-модели для локального запуска
Для локального запуска важны не только качество модели, но и размер активных параметров, квантизация, объём VRAM и лицензия. Начинайте с минимальной квантизации, которая помещается в память, и проверяйте деградацию на своих задачах. Телеграм-бот fLLMs мониторит бесплатные API-ключи в роутерах.
Обновлено 22 июля 2026 · Методология и источники
Модели, которые можно развернуть на собственном сервере или рабочей станции без отправки данных во внешний API.
Модели: Локальный запуск
Найдено: 120 моделейСтраница 5 из 5
Mistral Large 2411
от Mistral
Open Source
CTX131K
PARНе раскрыто
ProGeneralText
ELO1563
MMLU94.4
92
86.6
Mistral Large 2407
от Mistral
Open Source
CTX131K
PARНе раскрыто
ProGeneralText
ELO1541
MMLU92.6
84.7
99
Pixtral Large 2411
от Mistral
Open Source
CTX131K
PARНе раскрыто
ProGeneralMultimodal
ELO1502
MMLU89.3
87.1
92.7
Qwen2.5 Coder 32B Instruct
от Qwen
Open Source
CTX33K
PAR32B
StandardGeneralText
ELO1446
MMLU88.8
85
77.1
Qwen2.5 7B Instruct
от Qwen
Open Source
CTX33K
PAR7B
StandardGeneralText
ELO1441
MMLU88.4
89.6
84.4
Llama 3.1 Nemotron 70B Instruct
от NVIDIA
Open Source
CTX131K
PAR70B
StandardGeneralText
ELO1429
MMLU87.4
90.9
78
Llama 3.2 3B Instruct (free)
от Meta
Open Source
CTX131K
PAR3B
StandardGeneralText
ELO1446
MMLU88.8
85.8
80.7
* Продукт компании Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории РФ.
Llama 3.2 1B Instruct
от Meta
Open Source
CTX60K
PAR1B
StandardGeneralText
ELO1420
MMLU86.7
88.3
96.2
* Продукт компании Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории РФ.
Llama 3.2 11B Vision Instruct
от Meta
Open Source
CTX131K
PAR11B
StandardGeneralMultimodal
ELO1416
MMLU86.3
88.2
87.9
* Продукт компании Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории РФ.
Llama 3.2 3B Instruct
от Meta
Open Source
CTX80K
PAR3B
StandardGeneralText
ELO1392
MMLU84.3
84
89.4
* Продукт компании Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории РФ.
Qwen2.5 72B Instruct
от Qwen
Open Source
CTX33K
PAR72B
StandardGeneralText
ELO1449
MMLU89.1
84.4
83.2
Hermes 3 70B Instruct
от Nous
Open Source
CTX131K
PAR70B
StandardGeneralText
ELO1368
MMLU82.3
73.9
88.1
Hermes 3 405B Instruct
от Nous
Open Source
CTX131K
PAR405B
StandardGeneralText
ELO1410
MMLU85.8
95.3
75
Hermes 3 405B Instruct (free)
от Nous
Open Source
CTX131K
PAR405B
StandardGeneralText
ELO1400
MMLU85
80.9
75.2
Llama 3.1 8B Instruct
от Meta
Open Source
CTX16K
PAR8B
StandardGeneralText
ELO1381
MMLU83.4
77.7
76.4
* Продукт компании Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории РФ.
Llama 3.1 70B Instruct
от Meta
Open Source
CTX131K
PAR70B
StandardGeneralText
ELO1368
MMLU82.3
77.6
77.8
* Продукт компании Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории РФ.
Mistral Nemo
от Mistral
Open Source
CTX131K
PARНе раскрыто
StandardGeneralText
ELO1383
MMLU83.6
81.4
87.6
Hermes 2 Pro - Llama-3 8B
от Nous
Open Source
CTX8K
PAR8B
ProGeneralText
ELO1493
MMLU88.6
86.7
83.7
Llama 3 70B Instruct
от Meta
Open Source
CTX8K
PAR70B
StandardGeneralText
ELO1422
MMLU86.8
81.2
79.9
* Продукт компании Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории РФ.
Llama 3 8B Instruct
от Meta
Open Source
CTX8K
PAR8B
StandardGeneralText
ELO1422
MMLU86.8
85.1
95
* Продукт компании Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории РФ.
Mixtral 8x22B Instruct
от Mistral
Open Source
CTX66K
PARНе раскрыто
StandardGeneralText
ELO1381
MMLU83.4
85.8
69.8
Mistral Large
от Mistral
Open Source
CTX128K
PARНе раскрыто
ProGeneralText
ELO1536
MMLU92.2
96.6
83.6
Mixtral 8x7B Instruct
от Mistral
Open Source
CTX33K
PAR46.7B (12.9B активных)
StandardGeneralText
ELO1377
MMLU83.1
77.7
91.6
Mistral 7B Instruct v0.1
от Mistral
Open Source
CTX3K
PAR7B
StandardGeneralText
ELO1370
MMLU82.5
92.3
75.5
* Продукт компании Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.