AI-модели для локального запуска

Для локального запуска важны не только качество модели, но и размер активных параметров, квантизация, объём VRAM и лицензия. Начинайте с минимальной квантизации, которая помещается в память, и проверяйте деградацию на своих задачах. Телеграм-бот fLLMs мониторит бесплатные API-ключи в роутерах.

Обновлено 22 июля 2026 · Методология и источники

Модели, которые можно развернуть на собственном сервере или рабочей станции без отправки данных во внешний API.

Найдено: 120 моделейСтраница 2 из 5

AI-модели для локального запуска

Модели: Локальный запуск

Devstral 2 2512

DeepSeek V3.1 Nex N1

Ministral 3 3B 2512

Ministral 3 14B 2512

Ministral 3 8B 2512

Mistral Large 3 2512

DeepSeek V3.2

DeepSeek V3.2 Speciale

Voxtral Small 24B 2507

Qwen3 VL 32B Instruct

Qwen3 VL 8B Thinking

Qwen3 VL 8B Instruct

Llama 3.3 Nemotron Super 49B V1.5

Qwen3 VL 30B A3B Thinking

Qwen3 VL 30B A3B Instruct

DeepSeek V3.2 Exp

Qwen3 VL 235B A22B Instruct

Qwen3 Max

Qwen3 VL 235B A22B Thinking

Qwen3 Coder Plus

DeepSeek V3.1 Terminus

Qwen3 Coder Flash

Qwen3 Next 80B A3B Thinking

Qwen3 Next 80B A3B Instruct (free)

Как выбрать модель

Вопросы и ответы

AI-модели для локального запуска

Модели: Локальный запуск

Devstral 2 2512

DeepSeek V3.1 Nex N1

Ministral 3 3B 2512

Ministral 3 14B 2512

Ministral 3 8B 2512

Mistral Large 3 2512

DeepSeek V3.2

DeepSeek V3.2 Speciale

Voxtral Small 24B 2507

Qwen3 VL 32B Instruct

Qwen3 VL 8B Thinking

Qwen3 VL 8B Instruct

Llama 3.3 Nemotron Super 49B V1.5

Qwen3 VL 30B A3B Thinking

Qwen3 VL 30B A3B Instruct

DeepSeek V3.2 Exp

Qwen3 VL 235B A22B Instruct

Qwen3 Max

Qwen3 VL 235B A22B Thinking

Qwen3 Coder Plus

DeepSeek V3.1 Terminus

Qwen3 Coder Flash

Qwen3 Next 80B A3B Thinking

Qwen3 Next 80B A3B Instruct (free)