AI-модели для локального запуска
Для локального запуска важны не только качество модели, но и размер активных параметров, квантизация, объём VRAM и лицензия. Начинайте с минимальной квантизации, которая помещается в память, и проверяйте деградацию на своих задачах. Телеграм-бот fLLMs мониторит бесплатные API-ключи в роутерах.
Значение показывается только там, где для модели есть результат конкретного теста · Методология и источники
Модели, которые можно развернуть на собственном сервере или рабочей станции без отправки данных во внешний API.
Модели: Локальный запуск
Qwen3 VL 8B ThinkingQwen · окт. 2025 · Open source
SWE59%GPQA67.9%Elo1450Контекст131KЦена за 1M$0.12 / $1.36
Llama 3.3 Nemotron Super 49B V1.5NVIDIA · окт. 2025 · Open source
SWE51.5%GPQA71.1%Elo1456Контекст131KЦена за 1M$0.10 / $0.40- Qwen3 VL 30B A3B Instruct
Qwen · окт. 2025 · Open source
SWE50.5%GPQA61.9%Elo1388Контекст131KЦена за 1M$0.13 / $0.52 - Qwen3 VL 30B A3B Thinking
Qwen · окт. 2025 · Open source
SWE51.2%GPQA68.4%Elo1417Контекст131KЦена за 1M$0.13 / $1.56 
DeepSeek V3.2 ExpDeepSeek · сент. 2025 · Open source
SWE48.2%GPQA61.4%Elo1370Контекст164KЦена за 1M$0.27 / $0.41- Qwen3 Coder Plus
Qwen · сент. 2025 · Open source
SWE50.3%GPQA67.6%Elo1394Контекст1MЦена за 1M$0.65 / $3.25 - Qwen3 Max
Qwen · сент. 2025 · Open source
SWE67.2%GPQA72.8%Elo1437Контекст262KЦена за 1M$0.78 / $3.90 - Qwen3 VL 235B A22B Instruct
Qwen · сент. 2025 · Open source
SWE55.9%GPQA71.7%Elo1456Контекст262KЦена за 1M$0.20 / $0.88 - Qwen3 VL 235B A22B Thinking
Qwen · сент. 2025 · Open source
SWE50.8%GPQA61.3%Elo1399Контекст131KЦена за 1M$0.26 / $2.60 - DeepSeek V3.1 Terminus
DeepSeek · сент. 2025 · Open source
SWE62.8%GPQA60%Elo1399Контекст164KЦена за 1M$0.21 / $0.79 - Qwen3 Coder Flash
Qwen · сент. 2025 · Open source
SWE52.1%GPQA63.2%Elo1365Контекст1MЦена за 1M$0.20 / $0.97 - Qwen3 Next 80B A3B Instruct
Qwen · сент. 2025 · Open source
SWE41.6%GPQA60.2%Elo1366Контекст262KЦена за 1M$0.09 / $1.10 - Qwen3 Next 80B A3B Instruct (free)
Qwen · сент. 2025 · Open source
SWE60.5%GPQA65.9%Elo1394Контекст262KЦена за 1MБесплатно - Qwen3 Next 80B A3B Thinking
Qwen · сент. 2025 · Open source
SWE55.3%GPQA63.6%Elo1413Контекст131KЦена за 1M$0.10 / $0.78 - Qwen Plus 0728
Qwen · сент. 2025 · Open source
SWE47%GPQA60.9%Elo1366Контекст1MЦена за 1M$0.26 / $0.78 - Qwen Plus 0728 (thinking)
Qwen · сент. 2025 · Open source
SWE56.9%GPQA65.6%Elo1446Контекст1MЦена за 1M$0.26 / $0.78 - Qwen3 30B A3B Thinking 2507
Qwen · авг. 2025 · Open source
SWE51.9%GPQA68.2%Elo1383Контекст131KЦена за 1M$0.08 / $0.40 - DeepSeek V3.1
DeepSeek · авг. 2025 · Open source
SWE51.8%GPQA63%Elo1408Контекст33KЦена за 1M$0.15 / $0.75 
Mistral Medium 3.1Mistral · авг. 2025 · Open source
SWE65.3%GPQA59.7%Elo1386Контекст131KЦена за 1M$0.40 / $2- Codestral 2508
Mistral · авг. 2025 · Open source
SWE67%GPQA69.1%Elo1449Контекст256KЦена за 1M$0.30 / $0.90 - Qwen3 Coder 30B A3B Instruct
Qwen · июль 2025 · Open source
SWE59.1%GPQA65.9%Elo1413Контекст160KЦена за 1M$0.07 / $0.27 - Qwen3 30B A3B Instruct 2507
Qwen · июль 2025 · Open source
SWE45.1%GPQA59.7%Elo1376Контекст262KЦена за 1M$0.09 / $0.30 - Qwen3 235B A22B Thinking 2507
Qwen · июль 2025 · Open source
SWE56.6%GPQA64%Elo1412Контекст131KЦена за 1M$0.15 / $1.50 - Qwen3 Coder 480B A35B
Qwen · июль 2025 · Open source
SWE46.2%GPQA70.3%Elo1442Контекст262KЦена за 1M$0.22 / $1.80