AI-модели для локального запуска
Для локального запуска важны не только качество модели, но и размер активных параметров, квантизация, объём VRAM и лицензия. Начинайте с минимальной квантизации, которая помещается в память, и проверяйте деградацию на своих задачах. Телеграм-бот fLLMs мониторит бесплатные API-ключи в роутерах.
Значение показывается только там, где для модели есть результат конкретного теста · Методология и источники
Модели, которые можно развернуть на собственном сервере или рабочей станции без отправки данных во внешний API.
Модели: Локальный запуск
Qwen3 Coder 480B A35B (free)Qwen · июль 2025 · Open source
SWE60.7%GPQA71.1%Elo1435Контекст262KЦена за 1MБесплатно- Qwen3 235B A22B Instruct 2507
Qwen · июль 2025 · Open source
SWE48.2%GPQA59.2%Elo1380Контекст262KЦена за 1M$0.07 / $0.10 
Devstral MediumMistral · июль 2025 · Open source
SWE51%GPQA69.9%Elo1452Контекст131KЦена за 1M$0.40 / $2- Devstral Small 1.1
Mistral · июль 2025 · Open source
SWE67.6%GPQA69%Elo1447Контекст131KЦена за 1M$0.10 / $0.30 
Uncensored (free)Venice · июль 2025 · Open source
SWE49.6%GPQA66.8%Elo1372Контекст33KЦена за 1MБесплатно- TDeepSeek R1T2 Chimera
TNG · июль 2025 · Open source
SWE47.6%GPQA57.7%Elo1365Контекст164KЦена за 1M$0.30 / $1.10 - Mistral Small 3.2 24B
Mistral · июнь 2025 · Open source
SWE63.2%GPQA71.1%Elo1423Контекст128KЦена за 1M$0.07 / $0.20 
R1 0528DeepSeek · май 2025 · Open source
SWE64.2%GPQA59.8%Elo1390Контекст164KЦена за 1M$0.50 / $2.15- Mistral Medium 3
Mistral · май 2025 · Open source
SWE49.1%GPQA71.4%Elo1460Контекст131KЦена за 1M$0.40 / $2 
Llama Guard 4 12BMeta · апр. 2025 · Open source
* Продукт компании Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории РФ.
SWE49.5%GPQA67.2%Elo1384Контекст164KЦена за 1M$0.18 / $0.18- Qwen3 14B
Qwen · апр. 2025 · Open source
SWE57.9%GPQA68.7%Elo1423Контекст41KЦена за 1M$0.06 / $0.24 - Qwen3 235B A22B
Qwen · апр. 2025 · Open source
SWE49.7%GPQA61.6%Elo1402Контекст131KЦена за 1M$0.45 / $1.82 - Qwen3 30B A3B
Qwen · апр. 2025 · Open source
SWE54.4%GPQA71.4%Elo1431Контекст41KЦена за 1M$0.08 / $0.28 - Qwen3 32B
Qwen · апр. 2025 · Open source
SWE62.4%GPQA70.1%Elo1442Контекст41KЦена за 1M$0.08 / $0.24 - Qwen3 8B
Qwen · апр. 2025 · Open source
SWE69%GPQA68.2%Elo1454Контекст41KЦена за 1M$0.05 / $0.40 - ACodeLLaMa 7B Instruct Solidity
AlfredPros · апр. 2025 · Open source
SWE66.7%GPQA70.3%Elo1526Контекст4KЦена за 1M$0.80 / $1.20 - Llama 4 Maverick
Meta · апр. 2025 · Open source
* Продукт компании Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории РФ.
SWE54.7%GPQA68.4%Elo1434Контекст1MЦена за 1M$0.15 / $0.60 - Llama 4 Scout
Meta · апр. 2025 · Open source
* Продукт компании Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории РФ.
SWE51.4%GPQA69.9%Elo1450Контекст328KЦена за 1M$0.08 / $0.30 
YandexGPT 5 LiteYandex · март 2025 · Open source
Code71.3%MMLU71.6%Math54.6%Контекст32KЦена за 1M$0.83 / $0.83- DeepSeek V3 0324
DeepSeek · март 2025 · Open source
SWE60.5%GPQA64.1%Elo1368Контекст164KЦена за 1M$0.20 / $0.77 - Mistral Small 3.1 24B
Mistral · март 2025 · Open source
SWE55.5%GPQA63.4%Elo1416Контекст128KЦена за 1M$0.35 / $0.56 - Saba
Mistral · февр. 2025 · Open source
SWE64.3%GPQA65.5%Elo1440Контекст33KЦена за 1M$0.20 / $0.60 - Llama Guard 3 8B
Meta · февр. 2025 · Open source
* Продукт компании Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории РФ.
SWE52%GPQA63%Elo1398Контекст131KЦена за 1M$0.48 / $0.03 - Qwen VL Plus
Qwen · февр. 2025 · Open source
SWE66.6%GPQA58.8%Elo1382Контекст131KЦена за 1M$0.14 / $0.41