Веса и KV-кэш помещаются в VRAM; комфортный вариант для локального чата.

От Meta
Llama 3.2 3B — это многоязычная модель большого языка с 3 миллиардами параметров, оптимизированная для сложных задач обработки естественного языка, таких как генерация диалогов, рассуждение и обобщение. Разработанный с использованием новейшей трансформаторной архитектуры, он...
Llama 3.2 3B Instruct сильнее всего выглядит в категории «рассуждения». Индекс 36/100 рассчитан по процентильным позициям в 3 сопоставимых тестах; уверенность — средняя. Это навигационная оценка, а не замена тесту на ваших задачах.
3 сопоставимых теста · уверенность: средняя
2 сопоставимых теста · уверенность: средняя
Позиция рассчитана только среди моделей, для которых в каталоге указан результат того же теста. Это помогает сравнивать карточки, но не заменяет проверку модели на вашей задаче.
| Бенчмарк | Результат | Место | Доказательство |
|---|---|---|---|
| Arena Elo (LMSYS) | 1392 | 274 из 384 | Источник не указан |
| MMLU (Общие знания) | 84.3% | 275 из 391 | Источник не указан |
| HumanEval (Кодинг) | 84% | 255 из 391 | Источник не указан |
| MATH (Математика) | 89.4% | 115 из 391 | Источник не указан |
| GPQA (Экспертные знания) | 59.8% | 361 из 390 | Источник не указан |
| SWE-bench (Разработка) | 49.3% | 273 из 381 | Источник не указан |
Цены приведены за 1 млн токенов и могут меняться. Доступность российских провайдеров проверяется на их стороне.
Реальные замеры сообщества и помеченные редакционные ориентиры для локального запуска Llama 3.2 3B Instruct.
Сначала оцените, поместится ли выбранная квантизация в вашу RAM или VRAM.
Калькулятор локальных LLMВеса и KV-кэш помещаются в VRAM; комфортный вариант для локального чата.
Запускается без внешней GPU; для длинного контекста скорость и доступная память будут ниже.
Скорость зависит от версии рантайма, драйверов, длины контекста и настроек. Редакционные значения — ориентир, а не гарантированный результат.
$0.05 / $0.34 за 1M токенов





Сервисы, инструменты, материалы и обсуждения, связанные с моделью.
Откройте результаты по названию модели и проверьте актуальную интеграцию.
Точных связей пока нет. Искать по разработчику.
Задайте вопрос сообществу — карточка модели будет прикреплена автоматически.