Веса и KV-кэш помещаются в VRAM; комфортный вариант для локального чата.

От Meta
Llama 3.2 3B — это многоязычная модель большого языка с 3 миллиардами параметров, оптимизированная для сложных задач обработки естественного языка, таких как генерация диалогов, рассуждение и обобщение. Разработанный с использованием новейшей трансформаторной архитектуры, он...
Для Llama 3.2 3B Instruct пока нет совпавших результатов в подключённых публичных лидербордах. Исходные значения карточки не используются для G‑Score.
Показатели G‑Код, G‑Рассуждения, G‑Агенты и G‑Зрение рассчитаны по массовым таблицам LiveBench, Artificial Analysis и LMArena. Наведите или нажмите на значок рядом с оценкой, чтобы увидеть исходный лидерборд, вариант модели, значение и размер выборки.
Уверенность данных
низкая
Покрытие
0 тестов · 0 направлений
Происхождение
нет данных лидербордов
Место исходного бенчмарка показывается только при закреплённом source record и среди других карточек с источником. Эти старые значения не участвуют в G-Score лидербордов.
| Бенчмарк | Результат | Место | Доказательство |
|---|---|---|---|
| GPQA (Экспертные знания) | 59.8% | н/д | Источник не указан |
| MATH (Математика) | 89.4% | н/д | Источник не указан |
| MMLU (Общие знания) | 84.3% | н/д | Источник не указан |
| Arena Elo (LMSYS) | 1392 | н/д | Источник не указан |
| HumanEval (Кодинг) | 84% | н/д | Источник не указан |
| SWE-bench (Разработка) | 49.3% | н/д | Источник не указан |
Цены приведены за 1 млн токенов и могут меняться. Доступность российских провайдеров проверяется на их стороне.
Реальные замеры сообщества и помеченные редакционные ориентиры для локального запуска Llama 3.2 3B Instruct.
Сначала оцените, поместится ли выбранная квантизация в вашу RAM или VRAM.
Калькулятор локальных LLMВеса и KV-кэш помещаются в VRAM; комфортный вариант для локального чата.
Запускается без внешней GPU; для длинного контекста скорость и доступная память будут ниже.
Скорость зависит от версии рантайма, драйверов, длины контекста и настроек. Редакционные значения — ориентир, а не гарантированный результат.
История семейства
Последовательность собрана по датам релиза моделей Meta в каталоге. Она показывает соседние поколения, но не приписывает им совместимость или наследование архитектуры без отдельного источника.
Сервисы, инструменты, материалы и обсуждения, связанные с моделью.
Откройте результаты по названию модели и проверьте актуальную интеграцию.
Задайте вопрос сообществу — карточка модели будет прикреплена автоматически.