К списку моделей
Логотип Meta, разработчика Llama 3.1 8B Instruct

Llama 3.1 8B Instruct

От Meta

Open Source
FAMLlama
CTX16K
PAR8B
Релиз: 2024-07-23
StandardGeneralTextOpen WeightsLocal
* Продукт компании Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.

Краткое описание

Llama 3.1 8B Instruct — высокоскоростная модель от Meta с контекстным окном 128K. Оптимизирована для диалогов и RAG-задач. Цена $0.02/$0.05 за 1 млн токенов. Отличное решение для локального запуска и чат-ботов.

Агрегированный профиль

Llama 3.1 8B Instruct сильнее всего выглядит в категории «код». Индекс 25/100 рассчитан по процентильным позициям в 2 сопоставимых тестах; уверенность — средняя. Это навигационная оценка, а не замена тесту на ваших задачах.

Код25/100

2 сопоставимых теста · уверенность: средняя

Рассуждения13/100

3 сопоставимых теста · уверенность: средняя

Как рассчитан профиль →

Место модели в каталоге

Позиция рассчитана только среди моделей, для которых в каталоге указан результат того же теста. Это помогает сравнивать карточки, но не заменяет проверку модели на вашей задаче.

БенчмаркРезультатМестоДоказательство
Arena Elo (LMSYS)1381312 из 384Источник не указан
MMLU (Общие знания)83.4%315 из 391Источник не указан
HumanEval (Кодинг)77.7%351 из 391Источник не указан
MATH (Математика)76.4%324 из 391Источник не указан
GPQA (Экспертные знания)58.8%375 из 390Источник не указан
SWE-bench (Разработка)51.7%225 из 381Источник не указан

Где запустить модель

Цены приведены за 1 млн токенов и могут меняться. Доступность российских провайдеров проверяется на их стороне.

Обновляем провайдеров и цены…

На чём запустили?

Реальные замеры сообщества и помеченные редакционные ориентиры для локального запуска Llama 3.1 8B Instruct.

Сначала оцените, поместится ли выбранная квантизация в вашу RAM или VRAM.

Калькулятор локальных LLM

Для этой модели пока нет одобренных замеров.

Если вы запускали её локально, поделитесь конфигурацией — после проверки она появится здесь.

Скорость зависит от версии рантайма, драйверов, длины контекста и настроек. Редакционные значения — ориентир, а не гарантированный результат.

Стоимость API

$0.02 / $0.05 за 1M токенов

Профиль модели

MMLU83.4%Code77.7%Math76.4%GPQA58.8%SWE51.7%

Бенчмарки

Arena Elo (LMSYS)1381
MMLU (Общие знания)83.4%
HumanEval (Кодинг)77.7%
MATH (Математика)76.4%
GPQA (Экспертные знания)58.8%
SWE-bench (Разработка)51.7%

Другие модели семейства Llama

Экосистема Llama 3.1 8B Instruct

Сервисы, инструменты, материалы и обсуждения, связанные с моделью.

Сервисы с поддержкой модели

Откройте результаты по названию модели и проверьте актуальную интеграцию.

Искать в /services/ →

MCP и инструменты

Весь каталог

Точных связей пока нет. Искать по разработчику.

Обсуждения о Llama 3.1 8B Instruct

Задайте вопрос сообществу — карточка модели будет прикреплена автоматически.

Создать обсуждение