Текущая2024-07-23

От Meta
Llama 3.1 8B Instruct — высокоскоростная модель от Meta с контекстным окном 128K. Оптимизирована для диалогов и RAG-задач. Цена $0.02/$0.05 за 1 млн токенов. Отличное решение для локального запуска и чат-ботов.
Для Llama 3.1 8B Instruct пока нет совпавших результатов в подключённых публичных лидербордах. Исходные значения карточки не используются для G‑Score.
Показатели G‑Код, G‑Рассуждения, G‑Агенты и G‑Зрение рассчитаны по массовым таблицам LiveBench, Artificial Analysis и LMArena. Наведите или нажмите на значок рядом с оценкой, чтобы увидеть исходный лидерборд, вариант модели, значение и размер выборки.
Уверенность данных
низкая
Покрытие
0 тестов · 0 направлений
Происхождение
нет данных лидербордов
Место исходного бенчмарка показывается только при закреплённом source record и среди других карточек с источником. Эти старые значения не участвуют в G-Score лидербордов.
| Бенчмарк | Результат | Место | Доказательство |
|---|---|---|---|
| GPQA (Экспертные знания) | 58.8% | н/д | Источник не указан |
| MATH (Математика) | 76.4% | н/д | Источник не указан |
| MMLU (Общие знания) | 83.4% | н/д | Источник не указан |
| Arena Elo (LMSYS) | 1381 | н/д | Источник не указан |
| HumanEval (Кодинг) | 77.7% | н/д | Источник не указан |
| SWE-bench (Разработка) | 51.7% | н/д | Источник не указан |
Цены приведены за 1 млн токенов и могут меняться. Доступность российских провайдеров проверяется на их стороне.
Реальные замеры сообщества и помеченные редакционные ориентиры для локального запуска Llama 3.1 8B Instruct.
Сначала оцените, поместится ли выбранная квантизация в вашу RAM или VRAM.
Калькулятор локальных LLMДля этой модели пока нет одобренных замеров.
Если вы запускали её локально, поделитесь конфигурацией — после проверки она появится здесь.
Скорость зависит от версии рантайма, драйверов, длины контекста и настроек. Редакционные значения — ориентир, а не гарантированный результат.
История семейства
Последовательность собрана по датам релиза моделей Meta в каталоге. Она показывает соседние поколения, но не приписывает им совместимость или наследование архитектуры без отдельного источника.
Сервисы, инструменты, материалы и обсуждения, связанные с моделью.
Откройте результаты по названию модели и проверьте актуальную интеграцию.
Задайте вопрос сообществу — карточка модели будет прикреплена автоматически.