Что такое температура у ИИ: как она влияет на генерацию текста
Нейросети / ИИ

Что такое температура у ИИ: как она влияет на генерацию текста

Температура — параметр, который управляет случайностью выбора слов в LLM. Как работает softmax, какие значения ставить и чем отличаются API Claude, OpenAI и Gemini.

Анастасия Петрова
Анастасия Петрова
Контент-менеджер AI-раздела4 мин

Температура — параметр генерации, который управляет случайностью выбора следующего слова (токена). При низком значении модель почти всегда берёт самый вероятный вариант и отвечает предсказуемо, при высоком — чаще выбирает менее вероятные слова, и текст становится разнообразнее, но менее надёжным. Параметр называется Temperature или Temp, его меняют в API и в песочницах (playground) Anthropic, OpenAI, Google и других сервисов.

Параметр температуры у ИИ

Как температура работает внутри модели

LLM — большая языковая модель (Large Language Model). Она не «знает» ответ целиком, а на каждом шаге оценивает, какой токен должен идти следующим. Для каждого токена модель выдаёт число — логит. Функция softmax превращает логиты в вероятности, которые в сумме дают 1.

Температура вмешивается до softmax: логиты делятся на значение T. Формула вероятности токена: p = exp(z / T) / сумма exp(z / T) по всем токенам. Чем меньше T, тем сильнее лидер отрывается от остальных; чем больше T, тем ровнее распределение.

Пример для трёх токенов с логитами 2,0, 1,0 и 0,5:

ТемператураТокен 1Токен 2Токен 3
0,584%11%4%
1,063%23%14%
2,048%29%23%

При T = 0 деление на ноль невозможно, поэтому сервисы подменяют его жадным выбором: всегда берётся самый вероятный токен. Ответ получается почти детерминированным, хотя из-за особенностей вычислений на серверах два запуска иногда всё же отличаются.

Что меняется на разных значениях

  • 0,0–0,3 — максимальная точность и повторяемость: извлечение данных, классификация, перевод, техническая документация, код.
  • 0,5–0,7 — умеренная случайность: деловые тексты, саммари, ответы на вопросы, где нужен баланс.
  • 0,8–1,0 — больше разнообразия: идеи, слоганы, художественные тексты, рекламные формулировки.
  • Выше 1,0 (там, где API это позволяет) — высокая случайность для экспериментов; ближе к 2,0 текст часто теряет смысл и связность.

Эти границы ориентировочные: модели и провайдеры ведут себя по-разному, поэтому всегда проверяйте несколько значений на своей задаче.

Значения по умолчанию и диапазоны у провайдеров

ПровайдерДиапазонПо умолчанию
Anthropic (Claude API)0,0–1,01,0
OpenAI0–21
Google Gemini0,0–2,01,0

Значение 0,7, которое часто называют «стандартным», — это популярная настройка в приложениях и библиотеках, а не умолчание в API. Для моделей Gemini 3 Google прямо советует оставлять температуру равной 1,0: их рассуждения оптимизированы под это значение.

Пример: один промпт при разной температуре

Возьмём задачу: «Придумай название для сервиса учёта времени сотрудников».

  • При температуре 0,2 модель, как правило, выберет самые типичные формулировки в духе «Тайм-трекер» или «Учёт времени». Повторный запуск даст то же или почти то же.
  • При 0,7 названия обычно становятся разнообразнее, но остаются осмысленными.
  • При 1,0 и выше растёт шанс на неожиданные ассоциации и игру слов — вместе с вариантами, которые не подойдут.

Для рабочих задач удобно работать так: сначала получить основной вариант на 0,3–0,5, затем отдельно прогнать запрос на 1,0 и забрать оттуда идеи, которые стоит добавить в основной текст. Если в тексте появляются выдуманные факты или слишком общие формулировки, температуру стоит снизить.

Температура и другие параметры

Вместе с температурой используют top-p и top-k, которые ограничивают круг кандидатов.

  • Top-p (nucleus sampling). Модель выбирает только из токенов, суммарная вероятность которых достигает p. Значение 0,9 оставляет «ядро» из 90% вероятностной массы.
  • Top-k. Выбор идёт из k самых вероятных токенов, например из 50. Параметр поддерживают не все API.

Документация Anthropic рекомендует менять либо температуру, либо top-p, но не оба параметра сразу, чтобы результат оставался предсказуемым.

Температура не влияет на скорость

Время генерации и расход ресурсов зависят от длины ответа, размера модели и нагрузки на сервер, а не от температуры. Изменение этого параметра только меняет правило выбора токена и не замедляет вычисления.

Температура и reasoning-модели

В части новых моделей параметр нельзя настроить. У reasoning-моделей OpenAI линейки GPT-5 (в документации они помечены как «размышляющие») API обычно принимает только значение по умолчанию, равное 1, и возвращает ошибку при других значениях. Для Gemini 3 рекомендуют не менять температуру. Поэтому перед настройкой читайте документацию API для конкретной модели.

Официальная информация у провайдеров LLM

Anthropic Claude

OpenAI (ChatGPT)

  • Справочник API, где описан параметр: https://platform.openai.com/docs/api-reference/responses/create. В нём сказано: «Температуру можно рассматривать как случайность, где 0 — наименее случайная (или наиболее детерминированная), а 2 — наиболее случайная (наименее детерминированная)».
  • Обсуждение на форуме сообщества, почему в моделях GPT-5 нельзя менять температуру: https://community.openai.com/t/temperature-in-gpt-5-models/1337133/2

Автор статьи

Анастасия Петрова — Контент-менеджер AI-раздела
Анастасия Петрова

Контент-менеджер AI-раздела

Отвечает за каталог нейросетей и AI-инструментов. Следит за обновлениями LLM-моделей, тестирует новые сервисы и ведёт раздел бесплатных инструментов.

Вопросы и ответы

Это параметр генерации, который регулирует случайность выбора следующего токена. Низкая температура даёт предсказуемый ответ, высокая — более разнообразный, но менее надёжный.

Для извлечения данных, перевода, кода и документации обычно берут 0–0,3. Для деловых текстов подходит 0,5–0,7, для идей и художественных текстов — 0,8–1,0.

У Claude API по умолчанию 1,0 при диапазоне 0–1. У OpenAI диапазон 0–2, по умолчанию 1. У Gemini диапазон 0–2, по умолчанию 1,0.

Нет. Скорость зависит от длины ответа, размера модели и нагрузки, а температура только меняет правило выбора токена.

У reasoning-моделей API обычно принимает только значение по умолчанию, равное 1. Перед настройкой проверяйте документацию конкретной модели.

Документация Anthropic рекомендует менять либо температуру, либо top-p, но не оба параметра сразу.

Смотрите также

Поделиться

Комментарии(0)

Оставьте комментарий

Войдите, чтобы присоединиться к обсуждению

Модель из статьи

Весь каталог