Параметр, регулирующий степень случайности ответов модели — низкая температура даёт предсказуемые ответы, высокая — более разнообразные и творческие.
Temperature (температура) — это настраиваемый параметр языковой модели, который управляет степенью случайности при выборе следующего слова (токена) из распределения вероятностей, которое модель вычисляет на каждом шаге генерации. При температуре, близкой к нулю, модель почти всегда выбирает наиболее вероятный вариант, что даёт стабильные и предсказуемые ответы.
При более высокой температуре модель чаще выбирает менее вероятные, но всё же правдоподобные варианты продолжения, что делает ответы более разнообразными и творческими, но одновременно повышает риск менее связных или менее точных с фактической точки зрения результатов — поэтому выбор значения температуры зависит от типа задачи.
Для задач, требующих фактической точности (юридические справки, техническая документация, код), обычно выбирают низкую температуру; для творческих задач (написание историй, генерация идей, брейнсторминг) — более высокую, чтобы получить разнообразные варианты.
Большинство API-провайдеров используют умеренное значение по умолчанию как компромисс, но для конкретных задач стоит явно настраивать параметр под нужный баланс точности и разнообразия.
Практически да, хотя из-за особенностей вычислений на некоторых архитектурах абсолютная детерминированность не всегда гарантируется на 100%.
Нет, это не связано с интеллектом модели — параметр влияет только на степень случайности выбора слов, а не на качество рассуждений или знания модели.