Temperatura

Parâmetro de amostragem que altera quão concentrada fica a distribuição de próximos tokens de um modelo. Temperaturas menores favorecem tokens já mais prováveis e tornam a saída mais previsível; temperaturas maiores distribuem mais probabilidade entre alternativas e aumentam a variação.

Temperatura controla diversidade, não verdade, conhecimento ou segurança. Reduzi-la pode tornar uma resposta errada mais consistente; elevá-la pode ser apropriado para ideação e inadequado para extração estruturada. A escolha precisa ser medida na tarefa, junto de formato, contexto, modelo e demais controles de decodificação.