Top-P (Nucleus Sampling)

Método de amostragem que seleciona o menor conjunto de tokens cuja probabilidade acumulada atinge P e sorteia dentro dele. Ao contrário de Top-K, o tamanho do conjunto muda conforme a confiança do modelo: uma distribuição concentrada produz poucos candidatos; uma distribuição incerta admite mais alternativas.

Top-P regula diversidade localmente, mas não substitui critérios de qualidade. Um P alto pode ampliar opções úteis ou ruído; um P baixo pode eliminar formulações necessárias. Temperatura, Top-K e Top-P atuam sobre a mesma etapa de decodificação, portanto devem ser ajustados com experimentos controlados, em vez de empilhados por hábito.