Top-p Sampling
Amostragem Top-p
A amostragem Top-p ordena os tokens possíveis por probabilidade, em seguida mantém o menor grupo cuja probabilidade total atinge p. Ele escolhe o próximo token desse grupo.
Outro exemplo
As chances de próximo token somam 1,0, e um engenheiro define top-p como 0,9. Apenas o menor grupo que atinge 0,9 pode ser escolhido. Ao contrário do top-k, esse grupo não tem um número fixo de tokens.
Partes principais
- 01Candidatos classificados
- 02Limite cumulativo
- 03núcleo elegível
Use-o quando
Use este termo quando a chance cumulativa estabelece um limite variável para os próximos tokens possíveis.
Não o use quando
Não chame de pontuação de qualidade ou limite de confiança para toda a resposta o top-p.
Nome usado no código
cumulative_probability >= p Antes de lançar
Check the model and prompt versions, source data, versioned evaluation set, and measures. Verify links to evidence, tool permissions, privacy, common failures, decline-to-answer and fallback behavior, human review, monitoring, cost, speed, and rollback.
Outcome: Complete the task with Amostragem Top-p (Top-p Sampling). User context: As chances de próximo token somam 1,0, e um engenheiro define top-p como 0,9. Apenas o menor grupo que atinge 0,9 pode ser escolhido. Ao contrário do top-k, esse grupo não tem um número fixo de tokens. AI method or concept: Amostragem Top-p (Top-p Sampling). Why it fits: Use este termo quando a chance cumulativa estabelece um limite variável para os próximos tokens possíveis. Do not use it when: Não chame de pontuação de qualidade ou limite de confiança para toda a resposta o top-p. AI requirements: Define the input and source evidence. Set model and tool permissions. Use versioned evaluation data and measures. Define failure, decline-to-answer, privacy, speed, and cost limits. Operational safeguards: Keep a clear trace and hide sensitive log data. Show users a safe fallback. Mark steps that need human review. Define how to roll back the model or prompt. Acceptance criteria: Record baseline and target measures on a versioned evaluation set. Test edge cases and hostile inputs. Verify fallback, monitoring, permissions, and rollback. Evidence and limits (evidence boundary): É oficial para essa fonte. Outras plataformas ou equipes podem usar o termo de outra maneira. Unknowns to confirm: Target task, model and version, evaluation owner, source data, risk limit, tool permissions, and production fallback.
Conferir este pedido
Review how Amostragem Top-p (Top-p Sampling) is used now. Definition: A amostragem Top-p ordena os tokens possíveis por probabilidade, em seguida mantém o menor grupo cuja probabilidade total atinge p. Ele escolhe o próximo token desse grupo. Release checks: Check the model and prompt versions, source data, versioned evaluation set, and measures. Verify links to evidence, tool permissions, privacy, common failures, decline-to-answer and fallback behavior, human review, monitoring, cost, speed, and rollback. Before changing code, list the evidence, gaps, severity, and the smallest safe fix.