Top-p Sampling
Muestreo Top-p
El muestreo Top-p ordena los tokens posibles por probabilidad, luego conserva el grupo más pequeño cuya probabilidad total alcanza p. Selecciona el siguiente token de ese grupo.
Otro ejemplo
Las probabilidades del siguiente token suman 1.0, y un ingeniero establece top-p en 0.9. Solo se puede elegir el grupo más pequeño que alcance 0.9. A diferencia de top-k, este grupo no tiene un número fijo de tokens.
Partes principales
- 01Candidatos rankeados
- 02umbral acumulativo
- 03núcleo elegible
Úsalo cuando
Use este término cuando la probabilidad acumulativa establezca un límite cambiante en los posibles próximos tokens.
No lo uses cuando
No llame top-p una puntuación de calidad o un límite de confianza para toda la respuesta.
Nombre usado en código
cumulative_probability >= p Antes de lanzarlo
Check the model and prompt versions, source data, versioned evaluation set, and measures. Verify links to evidence, tool permissions, privacy, common failures, decline-to-answer and fallback behavior, human review, monitoring, cost, speed, and rollback.
Outcome: Complete the task with Muestreo Top-p (Top-p Sampling). User context: Las probabilidades del siguiente token suman 1.0, y un ingeniero establece top-p en 0.9. Solo se puede elegir el grupo más pequeño que alcance 0.9. A diferencia de top-k, este grupo no tiene un número fijo de tokens. AI method or concept: Muestreo Top-p (Top-p Sampling). Why it fits: Use este término cuando la probabilidad acumulativa establezca un límite cambiante en los posibles próximos tokens. Do not use it when: No llame top-p una puntuación de calidad o un límite de confianza para toda la respuesta. AI requirements: Define the input and source evidence. Set model and tool permissions. Use versioned evaluation data and measures. Define failure, decline-to-answer, privacy, speed, and cost limits. Operational safeguards: Keep a clear trace and hide sensitive log data. Show users a safe fallback. Mark steps that need human review. Define how to roll back the model or prompt. Acceptance criteria: Record baseline and target measures on a versioned evaluation set. Test edge cases and hostile inputs. Verify fallback, monitoring, permissions, and rollback. Evidence and limits (evidence boundary): Es oficial para esa fuente. Otras plataformas o equipos pueden usar el término de otra manera. Unknowns to confirm: Target task, model and version, evaluation owner, source data, risk limit, tool permissions, and production fallback.
Revisa esta petición
Review how Muestreo Top-p (Top-p Sampling) is used now. Definition: El muestreo Top-p ordena los tokens posibles por probabilidad, luego conserva el grupo más pequeño cuya probabilidad total alcanza p. Selecciona el siguiente token de ese grupo. Release checks: Check the model and prompt versions, source data, versioned evaluation set, and measures. Verify links to evidence, tool permissions, privacy, common failures, decline-to-answer and fallback behavior, human review, monitoring, cost, speed, and rollback. Before changing code, list the evidence, gaps, severity, and the smallest safe fix.