Top-p Sampling
Échantillonnage Top-p
L'échantillonnage Top-p trie les jetons possibles par probabilité, puis conserve le plus petit groupe dont la probabilité totale atteint p. Il choisit le jeton suivant dans ce groupe.
Un autre exemple
Les probabilités du prochain jeton s'additionnent pour atteindre 1,0, et un ingénieur fixe top-p à 0,9. Seul le plus petit groupe atteignant 0,9 peut être choisi. Contrairement à top-k, ce groupe n’a pas un nombre fixe de jetons.
Parties principales
- 01Candidats classés
- 02seuil cumulatif
- 03Noyau éligible
Utilisez-le lorsque
Utilisez ce terme lorsque la chance cumulative établit une limite changeante sur les prochains jetons possibles.
Ne l'utilisez pas lorsque
N'appelez pas top-p un score de qualité ou une limite de confiance pour toute la réponse.
Nom utilisé dans le code
cumulative_probability >= p Avant d'expédier
Check the model and prompt versions, source data, versioned evaluation set, and measures. Verify links to evidence, tool permissions, privacy, common failures, decline-to-answer and fallback behavior, human review, monitoring, cost, speed, and rollback.
Outcome: Complete the task with Échantillonnage Top-p (Top-p Sampling). User context: Les probabilités du prochain jeton s'additionnent pour atteindre 1,0, et un ingénieur fixe top-p à 0,9. Seul le plus petit groupe atteignant 0,9 peut être choisi. Contrairement à top-k, ce groupe n’a pas un nombre fixe de jetons. AI method or concept: Échantillonnage Top-p (Top-p Sampling). Why it fits: Utilisez ce terme lorsque la chance cumulative établit une limite changeante sur les prochains jetons possibles. Do not use it when: N'appelez pas top-p un score de qualité ou une limite de confiance pour toute la réponse. AI requirements: Define the input and source evidence. Set model and tool permissions. Use versioned evaluation data and measures. Define failure, decline-to-answer, privacy, speed, and cost limits. Operational safeguards: Keep a clear trace and hide sensitive log data. Show users a safe fallback. Mark steps that need human review. Define how to roll back the model or prompt. Acceptance criteria: Record baseline and target measures on a versioned evaluation set. Test edge cases and hostile inputs. Verify fallback, monitoring, permissions, and rollback. Evidence and limits (evidence boundary): C'est officiel pour cette source. D'autres plateformes ou équipes peuvent utiliser le terme d'une autre manière. Unknowns to confirm: Target task, model and version, evaluation owner, source data, risk limit, tool permissions, and production fallback.
Vérifiez cette demande
Review how Échantillonnage Top-p (Top-p Sampling) is used now. Definition: L'échantillonnage Top-p trie les jetons possibles par probabilité, puis conserve le plus petit groupe dont la probabilité totale atteint p. Il choisit le jeton suivant dans ce groupe. Release checks: Check the model and prompt versions, source data, versioned evaluation set, and measures. Verify links to evidence, tool permissions, privacy, common failures, decline-to-answer and fallback behavior, human review, monitoring, cost, speed, and rollback. Before changing code, list the evidence, gaps, severity, and the smallest safe fix.