Top-p Sampling
Campionamento Top-p
Il campionamento Top-p ordina i token possibili per probabilità, quindi mantiene il gruppo più piccolo la cui probabilità totale raggiunge p. Seleziona il token successivo da quel gruppo.
Un altro esempio
Le probabilità del token successivo si sommano a 1,0, e un ingegnere imposta top-p a 0,9. Solo il gruppo più piccolo che raggiunge 0,9 può essere scelto. A differenza di top-k, questo gruppo non ha un numero fisso di token.
Parti principali
- 01Candidati classificati
- 02soglia cumulativa
- 03nucleo idoneo
Usalo quando
Usa questo termine quando la probabilità cumulativa impone un limite variabile sui possibili token successivi.
Non usarlo quando
Non definire top-p come un punteggio di qualità o un limite di fiducia per l'intera risposta.
Nome usato nel codice
cumulative_probability >= p Prima di spedire
Check the model and prompt versions, source data, versioned evaluation set, and measures. Verify links to evidence, tool permissions, privacy, common failures, decline-to-answer and fallback behavior, human review, monitoring, cost, speed, and rollback.
Outcome: Complete the task with Campionamento Top-p (Top-p Sampling). User context: Le probabilità del token successivo si sommano a 1,0, e un ingegnere imposta top-p a 0,9. Solo il gruppo più piccolo che raggiunge 0,9 può essere scelto. A differenza di top-k, questo gruppo non ha un numero fisso di token. AI method or concept: Campionamento Top-p (Top-p Sampling). Why it fits: Usa questo termine quando la probabilità cumulativa impone un limite variabile sui possibili token successivi. Do not use it when: Non definire top-p come un punteggio di qualità o un limite di fiducia per l'intera risposta. AI requirements: Define the input and source evidence. Set model and tool permissions. Use versioned evaluation data and measures. Define failure, decline-to-answer, privacy, speed, and cost limits. Operational safeguards: Keep a clear trace and hide sensitive log data. Show users a safe fallback. Mark steps that need human review. Define how to roll back the model or prompt. Acceptance criteria: Record baseline and target measures on a versioned evaluation set. Test edge cases and hostile inputs. Verify fallback, monitoring, permissions, and rollback. Evidence and limits (evidence boundary): È ufficiale per quella fonte. Altre piattaforme o team potrebbero usare il termine in modo diverso. Unknowns to confirm: Target task, model and version, evaluation owner, source data, risk limit, tool permissions, and production fallback.
Controlla questa richiesta
Review how Campionamento Top-p (Top-p Sampling) is used now. Definition: Il campionamento Top-p ordina i token possibili per probabilità, quindi mantiene il gruppo più piccolo la cui probabilità totale raggiunge p. Seleziona il token successivo da quel gruppo. Release checks: Check the model and prompt versions, source data, versioned evaluation set, and measures. Verify links to evidence, tool permissions, privacy, common failures, decline-to-answer and fallback behavior, human review, monitoring, cost, speed, and rollback. Before changing code, list the evidence, gaps, severity, and the smallest safe fix.