Top-p Sampling
Top-p-Sampling
Top-p-Sampling sortiert mögliche Tokens nach Wahrscheinlichkeit und behält dann die kleinste Gruppe, deren Gesamtschance p erreicht. Das nächste Token wird aus dieser Gruppe ausgewählt.
Ein weiteres Beispiel
Die Chancen für das nächste Token ergeben zusammen 1,0, und ein Ingenieur setzt top-p auf 0,9. Nur die kleinste Gruppe, die 0,9 erreicht, kann ausgewählt werden. Im Gegensatz zu top-k hat diese Gruppe keine feste Anzahl von Tokens.
Hauptteile
- 01Rangierte Kandidaten
- 02kumulativer Schwellenwert
- 03berechtigter Kern
Verwenden Sie es, wenn
Verwenden Sie diesen Begriff, wenn der kumulative Zufall ein sich änderndes Limit für mögliche nächste Tokens setzt.
Nutze es nicht, wenn
Nenne Top-p nicht als Qualitätsbewertung oder als Vertrauensgrenze für die gesamte Antwort.
In Code verwendeter Name
cumulative_probability >= p Vor dem Ausliefern
Check the model and prompt versions, source data, versioned evaluation set, and measures. Verify links to evidence, tool permissions, privacy, common failures, decline-to-answer and fallback behavior, human review, monitoring, cost, speed, and rollback.
Outcome: Complete the task with Top-p-Sampling (Top-p Sampling). User context: Die Chancen für das nächste Token ergeben zusammen 1,0, und ein Ingenieur setzt top-p auf 0,9. Nur die kleinste Gruppe, die 0,9 erreicht, kann ausgewählt werden. Im Gegensatz zu top-k hat diese Gruppe keine feste Anzahl von Tokens. AI method or concept: Top-p-Sampling (Top-p Sampling). Why it fits: Verwenden Sie diesen Begriff, wenn der kumulative Zufall ein sich änderndes Limit für mögliche nächste Tokens setzt. Do not use it when: Nenne Top-p nicht als Qualitätsbewertung oder als Vertrauensgrenze für die gesamte Antwort. AI requirements: Define the input and source evidence. Set model and tool permissions. Use versioned evaluation data and measures. Define failure, decline-to-answer, privacy, speed, and cost limits. Operational safeguards: Keep a clear trace and hide sensitive log data. Show users a safe fallback. Mark steps that need human review. Define how to roll back the model or prompt. Acceptance criteria: Record baseline and target measures on a versioned evaluation set. Test edge cases and hostile inputs. Verify fallback, monitoring, permissions, and rollback. Evidence and limits (evidence boundary): Es ist offiziell für diese Quelle. Andere Plattformen oder Teams können den Begriff auf andere Weise verwenden. Unknowns to confirm: Target task, model and version, evaluation owner, source data, risk limit, tool permissions, and production fallback.
Diese Anfrage prüfen
Review how Top-p-Sampling (Top-p Sampling) is used now. Definition: Top-p-Sampling sortiert mögliche Tokens nach Wahrscheinlichkeit und behält dann die kleinste Gruppe, deren Gesamtschance p erreicht. Das nächste Token wird aus dieser Gruppe ausgewählt. Release checks: Check the model and prompt versions, source data, versioned evaluation set, and measures. Verify links to evidence, tool permissions, privacy, common failures, decline-to-answer and fallback behavior, human review, monitoring, cost, speed, and rollback. Before changing code, list the evidence, gaps, severity, and the smallest safe fix.