Context Window
Fenêtre de contexte
Une fenêtre de contexte est le nombre de tokens qu'une requête de modèle peut contenir à la fois pour l'entrée et la sortie générée. Les règles exactes de comptage dépendent du modèle et de l'API.
Un autre exemple
Un modèle a une limite de 32 000 tokens. Les instructions et l'historique utilisent 3 000 tokens. Le texte récupéré utilise 22 000, et la sortie garde 4 000. L'espace inutilisé ajoute une marge de sécurité. La fenêtre de contexte n'est pas une mémoire permanente ni tout ce que le modèle a appris.
Parties principales
- 01limite de jeton du modèle
- 02entrée assemblée
- 03réserve de sortie
Utilisez-le lorsque
Utilisez ce terme lorsque vous divisez une demande entre instructions, historique de chat, preuves, résultats d’outils et sortie.
Ne l'utilisez pas lorsque
Ne donnez pas une seule taille de contexte pour chaque version de modèle et n'assumez pas que chaque token aide autant à la qualité de la réponse.
Nom utilisé dans le code
input tokens + output reserve ≤ model limit Avant d'expédier
Check the model and prompt versions, source data, versioned evaluation set, and measures. Verify links to evidence, tool permissions, privacy, common failures, decline-to-answer and fallback behavior, human review, monitoring, cost, speed, and rollback.
Outcome: Complete the task with Fenêtre de contexte (Context Window). User context: Un modèle a une limite de 32 000 tokens. Les instructions et l'historique utilisent 3 000 tokens. Le texte récupéré utilise 22 000, et la sortie garde 4 000. L'espace inutilisé ajoute une marge de sécurité. La fenêtre de contexte n'est pas une mémoire permanente ni tout ce que le modèle a appris. AI method or concept: Fenêtre de contexte (Context Window). Why it fits: Utilisez ce terme lorsque vous divisez une demande entre instructions, historique de chat, preuves, résultats d’outils et sortie. Do not use it when: Ne donnez pas une seule taille de contexte pour chaque version de modèle et n'assumez pas que chaque token aide autant à la qualité de la réponse. AI requirements: Define the input and source evidence. Set model and tool permissions. Use versioned evaluation data and measures. Define failure, decline-to-answer, privacy, speed, and cost limits. Operational safeguards: Keep a clear trace and hide sensitive log data. Show users a safe fallback. Mark steps that need human review. Define how to roll back the model or prompt. Acceptance criteria: Record baseline and target measures on a versioned evaluation set. Test edge cases and hostile inputs. Verify fallback, monitoring, permissions, and rollback. Evidence and limits (evidence boundary): Aucun standard officiel unique ne régit l’ensemble du terme. Sa signification peut varier selon les équipes, plateformes ou frameworks. Unknowns to confirm: Target task, model and version, evaluation owner, source data, risk limit, tool permissions, and production fallback.
Vérifiez cette demande
Review how Fenêtre de contexte (Context Window) is used now. Definition: Une fenêtre de contexte est le nombre de tokens qu'une requête de modèle peut contenir à la fois pour l'entrée et la sortie générée. Les règles exactes de comptage dépendent du modèle et de l'API. Release checks: Check the model and prompt versions, source data, versioned evaluation set, and measures. Verify links to evidence, tool permissions, privacy, common failures, decline-to-answer and fallback behavior, human review, monitoring, cost, speed, and rollback. Before changing code, list the evidence, gaps, severity, and the smallest safe fix.