Context Window
Finestra del Contesto
Una finestra contestuale è il numero di token che una richiesta del modello può contenere sia per l'input sia per l'output generato. Le regole esatte di conteggio dipendono dal modello e dall'API.
Un altro esempio
Un modello ha un limite di 32.000 token. Istruzioni e cronologia utilizzano 3.000 token. Il testo recuperato utilizza 22.000, e l'output mantiene 4.000. Lo spazio non utilizzato aggiunge margine di sicurezza. La finestra di contesto non è memoria permanente né tutto ciò che il modello ha imparato.
Parti principali
- 01limite di token del modello
- 02input assemblato
- 03riserva di output
Usalo quando
Usa questo termine quando si divide una richiesta tra istruzioni, cronologia della chat, prove, risultati degli strumenti e output.
Non usarlo quando
Non dare una dimensione del contesto unica per ogni versione del modello o assumere che ogni token contribuisca allo stesso modo alla qualità della risposta.
Nome usato nel codice
input tokens + output reserve ≤ model limit Prima di spedire
Check the model and prompt versions, source data, versioned evaluation set, and measures. Verify links to evidence, tool permissions, privacy, common failures, decline-to-answer and fallback behavior, human review, monitoring, cost, speed, and rollback.
Outcome: Complete the task with Finestra del Contesto (Context Window). User context: Un modello ha un limite di 32.000 token. Istruzioni e cronologia utilizzano 3.000 token. Il testo recuperato utilizza 22.000, e l'output mantiene 4.000. Lo spazio non utilizzato aggiunge margine di sicurezza. La finestra di contesto non è memoria permanente né tutto ciò che il modello ha imparato. AI method or concept: Finestra del Contesto (Context Window). Why it fits: Usa questo termine quando si divide una richiesta tra istruzioni, cronologia della chat, prove, risultati degli strumenti e output. Do not use it when: Non dare una dimensione del contesto unica per ogni versione del modello o assumere che ogni token contribuisca allo stesso modo alla qualità della risposta. AI requirements: Define the input and source evidence. Set model and tool permissions. Use versioned evaluation data and measures. Define failure, decline-to-answer, privacy, speed, and cost limits. Operational safeguards: Keep a clear trace and hide sensitive log data. Show users a safe fallback. Mark steps that need human review. Define how to roll back the model or prompt. Acceptance criteria: Record baseline and target measures on a versioned evaluation set. Test edge cases and hostile inputs. Verify fallback, monitoring, permissions, and rollback. Evidence and limits (evidence boundary): Nessun singolo standard ufficiale controlla l'intero termine. Il suo significato può cambiare tra team, piattaforme o framework. Unknowns to confirm: Target task, model and version, evaluation owner, source data, risk limit, tool permissions, and production fallback.
Controlla questa richiesta
Review how Finestra del Contesto (Context Window) is used now. Definition: Una finestra contestuale è il numero di token che una richiesta del modello può contenere sia per l'input sia per l'output generato. Le regole esatte di conteggio dipendono dal modello e dall'API. Release checks: Check the model and prompt versions, source data, versioned evaluation set, and measures. Verify links to evidence, tool permissions, privacy, common failures, decline-to-answer and fallback behavior, human review, monitoring, cost, speed, and rollback. Before changing code, list the evidence, gaps, severity, and the smallest safe fix.