Context Window
Janela de Contexto
Uma janela de contexto é o número de tokens que uma solicitação de modelo pode conter tanto para entrada quanto para saída gerada. As regras exatas de contagem dependem do modelo e da API.
Outro exemplo
Um modelo tem um limite de 32.000 tokens. Instruções e histórico usam 3.000 tokens. Texto recuperado usa 22.000, e a saída mantém 4.000. O espaço não utilizado adiciona uma margem de segurança. A janela de contexto não é memória permanente nem tudo que o modelo aprendeu.
Partes principais
- 01limite de token do modelo
- 02entrada montada
- 03reserva de saída
Use-o quando
Use este termo ao dividir uma solicitação entre instruções, histórico de chat, evidências, resultados de ferramentas e saída.
Não o use quando
Não dê um único tamanho de contexto para cada versão do modelo ou presuma que cada token ajuda igualmente na qualidade da resposta.
Nome usado no código
input tokens + output reserve ≤ model limit Antes de lançar
Check the model and prompt versions, source data, versioned evaluation set, and measures. Verify links to evidence, tool permissions, privacy, common failures, decline-to-answer and fallback behavior, human review, monitoring, cost, speed, and rollback.
Outcome: Complete the task with Janela de Contexto (Context Window). User context: Um modelo tem um limite de 32.000 tokens. Instruções e histórico usam 3.000 tokens. Texto recuperado usa 22.000, e a saída mantém 4.000. O espaço não utilizado adiciona uma margem de segurança. A janela de contexto não é memória permanente nem tudo que o modelo aprendeu. AI method or concept: Janela de Contexto (Context Window). Why it fits: Use este termo ao dividir uma solicitação entre instruções, histórico de chat, evidências, resultados de ferramentas e saída. Do not use it when: Não dê um único tamanho de contexto para cada versão do modelo ou presuma que cada token ajuda igualmente na qualidade da resposta. AI requirements: Define the input and source evidence. Set model and tool permissions. Use versioned evaluation data and measures. Define failure, decline-to-answer, privacy, speed, and cost limits. Operational safeguards: Keep a clear trace and hide sensitive log data. Show users a safe fallback. Mark steps that need human review. Define how to roll back the model or prompt. Acceptance criteria: Record baseline and target measures on a versioned evaluation set. Test edge cases and hostile inputs. Verify fallback, monitoring, permissions, and rollback. Evidence and limits (evidence boundary): Nenhum padrão oficial único controla todo o termo. Seu significado pode mudar entre equipes, plataformas ou frameworks. Unknowns to confirm: Target task, model and version, evaluation owner, source data, risk limit, tool permissions, and production fallback.
Conferir este pedido
Review how Janela de Contexto (Context Window) is used now. Definition: Uma janela de contexto é o número de tokens que uma solicitação de modelo pode conter tanto para entrada quanto para saída gerada. As regras exatas de contagem dependem do modelo e da API. Release checks: Check the model and prompt versions, source data, versioned evaluation set, and measures. Verify links to evidence, tool permissions, privacy, common failures, decline-to-answer and fallback behavior, human review, monitoring, cost, speed, and rollback. Before changing code, list the evidence, gaps, severity, and the smallest safe fix.