Model Routing
Roteamento de Modelo
O roteamento de modelo escolhe qual modelo ou caminho do modelo lida com cada solicitação. A escolha segue regras claras para qualidade, habilidade, custo, atraso ou política de segurança.
Outro exemplo
Uma plataforma usa tipos de solicitação, pontuações de teste, preços e metas de atraso para escolher um modelo. Resumos simples vão para um modelo menor, enquanto casos de alto risco usam um caminho revisado. Balanceamento de carga aleatório sem regras de habilidade não é roteamento de modelo.
Partes principais
- 01classificador de solicitação
- 02política de roteamento
- 03caminho de fallback
Use-o quando
Use este termo quando limites mensuráveis orientam uma solicitação para um entre vários caminhos do modelo.
Não o use quando
Não faça roteamento apenas pelo nome do modelo ou preço sem uma alternativa, testes e verificações de política.
Nome usado no código
request features → routing policy → model Antes de lançar
Check the model and prompt versions, source data, versioned evaluation set, and measures. Verify links to evidence, tool permissions, privacy, common failures, decline-to-answer and fallback behavior, human review, monitoring, cost, speed, and rollback.
Outcome: Complete the task with Roteamento de Modelo (Model Routing). User context: Uma plataforma usa tipos de solicitação, pontuações de teste, preços e metas de atraso para escolher um modelo. Resumos simples vão para um modelo menor, enquanto casos de alto risco usam um caminho revisado. Balanceamento de carga aleatório sem regras de habilidade não é roteamento de modelo. AI method or concept: Roteamento de Modelo (Model Routing). Why it fits: Use este termo quando limites mensuráveis orientam uma solicitação para um entre vários caminhos do modelo. Do not use it when: Não faça roteamento apenas pelo nome do modelo ou preço sem uma alternativa, testes e verificações de política. AI requirements: Define the input and source evidence. Set model and tool permissions. Use versioned evaluation data and measures. Define failure, decline-to-answer, privacy, speed, and cost limits. Operational safeguards: Keep a clear trace and hide sensitive log data. Show users a safe fallback. Mark steps that need human review. Define how to roll back the model or prompt. Acceptance criteria: Record baseline and target measures on a versioned evaluation set. Test edge cases and hostile inputs. Verify fallback, monitoring, permissions, and rollback. Evidence and limits (evidence boundary): Nenhum padrão oficial único controla todo o termo. Seu significado pode mudar entre equipes, plataformas ou frameworks. Unknowns to confirm: Target task, model and version, evaluation owner, source data, risk limit, tool permissions, and production fallback.
Conferir este pedido
Review how Roteamento de Modelo (Model Routing) is used now. Definition: O roteamento de modelo escolhe qual modelo ou caminho do modelo lida com cada solicitação. A escolha segue regras claras para qualidade, habilidade, custo, atraso ou política de segurança. Release checks: Check the model and prompt versions, source data, versioned evaluation set, and measures. Verify links to evidence, tool permissions, privacy, common failures, decline-to-answer and fallback behavior, human review, monitoring, cost, speed, and rollback. Before changing code, list the evidence, gaps, severity, and the smallest safe fix.