Model Routing
Enrutamiento de modelo
El enrutamiento de modelo elige qué modelo o ruta de modelo maneja cada solicitud. La elección sigue reglas claras de calidad, habilidad, costo, demora o política de seguridad.
Otro ejemplo
Una plataforma utiliza tipos de solicitud, puntuaciones de prueba, precios y objetivos de retraso para elegir un modelo. Los resúmenes simples van a un modelo más pequeño, mientras que los casos de alto riesgo usan un camino revisado. El balanceo de carga aleatorio sin reglas de habilidad no es enrutamiento de modelos.
Partes principales
- 01clasificador de solicitudes
- 02política de enrutamiento
- 03camino de respaldo
Úsalo cuando
Usa este término cuando los límites medibles guían una solicitud hacia uno de varios caminos del modelo.
No lo uses cuando
No enrutes únicamente por nombre de modelo o precio sin una alternativa, pruebas y comprobaciones de políticas.
Nombre usado en código
request features → routing policy → model Antes de lanzarlo
Check the model and prompt versions, source data, versioned evaluation set, and measures. Verify links to evidence, tool permissions, privacy, common failures, decline-to-answer and fallback behavior, human review, monitoring, cost, speed, and rollback.
Outcome: Complete the task with Enrutamiento de modelo (Model Routing). User context: Una plataforma utiliza tipos de solicitud, puntuaciones de prueba, precios y objetivos de retraso para elegir un modelo. Los resúmenes simples van a un modelo más pequeño, mientras que los casos de alto riesgo usan un camino revisado. El balanceo de carga aleatorio sin reglas de habilidad no es enrutamiento de modelos. AI method or concept: Enrutamiento de modelo (Model Routing). Why it fits: Usa este término cuando los límites medibles guían una solicitud hacia uno de varios caminos del modelo. Do not use it when: No enrutes únicamente por nombre de modelo o precio sin una alternativa, pruebas y comprobaciones de políticas. AI requirements: Define the input and source evidence. Set model and tool permissions. Use versioned evaluation data and measures. Define failure, decline-to-answer, privacy, speed, and cost limits. Operational safeguards: Keep a clear trace and hide sensitive log data. Show users a safe fallback. Mark steps that need human review. Define how to roll back the model or prompt. Acceptance criteria: Record baseline and target measures on a versioned evaluation set. Test edge cases and hostile inputs. Verify fallback, monitoring, permissions, and rollback. Evidence and limits (evidence boundary): Ningún estándar oficial único controla todo el término. Su significado puede cambiar según equipos, plataformas o marcos. Unknowns to confirm: Target task, model and version, evaluation owner, source data, risk limit, tool permissions, and production fallback.
Revisa esta petición
Review how Enrutamiento de modelo (Model Routing) is used now. Definition: El enrutamiento de modelo elige qué modelo o ruta de modelo maneja cada solicitud. La elección sigue reglas claras de calidad, habilidad, costo, demora o política de seguridad. Release checks: Check the model and prompt versions, source data, versioned evaluation set, and measures. Verify links to evidence, tool permissions, privacy, common failures, decline-to-answer and fallback behavior, human review, monitoring, cost, speed, and rollback. Before changing code, list the evidence, gaps, severity, and the smallest safe fix.