Temperature
Temperatura
La temperatura es una configuración utilizada antes del muestreo. Cambia si las probabilidades de los tokens se concentran en pocas opciones o se distribuyen en más opciones.
Otro ejemplo
Un ingeniero de productos de IA ejecuta el mismo prompt principal 50 veces a 0.2 y 50 veces a 0.9. El equipo compara cuánto varían los dos grupos, pero la temperatura por sí sola no puede garantizar respuestas creativas o verdaderas.
Partes principales
- 01logits
- 02valor de la temperatura
- 03distribución reescalada
Úsalo cuando
Usa este término cuando ajustas cuán concentradas están las elecciones de tokens durante el muestreo.
No lo uses cuando
No compare valores de distintos proveedores a menos que sepa que sus escalas y configuraciones predeterminadas coinciden.
Nombre usado en código
softmax(logits / temperature) Antes de lanzarlo
Check the model and prompt versions, source data, versioned evaluation set, and measures. Verify links to evidence, tool permissions, privacy, common failures, decline-to-answer and fallback behavior, human review, monitoring, cost, speed, and rollback.
Outcome: Complete the task with Temperatura (Temperature). User context: Un ingeniero de productos de IA ejecuta el mismo prompt principal 50 veces a 0.2 y 50 veces a 0.9. El equipo compara cuánto varían los dos grupos, pero la temperatura por sí sola no puede garantizar respuestas creativas o verdaderas. AI method or concept: Temperatura (Temperature). Why it fits: Usa este término cuando ajustas cuán concentradas están las elecciones de tokens durante el muestreo. Do not use it when: No compare valores de distintos proveedores a menos que sepa que sus escalas y configuraciones predeterminadas coinciden. AI requirements: Define the input and source evidence. Set model and tool permissions. Use versioned evaluation data and measures. Define failure, decline-to-answer, privacy, speed, and cost limits. Operational safeguards: Keep a clear trace and hide sensitive log data. Show users a safe fallback. Mark steps that need human review. Define how to roll back the model or prompt. Acceptance criteria: Record baseline and target measures on a versioned evaluation set. Test edge cases and hostile inputs. Verify fallback, monitoring, permissions, and rollback. Evidence and limits (evidence boundary): Es oficial para esa fuente. Otras plataformas o equipos pueden usar el término de otra manera. Unknowns to confirm: Target task, model and version, evaluation owner, source data, risk limit, tool permissions, and production fallback.
Revisa esta petición
Review how Temperatura (Temperature) is used now. Definition: La temperatura es una configuración utilizada antes del muestreo. Cambia si las probabilidades de los tokens se concentran en pocas opciones o se distribuyen en más opciones. Release checks: Check the model and prompt versions, source data, versioned evaluation set, and measures. Verify links to evidence, tool permissions, privacy, common failures, decline-to-answer and fallback behavior, human review, monitoring, cost, speed, and rollback. Before changing code, list the evidence, gaps, severity, and the smallest safe fix.