Alucinación de IA

Outcome: Complete the task with Alucinación de IA (AI Hallucination). User context: Una pregunta legal solicita una cita judicial que no está en el conjunto de fuentes aprobadas. El sistema debería decir que la evidencia no es suficiente y solicitar o encontrar una fuente. La ficción claramente etiquetada o la invención de ideas no es una alucinación factual. Failure mode to evaluate: Alucinación de IA (AI Hallucination). Why it applies: Usa este término solo después de encontrar una afirmación que entre en conflicto con hechos de confianza, evidencia de la fuente o los límites declarados del sistema. Evaluation boundary: Encuentra la causa real antes de usar este término. Un rechazo, cambio de estilo, fuente antigua, fallo de búsqueda o error humano pueden tener otra causa. Evaluation requirements: Define the task and source evidence. Use a versioned test set and a clear scoring guide. Track risk groups, unsupported-claim rate, links to source evidence, and when the model must decline to answer. User safeguards: Keep source traceability and state uncertainty clearly. Provide a safe fallback. Require human review for high-impact decisions. Acceptance criteria: Record a measured baseline and target on a versioned evaluation set. Study common failures. Verify fallback, monitoring, and rollback. Evidence and limits (evidence boundary): Ningún estándar oficial único controla todo el término. Su significado puede cambiar según equipos, plataformas o marcos. Unknowns to confirm: Target task, model and version, source data, risk limit, evaluator, and production fallback.