AI 환각

Outcome：Complete the task with AI 환각 (AI Hallucination)。 User context：법적 질문은 승인된 자료 집합에 없는 법원 인용을 요구합니다. 시스템은 증거가 충분하지 않다고 말하고 자료를 요청하거나 찾아야 합니다. 명확하게 표시된 허구 혹은 아이디어 제작은 사실상 오류(hallucination)가 아닙니다. Failure mode to evaluate：AI 환각 (AI Hallucination)。 Why it applies：신뢰할 수 있는 사실, 출처 증거 또는 명시된 시스템 한도와 상충하는 주장을 찾아낸 후에만 이 용어를 사용하세요. Evaluation boundary：이 용어를 사용하기 전에 실제 원인을 찾으세요. 거부, 스타일 변경, 오래된 소스, 검색 실패 또는 인적 오류에는 다른 원인이 있을 수 있습니다. Evaluation requirements: Define the task and source evidence. Use a versioned test set and a clear scoring guide. Track risk groups, unsupported-claim rate, links to source evidence, and when the model must decline to answer. User safeguards: Keep source traceability and state uncertainty clearly. Provide a safe fallback. Require human review for high-impact decisions. Acceptance criteria: Record a measured baseline and target on a versioned evaluation set. Study common failures. Verify fallback, monitoring, and rollback. Evidence and limits (evidence boundary)：하나의 공식 표준이 전체 용어를 통제하지 않음. 의미는 팀, 플랫폼 또는 프레임워크마다 달라질 수 있음. Unknowns to confirm: Target task, model and version, source data, risk limit, evaluator, and production fallback.