AI Hallucination
Alucinação de IA
Alucinação de IA é um nome comum para uma resposta com reivindicações não suportadas ou falsas. O NIST usa o termo de risco mais exato confabulação.
Outro exemplo
Uma questão legal pede uma citação de tribunal que não está no conjunto de fontes aprovadas. O sistema deve dizer que a evidência não é suficiente e solicitar ou encontrar uma fonte. Ficção claramente rotulada ou criação de ideias não é uma alucinação factual.
Partes principais
- 01reivindicação gerada
- 02evidência de referência
- 03incompatibilidade em nível de declaração
Use-o quando
Use este termo apenas após encontrar uma reivindicação que conflita com fatos confiáveis, evidências de fonte ou limites do sistema declarados.
Não o use quando
Encontre a causa real antes de usar este termo. Uma recusa, mudança de estilo, fonte antiga, falha de busca ou erro humano pode ter outra causa.
Nome usado no código
generated claim ⟂ authoritative evidence Antes de lançar
On a versioned evaluation set, check the measured baseline, target, and unsupported-claim rate. Verify source traceability, common failures, uncertainty and decline-to-answer behavior, user-visible fallback, human review, monitoring, and rollback.
Outcome: Complete the task with Alucinação de IA (AI Hallucination). User context: Uma questão legal pede uma citação de tribunal que não está no conjunto de fontes aprovadas. O sistema deve dizer que a evidência não é suficiente e solicitar ou encontrar uma fonte. Ficção claramente rotulada ou criação de ideias não é uma alucinação factual. Failure mode to evaluate: Alucinação de IA (AI Hallucination). Why it applies: Use este termo apenas após encontrar uma reivindicação que conflita com fatos confiáveis, evidências de fonte ou limites do sistema declarados. Evaluation boundary: Encontre a causa real antes de usar este termo. Uma recusa, mudança de estilo, fonte antiga, falha de busca ou erro humano pode ter outra causa. Evaluation requirements: Define the task and source evidence. Use a versioned test set and a clear scoring guide. Track risk groups, unsupported-claim rate, links to source evidence, and when the model must decline to answer. User safeguards: Keep source traceability and state uncertainty clearly. Provide a safe fallback. Require human review for high-impact decisions. Acceptance criteria: Record a measured baseline and target on a versioned evaluation set. Study common failures. Verify fallback, monitoring, and rollback. Evidence and limits (evidence boundary): Nenhum padrão oficial único controla todo o termo. Seu significado pode mudar entre equipes, plataformas ou frameworks. Unknowns to confirm: Target task, model and version, source data, risk limit, evaluator, and production fallback.
Conferir este pedido
Review how Alucinação de IA (AI Hallucination) is used now. Definition: Alucinação de IA é um nome comum para uma resposta com reivindicações não suportadas ou falsas. O NIST usa o termo de risco mais exato confabulação. Release checks: On a versioned evaluation set, check the measured baseline, target, and unsupported-claim rate. Verify source traceability, common failures, uncertainty and decline-to-answer behavior, user-visible fallback, human review, monitoring, and rollback. Before changing code, list the evidence, gaps, severity, and the smallest safe fix.