AI Hallucination
Hallucination IA
L'hallucination IA est un nom courant pour une réponse contenant des affirmations non soutenues ou fausses. Le NIST utilise le terme de risque plus précis confabulation.
Un autre exemple
Une question juridique demande une citation de tribunal qui ne figure pas dans l'ensemble des sources approuvées. Le système doit indiquer que les preuves sont insuffisantes et demander ou trouver une source. Une fiction clairement étiquetée ou une création d'idées n'est pas une hallucination factuelle.
Parties principales
- 01affirmation générée
- 02preuve de référence
- 03divergence au niveau de la réclamation
Utilisez-le lorsque
Utilisez ce terme uniquement après avoir trouvé une affirmation qui entre en conflit avec des faits fiables, des preuves de source ou des limites système déclarées.
Ne l'utilisez pas lorsque
Trouvez la véritable cause avant d'utiliser ce terme. Un refus, un changement de style, une source ancienne, un échec de recherche ou une erreur humaine peut avoir une autre cause.
Nom utilisé dans le code
generated claim ⟂ authoritative evidence Avant d'expédier
On a versioned evaluation set, check the measured baseline, target, and unsupported-claim rate. Verify source traceability, common failures, uncertainty and decline-to-answer behavior, user-visible fallback, human review, monitoring, and rollback.
Outcome: Complete the task with Hallucination IA (AI Hallucination). User context: Une question juridique demande une citation de tribunal qui ne figure pas dans l'ensemble des sources approuvées. Le système doit indiquer que les preuves sont insuffisantes et demander ou trouver une source. Une fiction clairement étiquetée ou une création d'idées n'est pas une hallucination factuelle. Failure mode to evaluate: Hallucination IA (AI Hallucination). Why it applies: Utilisez ce terme uniquement après avoir trouvé une affirmation qui entre en conflit avec des faits fiables, des preuves de source ou des limites système déclarées. Evaluation boundary: Trouvez la véritable cause avant d'utiliser ce terme. Un refus, un changement de style, une source ancienne, un échec de recherche ou une erreur humaine peut avoir une autre cause. Evaluation requirements: Define the task and source evidence. Use a versioned test set and a clear scoring guide. Track risk groups, unsupported-claim rate, links to source evidence, and when the model must decline to answer. User safeguards: Keep source traceability and state uncertainty clearly. Provide a safe fallback. Require human review for high-impact decisions. Acceptance criteria: Record a measured baseline and target on a versioned evaluation set. Study common failures. Verify fallback, monitoring, and rollback. Evidence and limits (evidence boundary): Aucun standard officiel unique ne régit l’ensemble du terme. Sa signification peut varier selon les équipes, plateformes ou frameworks. Unknowns to confirm: Target task, model and version, source data, risk limit, evaluator, and production fallback.
Vérifiez cette demande
Review how Hallucination IA (AI Hallucination) is used now. Definition: L'hallucination IA est un nom courant pour une réponse contenant des affirmations non soutenues ou fausses. Le NIST utilise le terme de risque plus précis confabulation. Release checks: On a versioned evaluation set, check the measured baseline, target, and unsupported-claim rate. Verify source traceability, common failures, uncertainty and decline-to-answer behavior, user-visible fallback, human review, monitoring, and rollback. Before changing code, list the evidence, gaps, severity, and the smallest safe fix.