AI Hallucination
Allucinazione dell'IA
L'allucinazione dell'IA è un nome comune per una risposta con affermazioni non supportate o false. Il NIST usa il termine più esatto rischio confabulazione.
Un altro esempio
Una questione legale richiede una citazione del tribunale che non è presente nell'insieme di fonti approvate. Il sistema dovrebbe dire che le prove non sono sufficienti e chiedere o trovare una fonte. La fiction chiaramente etichettata o la creazione di idee non è un'allucinazione fattuale.
Parti principali
- 01affermazione generata
- 02prova di riferimento
- 03disallineamento a livello di claim
Usalo quando
Usa questo termine solo dopo aver trovato un'affermazione che confligge con fatti attendibili, prove della fonte o limiti di sistema dichiarati.
Non usarlo quando
Trova la vera causa prima di usare questo termine. Un rifiuto, un cambiamento di stile, una fonte vecchia, un fallimento nella ricerca o un errore umano possono avere un'altra causa.
Nome usato nel codice
generated claim ⟂ authoritative evidence Prima di spedire
On a versioned evaluation set, check the measured baseline, target, and unsupported-claim rate. Verify source traceability, common failures, uncertainty and decline-to-answer behavior, user-visible fallback, human review, monitoring, and rollback.
Outcome: Complete the task with Allucinazione dell'IA (AI Hallucination). User context: Una questione legale richiede una citazione del tribunale che non è presente nell'insieme di fonti approvate. Il sistema dovrebbe dire che le prove non sono sufficienti e chiedere o trovare una fonte. La fiction chiaramente etichettata o la creazione di idee non è un'allucinazione fattuale. Failure mode to evaluate: Allucinazione dell'IA (AI Hallucination). Why it applies: Usa questo termine solo dopo aver trovato un'affermazione che confligge con fatti attendibili, prove della fonte o limiti di sistema dichiarati. Evaluation boundary: Trova la vera causa prima di usare questo termine. Un rifiuto, un cambiamento di stile, una fonte vecchia, un fallimento nella ricerca o un errore umano possono avere un'altra causa. Evaluation requirements: Define the task and source evidence. Use a versioned test set and a clear scoring guide. Track risk groups, unsupported-claim rate, links to source evidence, and when the model must decline to answer. User safeguards: Keep source traceability and state uncertainty clearly. Provide a safe fallback. Require human review for high-impact decisions. Acceptance criteria: Record a measured baseline and target on a versioned evaluation set. Study common failures. Verify fallback, monitoring, and rollback. Evidence and limits (evidence boundary): Nessun singolo standard ufficiale controlla l'intero termine. Il suo significato può cambiare tra team, piattaforme o framework. Unknowns to confirm: Target task, model and version, source data, risk limit, evaluator, and production fallback.
Controlla questa richiesta
Review how Allucinazione dell'IA (AI Hallucination) is used now. Definition: L'allucinazione dell'IA è un nome comune per una risposta con affermazioni non supportate o false. Il NIST usa il termine più esatto rischio confabulazione. Release checks: On a versioned evaluation set, check the measured baseline, target, and unsupported-claim rate. Verify source traceability, common failures, uncertainty and decline-to-answer behavior, user-visible fallback, human review, monitoring, and rollback. Before changing code, list the evidence, gaps, severity, and the smallest safe fix.