AI Hallucination
KI-Halluzination
KI-Halluzination ist ein gebräuchlicher Name für eine Antwort mit ungestützten oder falschen Behauptungen. NIST verwendet den genaueren Risikobegriff Konfabulation.
Ein weiteres Beispiel
Eine Rechtsfrage verlangt nach einer Gerichtsreferenz, die nicht im genehmigten Quellenkatalog enthalten ist. Das System sollte sagen, dass die Beweise nicht ausreichen, und um eine Quelle bitten oder eine finden. Eindeutig gekennzeichnete Fiktion oder Ideenbildung ist keine faktische Halluzination.
Hauptteile
- 01generierter Anspruch
- 02Referenzbeweis
- 03Anspruchsebene-Mismatch
Verwenden Sie es, wenn
Verwenden Sie diesen Begriff nur, nachdem Sie eine Behauptung gefunden haben, die im Widerspruch zu vertrauten Fakten, Belegquellen oder festgelegten Systemgrenzen steht.
Nutze es nicht, wenn
Finden Sie die eigentliche Ursache, bevor Sie diesen Begriff verwenden. Eine Ablehnung, Stiländerung, alte Quelle, Suchfehler oder menschlicher Fehler kann eine andere Ursache haben.
In Code verwendeter Name
generated claim ⟂ authoritative evidence Vor dem Ausliefern
On a versioned evaluation set, check the measured baseline, target, and unsupported-claim rate. Verify source traceability, common failures, uncertainty and decline-to-answer behavior, user-visible fallback, human review, monitoring, and rollback.
Outcome: Complete the task with KI-Halluzination (AI Hallucination). User context: Eine Rechtsfrage verlangt nach einer Gerichtsreferenz, die nicht im genehmigten Quellenkatalog enthalten ist. Das System sollte sagen, dass die Beweise nicht ausreichen, und um eine Quelle bitten oder eine finden. Eindeutig gekennzeichnete Fiktion oder Ideenbildung ist keine faktische Halluzination. Failure mode to evaluate: KI-Halluzination (AI Hallucination). Why it applies: Verwenden Sie diesen Begriff nur, nachdem Sie eine Behauptung gefunden haben, die im Widerspruch zu vertrauten Fakten, Belegquellen oder festgelegten Systemgrenzen steht. Evaluation boundary: Finden Sie die eigentliche Ursache, bevor Sie diesen Begriff verwenden. Eine Ablehnung, Stiländerung, alte Quelle, Suchfehler oder menschlicher Fehler kann eine andere Ursache haben. Evaluation requirements: Define the task and source evidence. Use a versioned test set and a clear scoring guide. Track risk groups, unsupported-claim rate, links to source evidence, and when the model must decline to answer. User safeguards: Keep source traceability and state uncertainty clearly. Provide a safe fallback. Require human review for high-impact decisions. Acceptance criteria: Record a measured baseline and target on a versioned evaluation set. Study common failures. Verify fallback, monitoring, and rollback. Evidence and limits (evidence boundary): Kein einziger offizieller Standard kontrolliert den gesamten Begriff. Seine Bedeutung kann sich zwischen Teams, Plattformen oder Frameworks ändern. Unknowns to confirm: Target task, model and version, source data, risk limit, evaluator, and production fallback.
Diese Anfrage prüfen
Review how KI-Halluzination (AI Hallucination) is used now. Definition: KI-Halluzination ist ein gebräuchlicher Name für eine Antwort mit ungestützten oder falschen Behauptungen. NIST verwendet den genaueren Risikobegriff Konfabulation. Release checks: On a versioned evaluation set, check the measured baseline, target, and unsupported-claim rate. Verify source traceability, common failures, uncertainty and decline-to-answer behavior, user-visible fallback, human review, monitoring, and rollback. Before changing code, list the evidence, gaps, severity, and the smallest safe fix.