Groundedness
Ancrage
La fondation demande à quel point les affirmations dans une réponse sont étayées par les sources fournies au modèle. C'est un domaine de test, pas un score standard mondial.
Un autre exemple
Un évaluateur vérifie une réponse par rapport à trois passages cités. Chaque affirmation est marquée comme soutenue, non soutenue ou contraire aux preuves. Même une affirmation vraie peut être non fondée si ces sources ne la soutiennent pas.
Parties principales
- 01répondre aux réclamations
- 02contexte source
- 03jugement du support
Utilisez-le lorsque
Utilisez ce terme pour vérifier si une réponse d'IA découle des preuves qui lui ont été fournies.
Ne l'utilisez pas lorsque
N'utilisez pas la fiabilité comme substitut à la vérification des faits, de la pertinence, de l'exhaustivité ou de la qualité de la source.
Nom utilisé dans le code
claims(answer) ↔ evidence(context) Avant d'expédier
Check the model and prompt versions, source data, versioned evaluation set, and measures. Verify links to evidence, tool permissions, privacy, common failures, decline-to-answer and fallback behavior, human review, monitoring, cost, speed, and rollback.
Outcome: Complete the task with Ancrage (Groundedness). User context: Un évaluateur vérifie une réponse par rapport à trois passages cités. Chaque affirmation est marquée comme soutenue, non soutenue ou contraire aux preuves. Même une affirmation vraie peut être non fondée si ces sources ne la soutiennent pas. AI method or concept: Ancrage (Groundedness). Why it fits: Utilisez ce terme pour vérifier si une réponse d'IA découle des preuves qui lui ont été fournies. Do not use it when: N'utilisez pas la fiabilité comme substitut à la vérification des faits, de la pertinence, de l'exhaustivité ou de la qualité de la source. AI requirements: Define the input and source evidence. Set model and tool permissions. Use versioned evaluation data and measures. Define failure, decline-to-answer, privacy, speed, and cost limits. Operational safeguards: Keep a clear trace and hide sensitive log data. Show users a safe fallback. Mark steps that need human review. Define how to roll back the model or prompt. Acceptance criteria: Record baseline and target measures on a versioned evaluation set. Test edge cases and hostile inputs. Verify fallback, monitoring, permissions, and rollback. Evidence and limits (evidence boundary): Aucun standard officiel unique ne régit l’ensemble du terme. Sa signification peut varier selon les équipes, plateformes ou frameworks. Unknowns to confirm: Target task, model and version, evaluation owner, source data, risk limit, tool permissions, and production fallback.
Vérifiez cette demande
Review how Ancrage (Groundedness) is used now. Definition: La fondation demande à quel point les affirmations dans une réponse sont étayées par les sources fournies au modèle. C'est un domaine de test, pas un score standard mondial. Release checks: Check the model and prompt versions, source data, versioned evaluation set, and measures. Verify links to evidence, tool permissions, privacy, common failures, decline-to-answer and fallback behavior, human review, monitoring, cost, speed, and rollback. Before changing code, list the evidence, gaps, severity, and the smallest safe fix.