AIの幻覚

Outcome：Complete the task with AIの幻覚 (AI Hallucination)。 User context：法的な質問は、承認された情報源セットにない裁判所の引用を求めます。システムは証拠が不十分であると伝え、情報源を求めるか見つけるように指示するべきです。明確にラベル付けされたフィクションやアイデア創作は、事実上の幻覚ではありません。 Failure mode to evaluate：AIの幻覚 (AI Hallucination)。 Why it applies：この用語は、信頼できる事実、情報源の証拠、または記載されたシステム制限と矛盾する主張を見つけた場合にのみ使用してください。 Evaluation boundary：この用語を使う前に、真の原因を見つけてください。拒否、スタイル変更、古いソース、検索失敗、または人為的なミスには別の原因がある場合があります。 Evaluation requirements: Define the task and source evidence. Use a versioned test set and a clear scoring guide. Track risk groups, unsupported-claim rate, links to source evidence, and when the model must decline to answer. User safeguards: Keep source traceability and state uncertainty clearly. Provide a safe fallback. Require human review for high-impact decisions. Acceptance criteria: Record a measured baseline and target on a versioned evaluation set. Study common failures. Verify fallback, monitoring, and rollback. Evidence and limits (evidence boundary)：単一の公式標準が全体の用語を管理するわけではありません。その意味はチーム、プラットフォーム、またはフレームワークによって変わる可能性があります。 Unknowns to confirm: Target task, model and version, source data, risk limit, evaluator, and production fallback.