プロンプトインジェクション

Outcome：Complete the task with プロンプトインジェクション (Prompt Injection)。 User context：セキュリティテスターは、秘密情報をエクスポートする命令を隠したウェブページを開きます。エージェントはそれを信頼できないテキストとして扱い、ツールの呼び出しをブロックする必要があります。指示の制御を奪わない限り、文法の悪いプロンプトは注入とは見なされません。 Risk or control to address：プロンプトインジェクション (Prompt Injection)。 Why it applies：直接または隠れたテキストがAIシステムの指示を引き継ぐことができるかどうかを確認する場合、この用語を使用します。 Classification boundary：指示の乗っ取りが起きていない場合、すべての誤答や規則違反のチャットプロンプトをプロンプトインジェクションと呼ぶな。 Safety requirements: Test only in an isolated space with explicit permission. Use inert, harmless inputs. Protect secrets and personal data. Name the trust boundary and record the mitigation. Operational safeguards: Set up detection and logs that hide sensitive data. Name the incident owner. Define a safe failure mode and rollback before release. Acceptance criteria: A defensive regression test fails before the mitigation and passes after it. No real target, secret, or personal data is used. Monitoring and rollback are verified. Evidence and limits (evidence boundary)：その情報源にとって公式です。他のプラットフォームやチームはその用語を別の方法で使用する場合があります。 Unknowns to confirm: Authorized scope, affected assets, data class, threat actor, incident owner, and rollback limits.