Prompt Injection
Injection de prompt
L'injection de prompt est un texte nuisible ou inattendu. Elle tente de faire en sorte qu'une IA ignore les règles fiables de l'application et suive d'autres instructions.
Un autre exemple
Un testeur de sécurité ouvre une page web qui cache un ordre pour exporter des secrets. L'agent doit le considérer comme un texte non fiable et bloquer l'appel à l'outil. Une instruction mal rédigée n'est pas une injection à moins qu'elle ne prenne le contrôle de l'instruction.
Parties principales
- 01limite d'instruction
- 02charge utile non fiable
- 03action privilégiée
Utilisez-le lorsque
Utilisez ce terme pour vérifier si un texte direct ou caché peut prendre le contrôle des instructions d'un système IA.
Ne l'utilisez pas lorsque
N'appelez pas chaque mauvaise réponse ou chaque violation de règle une injection de prompt de chat lorsque aucun détournement d'instruction n'a eu lieu.
Nom utilisé dans le code
untrusted content ≠ trusted instruction Avant d'expédier
Work only within an explicitly authorized and isolated defense test. Check the trust boundary, inert regression case, mitigation, and handling of secrets and personal data. Check redacted detection signals, safe failure, incident owner, recovery, and rollback. Never test a real target.
Outcome: Complete the task with Injection de prompt (Prompt Injection). User context: Un testeur de sécurité ouvre une page web qui cache un ordre pour exporter des secrets. L'agent doit le considérer comme un texte non fiable et bloquer l'appel à l'outil. Une instruction mal rédigée n'est pas une injection à moins qu'elle ne prenne le contrôle de l'instruction. Risk or control to address: Injection de prompt (Prompt Injection). Why it applies: Utilisez ce terme pour vérifier si un texte direct ou caché peut prendre le contrôle des instructions d'un système IA. Classification boundary: N'appelez pas chaque mauvaise réponse ou chaque violation de règle une injection de prompt de chat lorsque aucun détournement d'instruction n'a eu lieu. Safety requirements: Test only in an isolated space with explicit permission. Use inert, harmless inputs. Protect secrets and personal data. Name the trust boundary and record the mitigation. Operational safeguards: Set up detection and logs that hide sensitive data. Name the incident owner. Define a safe failure mode and rollback before release. Acceptance criteria: A defensive regression test fails before the mitigation and passes after it. No real target, secret, or personal data is used. Monitoring and rollback are verified. Evidence and limits (evidence boundary): C'est officiel pour cette source. D'autres plateformes ou équipes peuvent utiliser le terme d'une autre manière. Unknowns to confirm: Authorized scope, affected assets, data class, threat actor, incident owner, and rollback limits.
Vérifiez cette demande
Review how Injection de prompt (Prompt Injection) is used now. Definition: L'injection de prompt est un texte nuisible ou inattendu. Elle tente de faire en sorte qu'une IA ignore les règles fiables de l'application et suive d'autres instructions. Release checks: Work only within an explicitly authorized and isolated defense test. Check the trust boundary, inert regression case, mitigation, and handling of secrets and personal data. Check redacted detection signals, safe failure, incident owner, recovery, and rollback. Never test a real target. Before changing code, list the evidence, gaps, severity, and the smallest safe fix.