Prompt Injection
Iniezione di prompt
L'iniezione di prompt è testo dannoso o imprevisto. Cerca di far sì che un'IA ignori le regole affidabili dell'app e segua altre istruzioni.
Un altro esempio
Un tester di sicurezza apre una pagina web che nasconde un ordine per esportare segreti. L'agente deve trattarla come testo non affidabile e bloccare la chiamata dello strumento. Un prompt scritto male non è un'iniezione a meno che non prenda il controllo delle istruzioni.
Parti principali
- 01limite di istruzione
- 02payload non attendibile
- 03azione privilegiata
Usalo quando
Usa questo termine quando si verifica se testo diretto o nascosto può sovrascrivere le istruzioni di un sistema IA.
Non usarlo quando
Non chiamare ogni risposta sbagliata o violazione delle regole un'iniezione di prompt, se non è avvenuto alcun takeover delle istruzioni.
Nome usato nel codice
untrusted content ≠ trusted instruction Prima di spedire
Work only within an explicitly authorized and isolated defense test. Check the trust boundary, inert regression case, mitigation, and handling of secrets and personal data. Check redacted detection signals, safe failure, incident owner, recovery, and rollback. Never test a real target.
Outcome: Complete the task with Iniezione di prompt (Prompt Injection). User context: Un tester di sicurezza apre una pagina web che nasconde un ordine per esportare segreti. L'agente deve trattarla come testo non affidabile e bloccare la chiamata dello strumento. Un prompt scritto male non è un'iniezione a meno che non prenda il controllo delle istruzioni. Risk or control to address: Iniezione di prompt (Prompt Injection). Why it applies: Usa questo termine quando si verifica se testo diretto o nascosto può sovrascrivere le istruzioni di un sistema IA. Classification boundary: Non chiamare ogni risposta sbagliata o violazione delle regole un'iniezione di prompt, se non è avvenuto alcun takeover delle istruzioni. Safety requirements: Test only in an isolated space with explicit permission. Use inert, harmless inputs. Protect secrets and personal data. Name the trust boundary and record the mitigation. Operational safeguards: Set up detection and logs that hide sensitive data. Name the incident owner. Define a safe failure mode and rollback before release. Acceptance criteria: A defensive regression test fails before the mitigation and passes after it. No real target, secret, or personal data is used. Monitoring and rollback are verified. Evidence and limits (evidence boundary): È ufficiale per quella fonte. Altre piattaforme o team potrebbero usare il termine in modo diverso. Unknowns to confirm: Authorized scope, affected assets, data class, threat actor, incident owner, and rollback limits.
Controlla questa richiesta
Review how Iniezione di prompt (Prompt Injection) is used now. Definition: L'iniezione di prompt è testo dannoso o imprevisto. Cerca di far sì che un'IA ignori le regole affidabili dell'app e segua altre istruzioni. Release checks: Work only within an explicitly authorized and isolated defense test. Check the trust boundary, inert regression case, mitigation, and handling of secrets and personal data. Check redacted detection signals, safe failure, incident owner, recovery, and rollback. Never test a real target. Before changing code, list the evidence, gaps, severity, and the smallest safe fix.