Injeção de prompt

Outcome: Complete the task with Injeção de prompt (Prompt Injection). User context: Um testador de segurança abre uma página da web que esconde uma ordem para exportar segredos. O agente deve tratá-la como texto não confiável e bloquear a chamada da ferramenta. Um prompt mal escrito não é uma injeção a menos que assuma o controle da instrução. Risk or control to address: Injeção de prompt (Prompt Injection). Why it applies: Use este termo ao verificar se texto direto ou oculto pode assumir as instruções de um sistema de IA. Classification boundary: Não chame toda resposta errada ou violação de regra de injeção de prompt de chat quando nenhuma tomada de instrução ocorreu. Safety requirements: Test only in an isolated space with explicit permission. Use inert, harmless inputs. Protect secrets and personal data. Name the trust boundary and record the mitigation. Operational safeguards: Set up detection and logs that hide sensitive data. Name the incident owner. Define a safe failure mode and rollback before release. Acceptance criteria: A defensive regression test fails before the mitigation and passes after it. No real target, secret, or personal data is used. Monitoring and rollback are verified. Evidence and limits (evidence boundary): É oficial para essa fonte. Outras plataformas ou equipes podem usar o termo de outra maneira. Unknowns to confirm: Authorized scope, affected assets, data class, threat actor, incident owner, and rollback limits.