프롬프트 주입

Outcome：Complete the task with 프롬프트 주입 (Prompt Injection)。 User context：보안 테스터는 비밀을 내보내라는 명령을 숨긴 웹페이지를 엽니다. 에이전트는 이를 신뢰할 수 없는 텍스트로 취급하고 도구 호출을 차단해야 합니다. 잘못 작성된 프롬프트는 명령 제어를 장악하지 않는 한 인젝션이 아닙니다. Risk or control to address：프롬프트 주입 (Prompt Injection)。 Why it applies：직접 또는 숨겨진 텍스트가 AI 시스템의 지시를 대체할 수 있는지 점검할 때 이 용어를 사용하세요. Classification boundary：지시권 탈취가 발생하지 않았을 때 모든 잘못된 답변이나 규칙 위반 채팅 프롬프트를 챗 프롬프트 인젝션이라고 부르지 마세요. Safety requirements: Test only in an isolated space with explicit permission. Use inert, harmless inputs. Protect secrets and personal data. Name the trust boundary and record the mitigation. Operational safeguards: Set up detection and logs that hide sensitive data. Name the incident owner. Define a safe failure mode and rollback before release. Acceptance criteria: A defensive regression test fails before the mitigation and passes after it. No real target, secret, or personal data is used. Monitoring and rollback are verified. Evidence and limits (evidence boundary)：해당 출처에 대해 공식적인 것입니다. 다른 플랫폼이나 팀은 그 용어를 다른 방식으로 사용할 수 있습니다. Unknowns to confirm: Authorized scope, affected assets, data class, threat actor, incident owner, and rollback limits.