Prompt Injection
提示注入
提示注入是有害或未預期的文字，企圖讓 AI 忽略應用程式可信的規則，改去聽從別的指令。
另一個例子
資安測試人員打開一個藏有「匯出機密」指令的網頁。代理必須把它當成不可信文字並擋下工具呼叫；提示寫得不好，不代表發生提示注入，重點是指令控制是否被搶走。
主要部分
- 01指令邊界
- 02不可信載荷
- 03高權限動作
什麼時候用
檢查直接或藏在外部內容裡的文字，是否會搶走 AI 系統的指令控制時，可以使用這個詞。
什麼時候不要用
如果沒有指令控制被接管，不要把每個錯誤答案或突破限制的對話都叫做提示注入。
程式裡的名稱
untrusted content ≠ trusted instruction 上線前要檢查
只能在明確授權且隔離的防禦測試中操作。檢查信任邊界、無害回歸案例和緩解方法。也要檢查機密與個資處理，以及隱藏敏感資料的偵測訊號。再檢查安全失敗、事件負責人、復原與回復上一版。不得測試真實目標。
預期成果：評估並緩解 提示注入 (Prompt Injection) 的風險。不得實作、啟用或在真實環境使用這種攻擊。 使用者情境：資安測試人員打開一個藏有「匯出機密」指令的網頁。代理必須把它當成不可信文字並擋下工具呼叫；提示寫得不好，不代表發生提示注入，重點是指令控制是否被搶走。 要處理的風險或控制措施：提示注入 (Prompt Injection)。 適用理由：檢查直接或藏在外部內容裡的文字，是否會搶走 AI 系統的指令控制時，可以使用這個詞。 分類邊界：如果沒有指令控制被接管，不要把每個錯誤答案或突破限制的對話都叫做提示注入。 安全要求：只能在已明確授權、與外界隔離的測試環境中操作。使用無害且不會執行的輸入。保護機密與個人資料，說明哪些資料或系統可以互相信任（信任邊界），並記錄緩解方法。 營運防護：上線前設好偵測與隱藏敏感資料的記錄。指定事件負責人，並定義失敗時保持安全及回復上一版的方法。 驗收條件：防禦用回歸測試在緩解前失敗，緩解後通過。不使用真實目標、機密或個人資料。監控與回復上一版的方法都已驗證。 證據與限制（證據邊界）：它只代表該來源的官方說法。其他平台或團隊可能有不同用法。 待確認：授權範圍、受影響資產、資料等級、可能的攻擊者、事件負責人，以及回復上一版的限制。
檢查這份需求
請 AI 程式助手檢查目前如何使用 提示注入 (Prompt Injection)。 定義：提示注入是有害或未預期的文字，企圖讓 AI 忽略應用程式可信的規則，改去聽從別的指令。 正式環境檢查：只能在明確授權且隔離的防禦測試中操作。檢查信任邊界、無害回歸案例和緩解方法。也要檢查機密與個資處理，以及隱藏敏感資料的偵測訊號。再檢查安全失敗、事件負責人、復原與回復上一版。不得測試真實目標。 修改程式前，先列出看到的證據、缺口、嚴重程度，以及最小且安全的修正。