Load Shedding
負載卸除
負載卸除會在系統接近容量上限時,拒絕一部分工作。這能避免其他工作嚴重延遲,也能防止整個系統當機。
capacity signal + priority + admission gate -> admit | reject early + retry guidance1,000✓安全容量1,000→已接收240×提早拒絕capacity signal + priority + admission gate -> admit | reject early + retry guidanceSRE另一個例子
某服務每秒能處理 1,000 次請求,但需求升到 1,240 次。它會保留重要的結帳流量,並快速拒絕 240 次請求。
主要部分
- 01容量訊號
- 02接收門檻
- 03請求優先順序
- 04快速拒絕
- 05呼叫端指引
- 06恢復接收門檻
什麼時候用
先量出安全容量和請求優先順序,再使用負載卸除。要盡早、低成本地拒絕,並清楚告知呼叫端何時能重試。
什麼時候不要用
不要默默丟掉已接受而且必須保存的工作,也不要等伺服器卡住才開始拒絕。重試也要受控,免得再次形成尖峰。
程式裡的名稱
capacity signal + priority + admission gate -> admit | reject early + retry guidance 上線前要檢查
檢查介面約定、任何情況都不能破壞的規則、授權與輸入限制。測試重試、重複執行只生效一次、逾時與部分失敗。驗證資料完整性、相容性、監控、復原與回復上一版。
預期成果:為這套系統設計或檢查 負載卸除 (Load Shedding),並讓資料保持正確、安全且容易維護。 使用者情境:某服務每秒能處理 1,000 次請求,但需求升到 1,240 次。它會保留重要的結帳流量,並快速拒絕 240 次請求。 技術概念或控制措施:負載卸除 (Load Shedding)。 適用理由:先量出安全容量和請求優先順序,再使用負載卸除。要盡早、低成本地拒絕,並清楚告知呼叫端何時能重試。 不應使用的情況:不要默默丟掉已接受而且必須保存的工作,也不要等伺服器卡住才開始拒絕。重試也要受控,免得再次形成尖峰。 工程要求:定義輸入、輸出、介面約定,以及任何情況都不能破壞的規則。說明授權與輸入檢查範圍。定義失敗、逾時、重試和重複執行只生效一次的規則。也要定義資料搬移與相容限制。 營運要求:加入監控訊號與隱藏敏感資料的記錄。設定容量上限並寫好操作手冊。測試復原與回復上一版的流程。 驗收條件:介面約定與失敗路徑測試通過。重試或部分失敗時,資料與授權規則仍正確。效能上限、監控、復原與回復上一版的方法都已驗證。 證據與限制(證據邊界):沒有一份官方標準能管到全部內容。不同團隊、平台或框架的用法可能不同。 待確認:程式執行環境、資料位置、流量形態、資料一致需求和安全邊界。也要確認相容期間、服務目標(SLO)與回復上一版的限制。
檢查這份需求
請 AI 程式助手檢查目前如何使用 負載卸除 (Load Shedding)。 定義:負載卸除會在系統接近容量上限時,拒絕一部分工作。這能避免其他工作嚴重延遲,也能防止整個系統當機。 正式環境檢查:檢查介面約定、任何情況都不能破壞的規則、授權與輸入限制。測試重試、重複執行只生效一次、逾時與部分失敗。驗證資料完整性、相容性、監控、復原與回復上一版。 修改程式前,先列出看到的證據、缺口、嚴重程度,以及最小且安全的修正。