Load Balancer
負載平衡器
負載平衡器會把流量分配給準備好工作的服務端點,並依照健康狀態、容量、路由和可用性規則做決定。
另一個例子
售票系統上線時每秒收到 18,000 個請求。負載平衡器會終止 TLS、保留追蹤情境、只傳送冪等的健康檢查,並在伺服器連續失敗後將它移除。部署時會排空 90 秒連線,重試上限則能避免一個慢服務讓流量倍增。
主要部分
- 01Listener 與路由規則
- 02健康 Backend Pool
- 03分配與失敗策略
什麼時候用
需要分散流量並避開不健康的伺服器時,可以使用。也要測試健康檢查、連線排空、逾時、重試和可觀測性規則。
什麼時候不要用
負載平衡不會憑空增加容量。不要在沒有失敗處理規則時依賴黏著工作階段,也不要讓重試重複非冪等寫入。
程式裡的名稱
listener + routing policy + backend pool + active/passive health + drain/retry budgets 上線前要檢查
檢查介面約定、任何情況都不能破壞的規則、授權與輸入限制。測試重試、重複執行只生效一次、逾時與部分失敗。驗證資料完整性、相容性、監控、復原與回復上一版。
預期成果:為這套系統設計或檢查 負載平衡器 (Load Balancer),並讓資料保持正確、安全且容易維護。 使用者情境:售票系統上線時每秒收到 18,000 個請求。負載平衡器會終止 TLS、保留追蹤情境、只傳送冪等的健康檢查,並在伺服器連續失敗後將它移除。部署時會排空 90 秒連線,重試上限則能避免一個慢服務讓流量倍增。 技術概念或控制措施:負載平衡器 (Load Balancer)。 適用理由:需要分散流量並避開不健康的伺服器時,可以使用。也要測試健康檢查、連線排空、逾時、重試和可觀測性規則。 不應使用的情況:負載平衡不會憑空增加容量。不要在沒有失敗處理規則時依賴黏著工作階段,也不要讓重試重複非冪等寫入。 工程要求:定義輸入、輸出、介面約定,以及任何情況都不能破壞的規則。說明授權與輸入檢查範圍。定義失敗、逾時、重試和重複執行只生效一次的規則。也要定義資料搬移與相容限制。 營運要求:加入監控訊號與隱藏敏感資料的記錄。設定容量上限並寫好操作手冊。測試復原與回復上一版的流程。 驗收條件:介面約定與失敗路徑測試通過。重試或部分失敗時,資料與授權規則仍正確。效能上限、監控、復原與回復上一版的方法都已驗證。 證據與限制(證據邊界):沒有一份官方標準能管到全部內容。不同團隊、平台或框架的用法可能不同。 待確認:程式執行環境、資料位置、流量形態、資料一致需求和安全邊界。也要確認相容期間、服務目標(SLO)與回復上一版的限制。
檢查這份需求
請 AI 程式助手檢查目前如何使用 負載平衡器 (Load Balancer)。 定義:負載平衡器會把流量分配給準備好工作的服務端點,並依照健康狀態、容量、路由和可用性規則做決定。 正式環境檢查:檢查介面約定、任何情況都不能破壞的規則、授權與輸入限制。測試重試、重複執行只生效一次、逾時與部分失敗。驗證資料完整性、相容性、監控、復原與回復上一版。 修改程式前,先列出看到的證據、缺口、嚴重程度,以及最小且安全的修正。