Load Balancer
负载均衡器
负载均衡器会把流量分配给准备好工作的服务端点,并按照健康状态、容量、路由和可用性规则做决定。
另一个例子
票务系统上线时每秒收到 18,000 个请求。负载均衡器会终止 TLS、保留跟踪上下文、只发送幂等的健康检查,并在服务器连续失败后将它移除。部署时会排空 90 秒连接,重试上限则能避免一个慢服务让流量倍增。
主要部分
- 01监听器与路由规则
- 02健康后端池
- 03分配与故障策略
什么时候用
需要分散流量并避开不健康的服务器时,可以使用。也要测试健康检查、连接排空、超时、重试和可观测性规则。
什么时候不要用
负载均衡不会凭空增加容量。不要在没有故障处理规则时依赖粘性会话,也不要让重试重复非幂等写入。
代码里的名称
listener + routing policy + backend pool + active/passive health + drain/retry budgets 上线前要检查
检查接口约定、任何情况下都不能破坏的规则、授权与输入限制。测试重试、重复执行只生效一次、超时与部分失败。验证数据完整性、兼容性、监控、恢复与回到上一版。
预期结果:为这套系统设计或检查 负载均衡器 (Load Balancer),并让数据保持正确、安全且容易维护。 用户场景:票务系统上线时每秒收到 18,000 个请求。负载均衡器会终止 TLS、保留跟踪上下文、只发送幂等的健康检查,并在服务器连续失败后将它移除。部署时会排空 90 秒连接,重试上限则能避免一个慢服务让流量倍增。 技术概念或控制措施:负载均衡器 (Load Balancer)。 适用理由:需要分散流量并避开不健康的服务器时,可以使用。也要测试健康检查、连接排空、超时、重试和可观测性规则。 不应使用的情况:负载均衡不会凭空增加容量。不要在没有故障处理规则时依赖粘性会话,也不要让重试重复非幂等写入。 工程要求:定义输入、输出、接口约定,以及任何情况下都不能破坏的规则。说明授权与输入检查范围。定义失败、超时、重试和重复执行只生效一次的规则。也要定义数据迁移与兼容限制。 运营要求:加入监控信号与隐藏敏感数据的日志。设置容量上限并写好操作手册。测试恢复与回到上一版的流程。 验收标准:接口约定与失败路径测试通过。重试或部分失败时,数据与授权规则仍正确。性能上限、监控、恢复与回到上一版的方法都已验证。 证据与限制(证据边界):没有一份官方标准能涵盖全部内容。不同团队、平台或框架的用法可能不同。 待确认:程序运行环境、数据位置、流量形态、数据一致需求和安全边界。也要确认兼容周期、服务目标(SLO)与恢复上一版的限制。
检查这份需求
请 AI 编程助手检查当前如何使用 负载均衡器 (Load Balancer)。 定义:负载均衡器会把流量分配给准备好工作的服务端点,并按照健康状态、容量、路由和可用性规则做决定。 生产环境检查:检查接口约定、任何情况下都不能破坏的规则、授权与输入限制。测试重试、重复执行只生效一次、超时与部分失败。验证数据完整性、兼容性、监控、恢复与回到上一版。 修改程序前,先列出看到的证据、缺口、严重程度,以及最小且安全的修正。