深入理解负载均衡原理及算法

1. 前言

在互联网早期，网络还不是很发达，上网用户少，流量相对较小，系统架构以单体架构为主。但如今在互联网发达的今天，流量请求动辄百亿、甚至上千亿，单台服务器或者实例已完全不能满足需求，这就有了集群。不论是为了实现高可用还是高性能，都需要用到多台机器来扩展服务能力，用户的请求不管连接到哪台服务器，都能得到相同的相应处理。

另一方面，如何构建和调度服务集群这事情，又必须对用户一侧保持足够的透明，即使请求背后是由一千台、一万台机器来共同响应的，也绝非用户所关心的事情，用户需记住的只有一个域名地址而已。调度后方的多台机器，以统一的接口对外提供服务，承担此职责的技术组件被称为 负载均衡。

2. 概念

负载均衡，英文名称为Load Balance，其含义就是指将负载（工作任务或者网络请求）进行平衡，分摊到多个操作单元(服务器或者组件)上进行运行。目的是尽量将网络流量 平均 发送到多个服务器上，以保证整个业务系统的高可用。负载均衡构建在原有网络结构上，它提供了一种透明且廉价有效的方法，扩展服务器和网络设备的贷款、加强网络数据处理能力、增加吞吐量、提高网络的可用性和灵活性。

负载均衡

负载均衡主要有以下作用：

• 高并发：通过采取一定的算法策略，将流量尽可能的均匀发送给服务端，以此提高集群的并发处理能力。

• 伸缩性：根据网络流量的大小，增加或者减少后端服务器实例，由负载均衡设备进行控制，这样使得集群具有伸缩性。

• 高可用：负载均衡器通过算法或者其他性能数据来监控候选实例，当实例负载过高或者异常时，减少其流量请求或者直接跳过该实例，将请求发送给其他可用实例，这使得集群具有高可用的特性。

• 安全防护：有些负载均衡器提供了安全防护功能。如：黑白名单处理、防火墙等。

3. 分类

3.1 根据地域范围分类

负载均衡从其应用的地理结构上分为本地负载均衡(Local Load Balance)和全局负载均衡(Global Load Balance，也叫地域负载均衡)。

3.1.1 本地负载均衡

本地负载均衡是指对本地的服务器群做负载均衡。

本地负载均衡针对本地范围的服务器群做负载均衡，本地负载均衡不需要花费高额成本购置高性能服务器，只需利用现有设备资源，就可有效避免服务器单点故障造成数据流量的损失，通常用来解决数据流量过大、网络负荷过重的问题。同时它拥有形式多样的均衡策略把数据流量合理均衡的分配到各台服务器。如果需要在现在服务器上升级扩充，不需改变现有网络结构、停止现有服务，仅需要在服务群中简单地添加一台新服务器。

3.1.2 全局负载均衡

全局负载均衡是指对分别放置在不同的地理位置、有不同网络结构的服务器群间作负载均衡。

全局负载均衡主要解决全球用户只需一个域名或IP地址，就能访问到离自己距离最近的服务器获得最快的访问速度，它在多区域都拥有自己的服务器站点，同时也适用于那些子公司站点分布广的大型公司通过企业内部互联网（Intranet）来达到资源统一合理分配的目的。全局负载均衡具备以下特点：

• 提高服务器响应速度，解决网络拥塞问题，达到高质量的网络访问效果；
• 能够远距离为用户提供完全的透明服务，真正实现与地理位置无关性；
• 能够避免各种单点失效，既包括数据中心、服务器等的单点失效，也包括专线路障引起的单点失效。

内容分发网络 CDN（Content Delivery Network）采用的就是全局负载均衡。假如我们将图片存储在CDN服务器上，且该CDN在北京、杭州均部署有服务器。那么：

• 当天津用户下载图片的时候，会自动将流量请求转发至北京的CDN服务器；

• 当江苏用户下载图片的时候，就会将流量请求转发至杭州的服务器；

3.2 根据载体类型分类

从支持负载均衡的载体来看，可以将负载均衡分为两类：硬件负载均衡和软件负载均衡。

3.2.1 硬件负载均衡

硬件负载均衡解决方案是直接在服务器和外部网络间安装负载均衡设备，这种设备通常称之为负载均衡器，由于专门的设备完成专门的任务，独立于操作系统，整体性能得到极大提高，加上多样化的负载均衡策略，智能化的流量管理，可达到最佳的负载均衡需求。

这类设备性能强劲、功能强大，但价格非常昂贵，一般只有土豪公司才会使用此类设备，中小公司一般负担不起，业务量没那么大，用这些设备也是浪费。

目前业界领先的两款硬件负载均衡器：F5和A10。