SANGFOR_AD_V5.1_解决方案_服务器负载均衡解决方案

AD服务器负载方案XXX服务器负载均衡解决方案目录第1章概述1第2章需求分析1第3章解决方案23.1网络拓扑23.2方案描述33.2.1方案设计33.2.2方案实现33.3稳定性保障机制43.3.1系统健康状况监控43.3.2应用系统冗余机制43.3.3服务器平滑退出53.3.4服务器平滑进入53.4多重负载均衡机制53.4.1应用类型负载53.4.2基于URL负载53.4.3七层内容负载63.5服务器性能优化63.6单边加速技术63.7商业智能分析6第4章相关技术介绍74.1负载均衡算法74.2健康检查机制74.3会话保持84.4单边加速技术94.5商业智能分析104.6性能优化技术114.6.1TCP连接复用114.6.2内存缓存114.6.3HTTP压缩124.6.4SSL加速124.6.5智能路由技术134.6.6智能告警技术13第5章客户案例135.1.1最高法选择深信服AD打造稳定的对外发布平台135.1.2广西质监部署深信服AD应用交付155.2更多成功客户17第6章SANGFOR专业服务18ii 第1章 概述随着组织机构的不断发展，为了节省业务运营成本和提升工作效率，组织对信息化系统的依赖程度越来越高。为了避免业务中断所带来极大损失，组织该如何保障业务系统的系统可用性和稳定性？由于业务系统的人数日益增多，单一的网络服务设备的性能已经不能满足众多用户访问的需要，由此需要引入服务器的负载平衡，实现客户端可访问多台同时工作的服务器，动态分配每一个应用请求到后台的服务器，并即时按需动态检查各个服务器的状态，根据预设的规则将请求分配给最有效率的服务器。服务器负载均衡技术在现有网络结构之上能够提供一种廉价、有效、透明的方法来扩展网络设备和服务器的带宽、增加吞吐量、加强网络数据处理能力、提高网络的灵活性和可用性。它主要能够带来两方面的价值：1、能够建立有效的负载均衡机制传统的负载机制是建立在较简单负载均衡机制和较简单的健康检查机制上的，不能根据服务器提供服务的具体情况向其转发有效的访问流量。而通过构建新的负载均衡系统，可以采用多种负载均衡机制，将大量的并发访问或数据流量分担到多台设备上分别处理，进而减少用户等待响应的时间，提升系统处理能力。2、能够建立有效的健康检查机制负载均衡系统可以对服务器的运行状况做出准确判断，确保提供服务的正确。全面的健康检查机制不仅可以有效的监控到服务进程的有效性，即对应用端口提供服务的能力进行健康检查，而且对于应用程序运行错误也同样可以提供有效的检查机制，从而避免了客户端可以访问到服务器，但得不到响应的情况的出现。第2章 需求分析XX单位作为 (关于客户应用的介绍)随着访问用户数量的增加，给XX单位的服务器带来越来越大的压力，如有有效的保证客户访问的速度和稳定性是目前XX单位网络改造的重要目标。 XX单位希望通过服务器负载均衡机制，保证用户访问流量能在各服务器上均衡分配，提高服务器资源的利用率。1、通过负载均衡设备将用户访问请求分配到多台之上，提升应用系统的处理能力。2、当某台服务器发生故障时能被及时检测到，并且故障服务器将会被自动隔离，直到其恢复正常后自动加入服务器群，实现透明的容错，保证服务器整体性能得到大幅提升3、由于是对外发布的应用，存在部门用户的网络质量差、跨运营商访问的情况，造成访问速度变慢，希望通过一种对用户端透明方式（不需要在用户端安装任何的插件或者客户端）来提升用户的访问体验。4、希望能够通过相应优化机制来节省服务器的性能消耗，减少硬件投资成本，提升服务器相应能力。第3章 解决方案3.1 网络拓扑通过和XX单位的工程师沟通，按照其单位网络架构和需求情况，我们推荐使用深信服AD服务器负载均衡解决方案。本方案设计采用SANGFOR AD应用交付设备来实现网络中多台服务器的智能负载；具体部署情况如下：3.2 方案描述3.2.1 方案设计本方案设计充分考虑网络的稳定性以及后续的扩展性，采用深信服M5X00-AD设备实现服务器负载均衡。深信服AD设备包含了链路负载均衡、全局负载均衡和服务器负载均衡三大功能，对后续网络和应用系统的扩建、稳定性保障以及优化建设都有很好的扩展性。1、两台SANGFOR AD以单臂方式接入网络，在实现流量的负载均衡的同时，保证整个系统的稳定和高可用性，而且没有改变原有的网络结构。2、当用户请求到SANGFOR AD设备的时候，根据预先设定好负载策略能够合理的将每个连接快速的分配到相应的服务器。3、通过对服务器健康状况的实时监控，能够实时的发现故障服务器，及时将用户的访问请求切换到其他正常服务器之上。4、配合深信服独特的单边加速技术，能够是现在用户端不安装任何插件和客户端的情况下提升用户的访问速度。5、通过深信服AD设备具备的缓存、压缩、ssl卸载、连接复用等功能进一步降低服务器性能消耗。3.2.2 方案实现深信服AD将所有真实服务器配置成虚拟服务来实现负载均衡，对外直接发布一个虚拟服务IP。同时深信服AD可持续检查服务器的健康状态，一旦发现故障服务器，则将其从负载均衡组中移除。方案具体实现方式（修改源IP方式）如下：1、 客户通过访问虚拟IP，发出服务请求到深信服 AD设备。2、 深信服AD接收到请求，通过预先设定好的负载均衡算法，将数据包中目的IP地址改为选中的后台服务器IP地址，然后将数据包发出到后台选定的服务器。3、 后台服务器收到后，将应答包按照其路由发回深信服AD。4、 深信服AD设备收到应答包后将其中的源地址改回成虚拟IP地址，发回客户端，由此就完成了一个标准的服务器负载平衡的流程。3.3 稳定性保障机制3.3.1 系统健康状况监控深信服AD可以监视服务器在IP、TCP、UDP、应用和内容等所有协议层上的工作状态。一旦某台服务器出现故障，用户将被透明地引导到正常工作的服务器上。通过可靠的健康检查机制可以保证用户始终能够获得最佳的服务。（参见4.1）3.3.2 应用系统冗余机制深信服AD设备不仅能够实现服务器间冗余机制，还能够实现基于设备自身的冗余机制以及多站点之间的冗余机制，形成应用系统稳定性保障上的三个层次冗余。无论上述哪种应用承载体出现故障，通过深信服AD的冗余机制切换保障应用系统的可用性。设备自身冗余：深信服 AD设备之间支持以主备的冗余方式接入网络，处于备份状态的设备采用“心跳线”监测运行的主设备的状态，当检测出主设备出现故障时，两台设备就会实现毫秒级切换，备份设备会切换为运行主机，为用户提供服务，保证了系统的高可用性。多站点设备冗余：深信服AD通过全局负载均衡功能可以在不同站点上安装许多深信服AD设备，从而实现多个站点之间的冗余。即便是某站点发生故障造成该站点内的服务器和负载设备都不可用，备用站点将通冗余机制自动提供服务，保障用户访问的持续性。3.3.3 服务器平滑退出当需要进行系统维护或者服务器升级时，通过服务器平滑推出机制，深信服AD能够保证服务器退出时不会造成用户的访问中断。当管理人员选定某台服务器要从服务器组内退出服务后，深信服AD将不会把新的用户分配到该服务器。当该服务器处理完当前用户之后，就可以开始进行对服务器的相应管理和维护了。3.3.4 服务器平滑进入将新的或维护过后的服务器添加到服务器组时，通过服务器平滑进入机制，深信服AD能够避免新服务器因突然出现的流量冲击导致系统故障情况的出现。在将新服务器加入到服务器组时，深信服AD将逐渐地增加分配到该服务器的流量，直至达到其完全的处理能力。从而不仅保证用户在服务器退出服务时，同时还保证服务器在启动期间以及应用程序开始时，均能获得不间断服务。3.4 多重负载均衡机制深信服AD支持轮询、加权轮询、最快响应时间、动态反馈、加权最小连接、哈希、优先级等算法，通过这些算法可以实现用户访问请求在多台服务器之间的动态分配。3.4.1 应用类型负载深信服AD支持基于 IP 地址、应用类型和内容等因素实现流量负载。通过这种方式管理员就可以为不同类型的应用类型分配不同的服务器资源。应用类型调度支持基于不同协议上的多种应用，包括 TCP、UDP、IP、DNS、e-mail、FTP、HTTP 等等。3.4.2 基于URL负载深信服AD产品支持基于URL的负载均衡，根据URL信息实现用户访问请求负载，可以将用户的访问请求定向到某台服务器，或实现在多个服务器之间进行负载均衡，从而提供优化服务器资源利用率。如通过一个公网IP地址来实现两个host域名的发布，就是典型的AD设备通过识别URL将用户访问分配对应的主机发布服务器之上。根据 URL 文本中包含的信息负载技术，不仅可以保持客户持续性，而且在客户网络应用优化方面有更多个性化选择。3.4.3 七层内容负载基于七层内容的调度使管理员可以根据用户请求的内容来分配服务器资源，例如基于HTTP包头内容的负载技术让管理员可以根据用户请求的内容来分配服务器资源。例如，大型的应用系统中，静态脚本可以位于一个单独的服务器组，当发生对该静态脚本的请求时，会话就被重定向到其中某个服务器，这样就保证用户请求分配的多元化和个性化，为管理人员提供更多分配策略和机制。深信服服务器负载均衡支持基于URI、HOST、COOKIE、USER_AGENT等信息的请求负载。3.5 服务器性能优化深信服AD设备支持TCP连接复用、内存缓存、HTTP压缩、SSL加速等众多优化技术通过减少服务器的硬件资源消耗，缩短服务器响应时间，在节省了硬件投资成本的同时，提升了用户的访问体验（详细介绍参见4.6）。3.6 单边加速技术深信服 AD单边加速解决方案，区别于传统的加速解决方案。首先，它不需要在用户电脑上安装任何软件和控件，对用户访问透明，而且可以在不升级带宽的前提下，减少应用程序的响应时间，提升用户的访问速度。在各类的网络环境之中，深信服 AD的单边加速技术在不需要安装任何插件或者软件的情况下，能够极大的提升用户的访问速度，特别是比较常见的跨运营商的网络环境之中，深信服 AD的单边加速能够显著提高网络效率，提升空间一般在2倍至50倍之间，有的情况下甚至高达100倍。 3.7 商业智能分析深信服AD设备具备强大的统计分析功能，能够有效统计分析服务器的使用情况，包括流量、连接数、用户数。能够有效统计服务器的使用状况，包括连接数、响应时间、健康状态等。能有效统计访问用户的时间、地域分布特性以及用户的应用访问偏好，能够帮助企业快速全面的了解整个应用发布系统各个元素的运行状况。第4章 相关技术介绍4.1 负载均衡算法深信服AD支持多重负载均衡算法将所有流量均衡的分配到各个服务器，不仅充分利用所有的服务器资源，而且各个服务器均衡的承担流量处理任务，从而有效地避免服务器处理任务“不平衡”现象的发生。轮询:按照请求的先后顺序将用户请求循环地分配到每台服务器。一旦某台服务器出现故障将不再为其分配任务，直至服务器恢复正常。加权轮询：由于集群中的不同服务器可能有不同的功能，因此可以为各个服务器分配不同的加权值。根据这个比例，把用户的请求分配到每个服务器。加权最小连接：根据事先为各服务器设定的权值，在调度新连接时尽可能的使服