F5消息处理与连接优化.pdf

F5消息处理与连接优化议题1.简单负载均衡环境下的连接问题2.基于消息处理的连接优化方式3.F5 TMOS与消息处理技术4.消息处理在金融业务中的优化案例简单负载均衡环境下的连接问题© F5 Networks, Inc 4F5在金融客户中的部署© F5 Networks, Inc 5这些问题解决了吗？• 短连接的应用• 频繁的连接建立与拆除吞噬 了 大量的计算资源？• 传输延时造成了资源浪费？• 长连接的应用• 设备故障后要重启应用？• 负载 不均衡？• 应用恢复后无法接收新的请求？• 不能“无缝” 停机维护？© F5 Networks, Inc 6• 如果采用基于连接的负载均衡机制，长连接一旦分配完成后，连接两端的对应关系不可改变• 某些客户端如果交易量特别大，也只会和与它相连的服务器通讯，造成服务器繁忙• 对突发情况没有任何的应急手段负载分配不均衡© F5 Networks, Inc 7• 如果用基于连接的负载均衡机制，客户端和服务器对应关系固定• 客户端检测到心跳信号故障后，重新发起连接到仍然正常工作的服务器上• 当故障服务器恢复后，如果没有新的连接建立，则将永远无法进行业务处理应用恢复后无法接收新的请求© F5 Networks, Inc 8• 长连接一旦建立后，中间的设备无法干预交易的进行• 在多层业务部署模式下，一个长连接的中断可能会引起一个区域的业务中断或异常• 即使是正常维护，也必须等待心跳包超时后应用重新建立连接不能“无缝”停机维护基于消息处理的连接优化方式© F5 Networks, Inc 10• 通过 iRules取出报文头中的报文长度字段• 收取匹配长度的数据到内存中• 判断报文结束后释放报文• 对于超长的报文，可以采用循环读取和释放的方式实现存储与转发• 需要的时候，还需要读取报文的唯一标示，比如报文序列号报文拆分、存储与转发机制iRules收集完成执行负载均衡分配收集未完成继续收集如果释放失败则重新分配新的节点应用服务器应用服务器客户端收集数据释放数据释放成功进入下一个报文收集© F5 Networks, Inc 11• 客户端和 VS建立 TCP连接• LTM 与服务器建立 TCP连接• 只有报文内容在客户端和服务器端的连接进行转发• LTM针对每个连接提供客户端缓冲存储和服务器端缓冲存储连接管理引擎CLIENT SIDE TCP STACKSERVER SIDE TCP STACK报文转发© F5 Networks, Inc 12消息处理与资源效率的提高data200ms 200msdata© F5 Networks, Inc 13datadatadatadata200ms 20ms消息处理与资源效率的提高消息缓存与连接快速释放© F5 Networks, Inc 14• 客户端与 VS建立连接后，客户端发送报文• LTM判断报文长度，将完整报文接收到缓冲存储• LTM查看当前与后台服务器的连接中是否有“空闲”连接• 如果有空闲连接，则将报文通过空闲连接发送到服务器• 如果没有空闲连接，则与后台建立一个新的连接，将报文通过新建连接发送到服务器• LTM判断服务器响应结束后 ，将与对应的与服务器的连接置为 “空闲 ”状态同步长连接处理 模式© F5 Networks, Inc 15• 在交易不是特别繁忙的情况下，服务器端连接中经常会有空闲连接• LTM利用空闲连接与后台服务器发送和接收报文，则不需要建立新的连接• 通常情况下，服务器端连接数要大大小于客户端连接数• 配置比较大的缓冲存储空间有利于进一步减小服务器端连接数同步长连接下的连接聚合CLIENT SIDE TCP STACKSERVER SIDE TCP STACK报文转发© F5 Networks, Inc 16• 客户端与 VS采用短连接方式进行通讯，一个报文的请求和应答对应一个 TCP连接• LTM与后台服务器采用长连接方式进行通讯，多个报文的请求和应答在同一个 TCP连接中进行• 有利于降低服务器的 TCP连接建立和拆除的开销• 减小数据传输，提高传输效率• 通常情况下可以使服务器获得更强的处理能力同步模式下短连接转换为长连接CLIENT SIDE TCP STACKSERVER SIDE TCP STACK报文转发© F5 Networks, Inc 17• 客户端与 VS建立长连接• LTM分别与每个后台服务器建立一个长连接对应同一个客户端连接• LTM判断客户端请求报文结束后，选择一个后台服务器连接发送报文到服务器• 由于服务器端连接和客户端连接固定的对应关系，服务器的返回报文将从对应的客户端连接返回给客户端• 这种模式下每台服务器上的连接数与客户端的连接数相同异步长连接处理模式© F5 Networks, Inc 18• 客户端和 VS建立长连接• 客户端发送报文， LTM解析报文后记录报文序列号和对应的客户端连接• LTM通过服务器端的空闲连接将报文转发给服务器• 服务器返回应答报文后， LTM解析报文序列号• LTM匹配应答报文序列号和请求报文序列号• 匹配成功后，将应答报文通过对应的客户端连接发送给发起请求的客户端异步长连接下的连接聚合F5 TMOS与消息处理技术© F5 Networks, Inc 20网络会话应用物理客户端 /服务器网络会话应用物理客户端 /服务器Web应用 Web应用• 应用 “ 交付与定义点 ”• 应用智能 – 3-7流量处理• 独特的客户端 /服务器控制• 统一服务 /上下文• 互操作性与网关功能智能化完整代理的优点通过消息处理实现对连接的优化全代理的应用交付系统© F5 Networks, Inc 21Control PlaneData Plane第三方管理平台DevCentral User CommunityTMOS与可编程化Extend the platform to meet your application delivery needs© F5 Networks, Inc 22F5 OneConnect• 实现连接聚合降低服务器的连接总数• 需要对每一个请求都进行单独处理© F5 Networks, Inc 23F5 MBLB• MBLB可以以交易为单位对一个长连接进行负载均衡，也就是将同一个连接里的多比交易转发到不同的后台服务器去• 通过 iRules消息边界规则，从 TCP长连接上持续流动的数据流中取出相互独立的消息，将逐个消息依据预定策略转发至不同的服务端 。

MBLB支持TCP异步非阻塞长连接客户端在不等待 Server回应的情况下可以持续发出请求， Server端可以连续发送应答• 针对每条客户端长连接， F5均与所有的服务端建立 1条与之对应的长连接消息处理在金融业务中的优化案例© F5 Networks, Inc 25X行对短连接消息缓存与资源快速释放AORLPARAOR AORLPARAOR1. 客户端与 F5建立 TCP连接2. F5接收来自广域网对端的客户端请求并缓存3. F5根据交易长度判断交易请求是否提交完毕4. F5在局域网内与后建立 TCP连接5. F5将客户端的交易请求发送到后台6. 后台返回交易响应7. F5判断交易响应接收完毕8. 断开到后台的连接，释放后台资源9. F5将交易响应返回客户端10.客户端断开与 F5的连接© F5 Networks, Inc 26X行卡受理业务中消息处理对连接优化的应用分 行 渠 道 集 群银 联 系统长 连 接F 5M B L B单 工 接 收长 连 接国 际 卡组 织本 行 贷 记 卡 请 求 、 国 际 卡 应 答分 行总 行长 连 接 ( 国 际 卡 请 求 、 贷 记 卡 应 答 )卡 受 理 中心 集 群长 连 接 ( 本 代 他 请 求 、 他 代 本 应 答 )长 连 接长 连 接F 5 O n e C o n n e c tA T M 同 步 短 连 接同 步 长 连 接F 5 M B L B 双 工 长 连 接（ 异 步 长 连 接 ： 客 户 端 不 同 步 等 待 服 务 端 应 答 ）异 步 长 连 接分 行 P O S / M I S 网 控 器异 步 长 连 接异 步 长 连 接F 5模 式待 定F 5M B L B单 工 发 送长 连 接长 连 接 ( 他 代 本 请 求 、 本 代 他 应 答 )B o E i n gA B I SV #电 子 现 金 平 台© F5 Networks, Inc 27X行消息处理实现短连接到长连接的优化A T M - 1A T M - 2F 5 O n e C o n n e c t 模 式1 . F 5 与 A T M 之 间 为 T C P 短 连接 方 式 ： A T M 建 立 连 接 ， 发起 请 求 ， 同 步 等 待 F 5 应 答 ，然 后 关 闭 连 接 ；2 . F 5 收 到 A T M 建 立 连 接 请 求时 ， 复 用 服 务 端 空 闲 长 连接 ， 如 无 空 闲 连 接 则 新 建 ；3 . F 5 同 步 等 待 服 务 节 点 的应 答 ， 收 集 应 答 报 文 并 返 回给 A T M ;4 . F 5 收 到 A T M 关 闭 连 接 请 求后 ， 将 当 前 服 务 端 长 连 接 状态 设 为 空 闲 状 态 。

请 求/应 答请 求/应 答同 步 长 连 接 ( F 5 同 步 等 待 应 答 ）设 备 2 的结 果2 . 等 待 设 备 2 的 结 果设 备 2 的请 求1 . 发 送 设 备 2 请 求 A 省 渠 道集 群接 收 到 请求 数 据 的节 点 负 责返 回 该 笔请 求 的 处理 结 果A T M - N请 求/应 答设 备 N 的结 果i + 1 . 等 待 设 备 N 的 结 果设 备 N 的请 求i . 发 送 设 备 N 的 请 求 设 备 2 关 闭 连 接 后 ， 长 连 接 方 可 复 用 F 5M B L B 异 步均 衡 模 式1 . 异 步 处理 模 式 ： F 5发 送 请 求 之后 不 同 步 等待 应 答 ；2 . 逐 笔 消 息负 载 均 衡 总 行 银 行卡 受 理 中心 集 群接 收 到 请求 数 据 的节 点 负 责返 回 该 笔请 求 的 处理 结 果异 步长 连 接异 步长 连 接B 省 渠 道 集 群C 省 渠 道 集 群异步长连接异步长连接© F5 Networks, Inc 28X行消息处理对长连接的优化P O S - 1P O S - 2A 省 P O S 网 控 器1 . 网 控 器 与 F 5 为 异 步T C P 长 连 接 方 式 ， 连 接数 量 固 定 ； 网 控 器 在 同一 连 接 上 连 续 发 送 请求 、 异 步 接 收 应 答 ；2 . 每 个 传 输 消 息 含 2 字节 消 息 头 ， 表 示 消 息 体长 度 ；3 . 发 送 给 F 5 的 请 求 数据 含 T P D U 标 识 信 息（ T r a n s p o r t P r o t o c o l D a t a U n i t ） 以 标 识 P O S接 入 线 路 ；4 . 从 F 5 接 收 的 应 答 数据 取 出 T P D U 信 息 （ 由 应用 系 统 负 责 填 入 ） ， 以判 断 应 答 数 据 回 送 的P O S 接 入 线 路 。

请 求/应 答请 求/应 答异 步 长 连 接 （ 发 送 请 求 不 等 待 应 答 ）设 备 1 的结 果设 备 N 的结 果设 备 2 的结 果接 收。