当前位置:主页 > 帮助中心 > 技术文档 > 2018-12-28

TCP接入层的负载均衡、高可用、扩展性架构设计

一、web-server的负载均衡
互联网架构中,web-server接入一般使用nginx来做反向代理,实施负载均衡。整个架构分三层:

  • 上游调用层,一般是browser或者APP
  • 中间反向代理层,nginx
  • 下游真实接入集群,web-server,常见web-server的有tomcat,apache

整个访问过程为:

  • browser向daojia.com发起请求
  • DNS服务器将daojia.com解析为外网IP(1.2.3.4)
  • browser通过外网IP(1.2.3.4)访问nginx
  • nginx实施负载均衡策略,常见策略有轮询,随机,IP-hash等
  • nginx将请求转发给内网IP(192.168.0.1)的web-server

 

由于http短连接,以及web应用无状态的特性,理论上任何一个http请求落在任意一台web-server都应该得到正常处理(如果必须落在一台,说明架构不合理,不能水平扩展)。

 

问题来了,tcp是有状态的连接,客户端和服务端一旦建立连接,一个client发起的请求必须落在同一台tcp-server上,此时如何做负载均衡,如何保证水平扩展呢?

二、单机法tcp-server

单个tcp-server显然是可以保证请求一致性:

  • client向tcp.daojia.com发起tcp请求
  • DNS服务器将tcp.daojia.com解析为外网IP(1.2.3.4)
  • client通过外网IP(1.2.3.4)向tcp-server发起请求

方案的缺点?

无法保证高可用。

三、集群法tcp-server

通过搭建tcp-server集群来保证高可用,客户端来实现负载均衡

  • client内配置有tcp1/tcp2/tcp3.daojia.com三个tcp-server的外网IP
  • 客户端通过“随机”的方式选择tcp-server,假设选择到的是tcp1.daojia.com
  • 通过DNS解析tcp1.daojia.com
  • 通过外网IP连接真实的tcp-server

 

如何保证高可用呢?

如果client发现某个tcp-server连接不上,则选择另一个。

 

潜在的缺点?

每次连接前,需要多实施一次DNS访问:

  • 难以预防DNS劫持
  • 多一次DNS访问意味着更长的连接时间,这个不足在手机端更为明显

 

如何解决DNS的问题?

直接将IP配置在客户端,可以解决上述两个问题,很多公司也就是这么做的(俗称“IP直通车”)。

 

“IP直通车”有什么新问题?

将IP写死在客户端,在客户端实施负载均衡,扩展性很差:

  • 如果原有IP发生变化,客户端得不到实时通知
  • 如果新增IP,即tcp-sever扩容,客户端也得不到实时通知
  • 如果负载均衡策略变化,需要升级客户端

四、服务端实施负载均衡

增加一个http接口,将客户端的“IP配置”与“均衡策略”放到服务端是一个不错的方案:

  • client每次访问tcp-server前,先调用一个新增的get-tcp-ip接口,对于client而言,这个http接口只返回一个tcp-server的IP
  • 这个http接口,实现的是原client的IP均衡策略
  • 拿到tcp-server的IP后,和原来一样向tcp-server发起TCP长连接

 

这样的话,扩展性问题就解决了:

  • 如果原有IP发生变化,只需要修改get-tcp-ip接口的配置
  • 如果新增IP,也是修改get-tcp-ip接口的配置
  • 如果负载均衡策略变化,需要升级客户端

 

维恩网络是一家专业致力于互联网新型技术研发的公司,主要业务为美国高防服务器美国独立服务器这方面,如有需要可加QQ联系我们的在线客服。


服务热线

400-678-1356

关注维恩网络