7.凤凰架构：构建可靠的大型分布式系统从类库到服务

第7章　从类库到服务在一套由多个微服务互相调用才能正常运作的分布式系统中&＃xff0c;每个节点都互相扮演者服务的生产者与消费者的多重角色&＃xff0c;形成了一套复杂的网状调用关系。此时&＃xff0c;
至少有(但不限于)以下三个问题是必须考虑并得到妥善解决的&＃xff1a;1.对消费者来说&＃xff0c;外部的服务由谁提供&＃xff1f;具体在什么网络位置&＃xff1f;2.对生产者来说&＃xff0c;内部哪些服务需要暴露&＃xff1f;哪些需要隐藏&＃xff1f;应当以何种形式暴露服务&＃xff1f;以什么规则在集群中分配请求&＃xff1f;3.对调用过程来说&＃xff0c;如何保证每个远程服务都接收到相对平均的流量&＃xff0c;获得尽可能高的服务质量与可靠性&＃xff1f;这三个问题的解决方案&＃xff0c;在微服务架构中通常被称为"服务发现" "服务的网关路由" 和 "服务的负载均衡"。7.1　服务发现类库封装被大规模使用&＃xff0c;令计算机可以通过位于不同模块的方法调用来组装复用指令序列。无论是编译器链接的C、C&＃43;&＃43;&＃xff0c;还是运行期链接的Java语言&＃xff0c;都要通过
链接器(Linker)将代码里的符号引用转换为模块入口或者进程内地址的直接引用。而服务化的普及&＃xff0c;令软件系统可以通过分布式网络中不同机器的互相协作来复用功能。
此时&＃xff0c;如何确定目标方法的确切位置&＃xff0c;便是与编译链接有着同等意义的研究课题&＃xff0c;解决该问题的过程被称作"服务发现"。7.1.1　服务发现的意义所有的远程服务调用都是使用 全限定名、端口号和服务标识 所构成的三元组来确定一个远程服务的精确坐标的。全限定名 代表了网络中某台主机的精确位置&＃xff0c;端口号代表了某个主机上某一个提供tcp/udp 网络服务的程序&＃xff0c;服务标识则代表了该程序所提供的某个具体的方法入口。其中&＃xff0c;"全限定名、端口号"的含义对所有的远程服务来说都是一致的&＃xff0c;而"服务标识"则与具体的应用层协议有关&＃xff0c;不同协议有不同形式的标识。譬如rest的远程服务&＃xff0c;标识是url地址&＃xff1b;RMI的远程服务&＃xff0c;标识是Stub类中的方法&＃xff1b;SOAP的远程服务&＃xff0c;标识是WSDL中定义的方法&＃xff0c;等等。远程服务标识的多样性&＃xff0c;决定了"服务发现"也可以有两种不同的解释&＃xff0c;一种是以UDDI为代表的"百科全书式"的服务发现&＃xff0c;上至提供服务的企业信息&＃xff0c;下至服务的程序接口细节(方法名称、参数、返回值、技术规范等)都在服务发现的管辖范围内&＃xff1b;另外一种是类似于dns这样"门牌号式"的服务发现&＃xff0c;只满足从某个代表提供者的全限定名到服务实际主机ip地址的翻译转换&＃xff0c;并不关心服务具体是哪个厂商提供的&＃xff0c;也不关心服务有几个方法&＃xff0c;各自由什么参数构成&＃xff0c;它默认这些细节信息是服务消费者本身已经完全了解的&＃xff0c;此时服务坐标就可以简化为"全限定名&＃43;端口号"。后一种服务发现已经占据主流地位。原本服务发现只依赖于dns将一个全限定名翻译为一至多个ip地址或者SRV等其他类型的记录即可&＃xff0c;位于dns之后的负载均衡器也实质上承担了一部分服务发现的功能&＃xff0c;完成了外部ip到各个服务内部实际ip的转换。这种做法在软件追求不间断长时间运行的时代是很合适的。但随着微服务的流行&＃xff0c;服务的非正常宕机、重启和正常的上下线变得越来越频繁&＃xff0c;仅靠dns服务器和负载均衡器等基础设施逐渐疲于应付了&＃xff0c;无法跟上服务变动的步伐。7.1.2　可用与可靠服务发现 具体是指进行过什么操作&＃xff1f;这其中包含三个必须的过程&＃xff1a;1.服务的注册当服务启动的时候&＃xff0c;它应该通过某种形式(如调用api、产生事件消息、在zookeeper/etcd 的指定位置记录、存入数据库&＃xff0c;等等)将自己的坐标信息通知到服务注册中心&＃xff0c;这个过程可能由应用程序本身完成&＃xff0c;称为自注册模式&＃xff1b;也可能由容器编排框架或者第三方注册工具来完成&＃xff0c;称为第三方注册模式。2.服务的维护尽管服务发现框架通常都有提供下线机制&＃xff0c;但并没有什么办法来保证每次服务都能优雅的下线而不是由于宕机、断网等原因突然失联。所以服务发现框架必须自己保证所维护的服务列表的正确性&＃xff0c;以避免告知消费者服务的坐标后&＃xff0c;得到的服务却不能使用的尴尬情况。现在的服务框架&＃xff0c;往往都能支持多种协议(http、tcp等)、多种方式(长连接、心跳、探针、进程状态等)去监控服务是否健康存活&＃xff0c;将不健康的服务自动从服务注册表中剔除&＃xff1b;3.服务的发现这里的发现是指狭义上消费者从服务发现框架中&＃xff0c;把一个符号(譬如Eureka中的ServiceID、Nacos中的服务名&＃xff0c;或者通用的FQDN)转换为服务实际坐标的过程&＃xff0c;这个过程现在一般是通过 http api 请求或者 dns lookup 操作来完成的&＃xff0c;也有一些相对少用的方式&＃xff0c;譬如k8s也支持注入环境变量来做服务发现。上述3点列举了服务发现必须提供的功能&＃xff0c;此外还会有一些可选的扩展功能&＃xff0c;譬如服务发现时进行的负载均衡、流量管控、键值存储、元数据管理、业务分组、等。服务发现既要高可用&＃xff0c;也要高可靠。以Eureka和Consule为例&＃xff1a;a) EurekaEureka 的选择是优先保证高可用性&＃xff0c;相对牺牲系统中服务状态的一致性。eureka的各个节点间采用异步复制来交换服务注册信息&＃xff0c;当有新服务注册进来时&＃xff0c;并不需要等待信息在其他节点复制完成&＃xff0c;而是马上在该服务发现节点宣告服务可见&＃xff0c;只是不保证在其他节点多长时间后才会可见。同时&＃xff0c;当有旧的服务发现变动&＃xff0c;譬如下线或者断网&＃xff0c;只会由超时机制来控制何时从哪一个服务注册表中移除&＃xff0c;变动的信息不会实时同步给所有服务端与客户端。这样的设计使得不论是eureka的服务端还是客户端&＃xff0c;都能维持自己的服务注册表缓存&＃xff0c;并以ttl机制来进行更新&＃xff0c;哪怕服务注册中心完全崩溃&＃xff0c;客户端仍然可以维持最低限度的可用。eureka的服务发现模型适用于节点关系相对固定、服务一般不会频繁上下线的系统&＃xff0c;以较小的同步代价换取了最高的可用性&＃xff1b;eureka能够选择这种模型的底气在于万一客户端拿到了已经发现变动的错误的地址&＃xff0c;也能够通过Ribbon和Hystrix模块配合兜底&＃xff0c;实现故障转移(Failover)和快速失败(Failfast)。b) ConsulConsul 的选择是优先保证高可靠性&＃xff0c;相对牺牲系统服务发现的可用性。consul 采用Raft算法&＃xff0c;要求多数节点写入成功后服务的注册或者变动才算完成&＃xff0c;严格的保证了在集群外部读取到的服务发现结果的一致性&＃xff1b;同时采用Gossip 协议&＃xff0c;支持多数据中心之间更大规模的服务同步。consul 优先保障高可靠性在一定程度上是基于产品实现情况而做的技术决策&＃xff0c;它不像Netflix OSS那样有着全家桶式的微服务组件&＃xff0c;万一从服务发现中取到错误地址&＃xff0c;就没有其他组件为它兜底了。7.1.3　注册中心实现可用性与一致性的矛盾&＃xff0c;是分布式系统永恒的话题。在服务发现这个场景里&＃xff0c;权衡的主要关注点是相对更能容忍服务列表不可用的后果&＃xff0c;还是服务数据不一致的后果&＃xff0c;其次才是性能高低&＃xff0c;功能是否强大&＃xff0c;使用是否方便等。当下&＃xff0c;直接以服务发现、服务注册中心为目标的组件库&＃xff0c;或者间接来实现这个目标的工具主要分为三类&＃xff1a;1.在分布式k/v存储框架上自己开发的服务发现&＃xff0c;典型的代表是 Zookeeper、Doozerd、etcd。这些k/v框架提供了分布式环境下读写操作的共识算法&＃xff0c;etcd采用的是我们学习过的Raft算法&＃xff0c;zookeeper采用的是ZAB算法。所以采用这种方案&＃xff0c;就不必纠结CP还是AP的问题了&＃xff0c;它们都是CP的(也有用redis来做服务发现的&＃xff0c;这种自然是AP的)。这类框架的宣传语中往往会主动提及"高可用性"&＃xff0c;潜台词是"在保证一致性和分区容忍性的前提下&＃xff0c;尽最大努力实现最高的可用性"&＃xff0c;譬如etcd的宣传语就是"高可用的集中配置和服务发现"。这些k/v框架的一个共同特点是在整个较高复杂度的架构和算法的外部&＃xff0c;维持着即为简单的应用接口&＃xff0c;只有基本的curd和Watch等少量api&＃xff0c;所以要在上面完成功能齐全的服务发现&＃xff0c;很多基础的能力&＃xff0c;譬如服务发现的路由、如何做健康检查等都必须自己去实现。2.以基础设施(主要是指dns服务器)来实现服务发现&＃xff0c;典型的代表是SkyDNS、CoreDNS。在k8s 1.3之前的版本用 SkyDNS作为默认的dns服务&＃xff0c;其工作原理是从 API Server中监听集群服务的变化&＃xff0c;然后根据服务生成NS、SRV等dns记录存放到etcd中&＃xff0c;kubelet会设置每个Pod的dns服务的地址为SkyDNS的地址&＃xff0c;需要调用服务时&＃xff0c;只需查询dns把域名转换为ip列表便可实现分布式的服务发现。在k8s 1.3之后&＃xff0c;SkyDNS不再是默认的dns服务器&＃xff0c;而是由只将dns记录存储在内存中的KubeDNS代替&＃xff0c;到了1.11版&＃xff0c;就更推荐采用扩展性更强的CoreDNS&＃xff0c;此时可以通过各种插件来决定是否采用etcd存储、重定向、定制dns记录、记录日志等等。采用这种方案&＃xff0c;是cp还是ap 就取决于后端采用何种存储&＃xff0c;如果是基于etcd的实现&＃xff0c;就自然是CP的&＃xff0c;如果是基于内存异步复制的方式实现的&＃xff0c;那就是AP的。以基础设施来做服务发现&＃xff0c;好处是对应用是透明的&＃xff0c;任何语言、框架、工具肯定都支持http、dns&＃xff0c;所以完全不受程序技术选型的约束&＃xff0c;但坏处是透明的不一定是简单的&＃xff0c;你必须自己考虑如何去客户端做负载均衡、如何调用远程方法等这些问题&＃xff0c;而且必须遵循或者说受限于这些基础设施本身所采用的实现机制&＃xff0c;譬如服务健康检查里&＃xff0c;服务的缓存期就应该由ttl决定&＃xff0c;这是dns协议所规定的&＃xff0c;如果想改用keepalive长连接来实现实时判断服务是否存活就相对麻烦了。3.专门用于服务发现的框架和工具&＃xff0c;典型的代表是Eureka、Consul和Nacos。在这类框架中&＃xff0c;你可以自己决定是CP还是AP&＃xff0c;譬如CP的Consule、AP的Eureka&＃xff0c;还有同时支持CP和AP的Nacos。将它们归为一类是因为它们对应于不是透明的&＃xff0c;尽管consul的主体逻辑是在服务进程之外&＃xff0c;以边车的形式提供&＃xff1b;尽管consul、Macos也支持基于dns的服务发现&＃xff1b;尽管这些框架基本都做到了以声明代替编码&＃xff0c;譬如在Spring Cloud 中只改动pom.xml、配置文件和注解即可实现&＃xff0c;但它们依然是可以被应用程序感知的。所以或多或少还需要考虑程序语言、技术框架的基础问题。但这个特点其实并不完全是坏处&＃xff0c;譬如采用Eureka做服务注册&＃xff0c;那在远程调用服务时就可以用 OpenFeign做客户端&＃xff0c;&＃xff0c;因为它们本身就已经做好了集成&＃xff0c;写个声明式接口就能运行&＃xff1b;在做负载均衡时可以采用Ribbon做客户端&＃xff0c;需要换均衡算法时改给配置就行了。这些"不透明"实际上都为编码开发带来了一定便捷&＃xff0c;但前提是你选用的语言和框架必须都支持。7.2　网关路由7.2.1　网关的职责在微服务架构下&＃xff0c;每个服务节点都可能由不同的团队负责&＃xff0c;都有着自己独立的、互不相同的接口&＃xff0c;如果服务集群缺少一个统一对外交互的代理人角色&＃xff0c;那外部的服务消费者就必须知道所有微服务节点在集群中的精确坐标&＃xff0c;这样消费者会受到服务集群的网络限制(不能确保集群中的每个节点都有外网连接)、安全限制(不仅是服务节点的安全&＃xff0c;外部自身也会受到如浏览器同源策略的约束)、依赖限制(服务坐标这类信息不属于对外接口承若的内容&＃xff0c;随时可能变动&＃xff0c;不应该依赖它)。微服务网关的首要职责就是作为统一的出口对外提供服务&＃xff0c;将外部访问网关地址的流量&＃xff0c;根据适当的规则路由到内部集群中正确的服务节点之上&＃xff0c;因此&＃xff0c;微服务中的网关&＃xff0c;也常常被称作"服务网格"或者"API网关"&＃xff0c;微服务中的网关首先应该是个路由器&＃xff0c;在满足此条件的基础上&＃xff0c;还可以根据需要作为流量过滤器使用&＃xff0c;以提供某些额外的可选功能&＃xff0c;譬如安全、认证、授权、限流、监控、缓存&＃xff0c;等等。网关 &＃61; 路由器(基础职能) &＃43; 过滤器(可选职能)针对路由器这个职能&＃xff0c;服务网格的只要考量是能够支持路由的"网络协议层次"和"性能与可用性"。仅从技术实现上来看&＃xff0c;对于路由这项工作&＃xff0c;负载均衡器与服务网关在实现上是没有什么差别的&＃xff1b;但从墓地角度来看&＃xff0c;负载均衡器和服务网关会有一些区别&＃xff0c;前者是根据负载均衡算法对流量进行平均的路由&＃xff0c;后者是为了根据流量中的某些特征进行正确的路由。网关必须能够识别流量中的特征&＃xff0c;这意味着网关能够支持的网络通信协议的层次将直接限制后端服务节点能够选择的服务通信方式。网关的另外一个主要关注点是它的性能与可用性。由于网关是所有服务对外的总出口&＃xff0c;是流量的必经之地&＃xff0c;所以网关的路由性能能将导致全局的、系统的影响。网关的性能与它的工作模式和自身实现的算法都有关系。在代理模式下&＃xff0c;网关的性能主要取决于它们如何代理网络请求&＃xff0c;也即它们的网络IO模型。7.2.2　网络I/O模型在套接字接口抽象下&＃xff0c;网络IO的出入口就是socket的读和写&＃xff0c;socket在操作系统接口中被抽象为数据流&＃xff0c;而网络IO可以理解为对流的操作。每一次网络访问&＃xff0c;从远程主机返回的数据会先放到操作系统内核的缓冲区中&＃xff0c;然后从内核的缓冲区复制到应用程序的地址空间&＃xff0c;所以当发生一次网络请求时&＃xff0c;将会经历按顺序的"等待数据从远程主机到达缓冲区"和"将数据从缓冲区复制到应用程序的地址空间" 2个阶段&＃xff0c;根据实现这2个阶段的不同方法&＃xff0c;人们把网络IO模型总结为2类、5种模型&＃xff1a;a) 2类是指同步IO和异步IOb) 5种模型是指在同步IO模型中又划分出&＃xff0c;阻塞IO、非阻塞IO、多路复用IO、信号驱动IO 4种细分模型 以及 异步IO模型。同步IO是指调用端发出请求后&＃xff0c;得到结果之前必须一直等待&＃xff0c;与之对应的就是异步&＃xff0c;发出调用请求之后将立即返回&＃xff0c;不会马上得到处理结果&＃xff0c;结果将通过状态变化和回调来通知调用者。阻塞和非阻塞是针对请求处理过程而言的&＃xff0c;指在收到调用请求后&＃xff0c;返回结果之前&＃xff0c;当前处理线程是否会被挂起。异步IO&＃xff1a;异步IO中数据到达缓冲区后&＃xff0c;不需要由调用进程主动进行缓冲区复制数据的操作&＃xff0c;而是复制完成后由操作系统向线程发送信号&＃xff0c;所以它一定是非阻塞的。同步IO&＃xff1a;1.阻塞IO阻塞IO是最直观的IO模型&＃xff0c;逻辑清晰&＃xff0c;也比较节省cpu资源&＃xff0c;但是缺点是线程休眠所带来的上下文切换&＃xff0c;这是一种需要切换到内核态的重负荷操作&＃xff0c;不应该频繁进行。2.非阻塞IO非阻塞IO能避免线程休眠&＃xff0c;对于一些很快能返回结果的请求&＃xff0c;非阻塞IO可以节省切换上下文的消耗&＃xff0c;但是对于一些长时间才能返回的请求&＃xff0c;非阻塞IO反而白白浪费了cpu资源&＃xff0c;所以目前不太常用。3.多路复用IO多路复用IO本质上是阻塞IO的一种&＃xff0c;但是它的好处是可以在同一阻塞线程上处理多个不同的端口监听。多路复用IO是目前高并发网络应用的主流&＃xff0c;它还可以细分为select,poll,epoll等不同实现。4.信号驱动IO信号驱动IO与异步IO的区别是&＃xff0c;"从缓冲区获取数据"的这个步骤的处理&＃xff0c;前者是收到通知是可以开始进行复制操作了&＃xff0c;即要你自己从食堂拿会宿舍&＃xff0c;在复制完成之前线程处于阻塞状态&＃xff0c;所以它仍然处于同步IO操作&＃xff0c;而后者收到的通知是复制操作已经完成&＃xff0c;即外卖小哥已经把饭送到了。七层服务网格处理一次请求代理时&＃xff0c;包含两组网络操作&＃xff0c;分别是作为服务端对外部请求的响应和作为客户端对内部服务的请求&＃xff0c;理论上这两组网络操作都可以采用不同的模型去完成&＃xff0c;但一般没有必要这么做。以Zuul网关为例&＃xff0c;它采用的是阻塞IO模型来进行最经典的"一条线程对应一个连接"的方式来代理流量。采用阻塞IO模型意味着它会有线程休眠&＃xff0c;会有上下文切换的成本&＃xff0c;所以如果后端服务普遍属于计算密集型时&＃xff0c;这种模型能够相对节省网关的cpu资源&＃xff0c;但如果后端服务普遍都是IO密集型&＃xff0c;它就会频繁的上下文切换导致性能降低。网关还有一个必须关注的是它的可用性。我们应该考虑以下几点&＃xff1a;1.网关应该尽可能的轻&＃xff1b;2.网关选型时&＃xff0c;应该尽可能选择比较成熟的产品实现&＃xff1b;3.在需要高可用的生产环境中&＃xff0c;应该考虑在网关之前部署负载均衡器或者等价路由器&＃xff0c;让那些成熟健壮的设施去充当整个系统的入口地址&＃xff0c;这样网关也能扩展7.2.3　BFF网关BFF(Backend for Frontend):网关不必为所有的前端提供无差别的服务&＃xff0c;而是应该针对不同的前端&＃xff0c;聚合不同的服务&＃xff0c;提供不同的接口和网络访问协议支持。在网关这种边缘节点上&＃xff0c;针对同样的后端集群&＃xff0c;裁剪、适配、聚合出适应不一样的前端的服务&＃xff0c;也有助于后端的稳定&＃xff0c;也有助于前端的赋能。7.3　客户端负载均衡案例场景&＃xff1a;假设你身处广东&＃xff0c;要上 Fenix&＃39;s Bookstore 购买一本书&＃xff0c;在程序业务逻辑里&＃xff0c;购书的其中一个关键步骤是调用商品出库服务来完成货物准备&＃xff0c;在代码中该服务的调用请求未&＃xff1a;PATCH https://warehouse:8080/restful/stockpile/3{amount:-1}又假设 Fenix&＃39;s Bookstore 是个大书店&＃xff0c;在全国都有部署服务集群&＃xff0c;你的购物请求从流量发出后&＃xff0c;服务端按顺序经历如下&＃xff1a;1.首先是将 warehouse 这个服务名称转换为恰当的服务地址&＃xff0c;如请求来自广东&＃xff0c;就近分配给了物理传输距离较短的广州机房。用户访问首页的时候已经被dns服务器分配到了广州机房&＃xff0c;请求出库服务时&＃xff0c;应优先选择同机房的服务进行调用&＃xff0c;此时请求变为如下&＃xff1a;PATCH https://guangzhou-ip-wan:8080/restful/stockpile/32.广州机房的服务网格将该请求与配置中的特征进行对比&＃xff0c;由url中的 /restful/stockpile/** 得知该请求访问的是商品出库服务&＃xff0c;因此&＃xff0c;将该请求ip地址转换为内网中 warehouse 服务集群的入口地址&＃xff1a;PATCH https://warehouse-gz-lan:8080/restful/stockpile/33.集群中部署了多个 warehouse 服务&＃xff0c;收到请求后&＃xff0c;负载均衡器要在多个服务中根据某个标准(均衡策略)&＃xff0c;找出要响应本次调用请求的服务&＃xff0c;称为warehouse-gz-lan-node1。PATCH https://warehouse-gz-lan-node1:8080/restful/stockpile/34.如果访问 warehouse-gz-lan-node1 服务&＃xff0c;没有返回需要的结果&＃xff0c;而是抛出500错误HTTP/1.1 500 Internal Server Error5.根据预设置的故障转移策略&＃xff0c;重新将调用分配给能提供服务的其他节点&＃xff0c;称其为 warehouse-gz-lan-node2PATCH https://warehouse-gz-lan-node2:8080/restful/stockpile/36.warehouse-gz-lan-node2 服务返回商品出库成功从以上整体看&＃xff0c;步骤1&＃xff0c;2&＃xff0c;3&＃xff0c;5 分别对应了服务发现&＃xff0c;网关路由&＃xff0c;负载均衡和服务容错&＃xff0c;从细节上看&＃xff0c;其中部分职责是有交叉的。7.3.1　客户端负载均衡器对于任何一个大型系统&＃xff0c;负载均衡器都是必不可少的设施。以前&＃xff0c;负载均衡器大多只部署在整个服务集群的前端&＃xff0c;负责将用户的请求分散到各个服务进行处理&＃xff0c;这种典型的部署形式现在被称为集中式的负载均衡。随着微服务的流行&＃xff0c;服务集群收到的请求来源不再限于外部&＃xff0c;而是越来越多的来源于集群内部的某个服务&＃xff0c;并由集群内部的另外一个服务进行响应&＃xff0c;对于这类流量的负载均衡&＃xff0c;既有的方案依然是可行的&＃xff0c;但针对内部流量的特点&＃xff0c;直接在服务集群内部消化掉&＃xff0c;肯定是更合理的。由此一种全新的、独立于每个服务前端、分散式的负载均衡方式逐渐流行起来&＃xff0c;即 客户端负载均衡器。客户端负载均衡器的理念提出后&＃xff0c;此前的集中式负载均衡器也有了一个与之对应的名字 --- "服务端负载均衡器"。差别是&＃xff1a;客户端负载均衡器和服务实例是一一对应的&＃xff0c;而且与服务实例并存于同一个进程内。这个特点能为它带来很多好处&＃xff1a;1.负载均衡器与服务之间的信息交换是进程内的方法调用&＃xff0c;不存在任何网络的开销&＃xff1b;2.不依赖集群边缘的设施&＃xff0c;所有内部流量都仅在服务集群的内部循环&＃xff0c;避免了前文那样&＃xff0c;集群内部流量要"绕场一周"的尴尬局面&＃xff1b;3.分散式的负载均衡器意味着天然避免了集中式的单点问题&＃xff0c;它的带宽资源将不会像集中式负载均衡器那样敏感&＃xff0c;这样以七层负载均衡器为主流、不能通过ip隧道和三角传输这样的方式节省带宽的微服务环境中显得更具优势&＃xff1b;4.客户端负载均衡器更加灵活&＃xff0c;能够针对每一个服务实例单独设置均衡策略等参数&＃xff0c;例如访问哪个服务&＃xff0c;是否需要具备亲和性&＃xff0c;选择服务的策略是随机、轮询、加权还是最小连接&＃xff0c;等等&＃xff0c;都可以单独设置而不影响其他服务。缺点&＃xff1a;1.它与服务运行在同一进程内&＃xff0c;意味着它的选型受到服务所使用的编程语言的限制&＃xff0c;譬如用go开发的微服务就不太可能搭配Spring Cloud 的负载均衡器来使用&＃xff0c;而为每种语言都实现对应的能够支持复杂的网络情况的负载均衡器是非常难的。客户端负载均衡器的这个缺陷有违于微服务中技术异构不应受到限制的原则&＃xff1b;2.从个体服务来看&＃xff0c;由于是共用一个进程&＃xff0c;负载均衡器的稳定性会直接影响整个服务进程的稳定性&＃xff0c;消耗的cpu、内存等资源也同样影响到服务的可用资源&＃xff0c;从集群整体来看&＃xff0c;在服务数量达到上千上万规模时&＃xff0c;客户端负载均衡器消耗的资源总量是相当多的&＃xff1b;3.由于请求的来源可能是集群中任意一个服务节点&＃xff0c;而不再是统一来自集中式负载均衡器&＃xff0c;使得内部网络安全和信任关系变得复杂&＃xff0c;当攻破任何一个服务时&＃xff0c;更容易通过该服务突破集群中的其他部分&＃xff1b;4.服务集群的拓扑关系是动态的&＃xff0c;每一个客户端均衡器必须持续跟踪其他服务的健康情况&＃xff0c;以实现上线新服务&＃xff0c;下线旧服务&＃xff0c;自动剔除失败的服务&＃xff0c;自动重连服务等负载均衡器必须的功能。由于这些操作都需要通过访问服务注册中心来完成&＃xff0c;数量庞大的客户端负载均衡器一直持续轮询服务注册中心&＃xff0c;也会带来不少的压力。7.3.2　代理负载均衡器在Java领域&＃xff0c;客户端负载均衡器中最具代表性的产品是Netflix Ribbon 和 Spring Cloud LoadBalancer。直到最近两三年&＃xff0c;服务网格(Service Mesh)开始逐渐盛行&＃xff0c;另外一种被称为"代理客户端负载均衡器"的客户端负载均衡器变体形式开始流行&＃xff0c;它弥补了此前客户端负载均衡器的大多数缺陷。代理负载均衡器对此前的客户端负载均衡器的改进是将原本嵌入在服务进程中的负载均衡器提取出来&＃xff0c;作为一个进程之外&＃xff0c;同一个Pod之内的特殊服务&＃xff0c;放到边车代理之中。虽然代理均衡器与服务实例不再是进程内通信&＃xff0c;而是通过网络协议栈进行数据交换&＃xff0c;数据要经过操作系统的协议栈&＃xff0c;要进行拆包打包、计算校验和、维护序列号等网络数据的收发步骤&＃xff0c;比之前的客户端负载均衡器确实多增加了一系列步骤。不过&＃xff0c;k8s 严格保证了同一个pod中的容器不会跨越不同的节点&＃xff0c;这些容器共享同一个网络名称空间&＃xff0c;因此代理均衡器与服务实例的交互&＃xff0c;实质上是对本机回环设备的访问&＃xff0c;仍然要比真正的网络交互高效且稳定很多。代理负载均衡器付出的代价较小&＃xff0c;但从服务进程中分离出来的收益却是非常显著的&＃xff1a;1.代理均衡器不再受编程语言的限制。开发一个支持python,go,java等所有微服务应用服务的通用代理均衡器具有很高的性价比。集中不同编程语言的使用者的力量&＃xff0c;更容易打造出面对复杂网络情况的、高效健壮的负载均衡器。即使退一步说&＃xff0c;独立于服务进程的均衡器也不会自身的稳定性影响到服务进程的稳定性。2.在服务拓扑感知方面&＃xff0c;代理均衡器也更具有优势。由于边车代理接受控制平面的统一管理&＃xff0c;当服务节点拓扑发生变化的时候&＃xff0c;控制平面就会主动向边车代理发送更新服务清单的控制指令&＃xff0c;这避免了此前客户端负载均衡器必须长期主动轮询服务注册中心所造成的浪费。3.在安全性、可观测上&＃xff0c;由于边车代理都是一致的实现&＃xff0c;有利于在服务间建立双向mTLS通信&＃xff0c;也有利于对整个调用链路给出更详细的统计。总体而言&＃xff0c;边车代理这种通过同一个Pod的独立容器来实现的负载均衡器是目前处理微服务集群内部流量的最理想方式。7.3.3　地域与区域1.Region 是 地域 的概念&＃xff0c;譬如华北、东北、华东、华南 这些都是地域的范围。面向全国或者全球的大型系统的服务集群往往会部署在多个不同的地域&＃xff0c;譬如开头的场景&＃xff0c;大型系统就是通过不同地域的机房来缩短用户与服务器之间的物理距离&＃xff0c;以提升响应速度。对于小型系统&＃xff0c;地域一般就只在异地容灾时才会涉及。需要注意的是&＃xff0c;不同地域之间是没有内网连接的&＃xff0c;所有流量都只能通过公众互联网相连&＃xff0c;如果微服务的流量跨越了地域&＃xff0c;实际就跟调用外部服务提供的互联网服务没有任何差别了。所以集群内部流量是不会跨越地域的&＃xff0c;服务发现、负载均衡器默认也是不会支持跨越地域发服务发现和负载均衡的&＃xff1b;2.Zone 是 区域 的概念&＃xff0c;它是可用区域(Availability Zone)的简称。区域是指在地理上位于同一地域内&＃xff0c;但电力和网络是互相独立的物理区域&＃xff0c;譬如在华东的上海、杭州、苏州的不同机房就是同一个地域的几个可用区域。同一个地域的可用区域之间具有内网相连&＃xff0c;流量不占用公网带宽&＃xff0c;因此区域是微服务集群内流量能够触及的最大范围。但你的应用只是部署在同一区域内&＃xff0c;还是部署到不同可用区中&＃xff0c;要取决于你是否做异地双活的需求&＃xff0c;以及对网络延时的容忍程度。a) 如果你追求高可用&＃xff0c;譬如希望在某个地区发生电力或者骨干网中断时仍然可用&＃xff0c;那可以考虑将系统部署在多个区域中。注意异地容灾和异地双活的区别&＃xff0c;容灾是非实时同步的&＃xff0c;而双活是实时或者准实时的&＃xff0c;跨地域或者跨区域做容灾都是可以的&＃xff0c;但一般只能跨区域做双活&＃xff0c;当然&＃xff0c;也可以将它们结合起来使用&＃xff0c;即"两地三中心"模式&＃xff1b;b) 如果你追求低延迟&＃xff0c;譬如对时间有高要求的SLA应用&＃xff0c;或者网络游戏服务器等&＃xff0c;那就应该考虑将系统的所有服务部署在同一个区域中&＃xff0c;因为尽管内网连接不受限于公网带宽&＃xff0c;但毕竟机房之间的专线容量也是有限的&＃xff0c;难以跟机房内部的交换机相比&＃xff0c;延时也受物理距离、网络节点跳数等因素的影响。3.可用区域对应城市级别的区域的范围&＃xff0c;但在一些场景中仍是过大了&＃xff0c;即使是同一个区域中的机房&＃xff0c;也可能存在具有差异的不同子网络&＃xff0c;所以在部分微服务框架也提供了Group、Sub-zone 等参数作进一步的细分控制&＃xff0c;这些参数的意思通常是加权或者优先访问同一个子区域的服务&＃xff0c;但如果子区域中没有合适的&＃xff0c;则仍然会访问到可用区域中的其他服务。4.地域和区域原本是云计算中的概念。