服务端负载均衡

discoveryClient.getInstances(product-service);//服务可能有多个,

instance

思考如果一个服务对应多个实例呢流量是否可以合理的分配到多个实例

现象观察

com.bite.order.service.OrderService

LUCF:product-service:909011:46:06.43508:00

INFO

com.bite.order.service.OrderService

LUCF:product-service:909011:46:07.08108:00

INFO

com.bite.order.service.OrderService

先启动Eureka后启动所有实例

观察Eureka可以看到product-service下有三个实例

访问http://127.0.0.1:8080/order/1

访问结果

com.bite.order.service.OrderService

LUCF:product-service:909011:46:06.43508:00

INFO

com.bite.order.service.OrderService

LUCF:product-service:909011:46:07.08108:00

INFO

com.bite.order.service.OrderService

这肯定不是我们想要的结果启动多个实例是希望可以分担其他机器的负荷那么如何实现呢?

解决方案

com.example.orderservice.mapper.OrderMapper;

import

com.example.orderservice.model.OrderInfo;

import

com.example.orderservice.model.ProductInfo;

import

org.springframework.beans.factory.annotation.Autowired;

import

org.springframework.cloud.client.ServiceInstance;

import

org.springframework.cloud.client.discovery.DiscoveryClient;

import

org.springframework.stereotype.Service;

import

org.springframework.web.client.RestTemplate;import

java.util.List;

java.util.concurrent.atomic.AtomicInteger;Slf4j

Service

orderMapper.selectOrderById(orderId);

String

http://127.0.0.1:9090/product/orderInfo.getProductId();//从Eureka中获取服务列表ListServiceInstance

instances

discoveryClient.getInstances(product-service);String

uri

instances.get(atomicInteger.getAndIncrement()

instances.size()).getUri().toString();String

url

uri/product/orderInfo.getProductId();log.info(远程调用url:{},

url);ProductInfo

ProductInfo.class);orderInfo.setProductInfo(productInfo);return

orderInfo;}

com.bite.order.service.OrderService

LUCF:product-service:909112:02:15.72308:00

INFO

com.bite.order.service.OrderService

LUCF:product-service:909012:02:16.53408:00

INFO

com.bite.order.service.OrderService

LUCF:product-service:909212:02:16.86408:00

INFO

com.bite.order.service.OrderService

LUCF:product-service:909112:02:17.07808:00

INFO

com.bite.order.service.OrderService

LUCF:product-service:909012:02:17.26008:00

INFO

com.bite.order.service.OrderService

LUCF:product-service:909212:02:17.43108:00

INFO

com.bite.order.service.OrderService

负载均衡(Load

Balance,简称LB),是高并发高可用系统必不可少的关键组件.

当服务流量增大时通常会采用增加机器的方式进行扩容负载均衡就是用来在多个机器或者其他资源中按照一定的规则合理分配负载.

一个团队最开始只有一个人后来随着工作量的增加公司又招聘了几个人.负载均衡就是如何把工作量均衡的分配到这几个人身上以提高整个团队的效率

上面的例子中我们只是简单的对实例进行了轮询但真实的业务场景会更加复杂.比如根据机器的配置进行负载分配配置高的分配的流量高配置低的分配流量低等.

服务多机部署时开发人员都需要考虑负载均衡的实现所以也出现了一些负载均衡器来帮助我们实现负载均衡.

服务端负载均衡

请求先到达Nginx负载均衡器然后通过负载均衡算法在多个服务器之间选择一个进行访问.

客户端负载均衡

把负载均衡的功能以库的方式集成到客户端而不再是由一台指定的负载均衡设备集中提供.

比如SpringCloud的Ribbon,请求发送到客户端客户端从注册中心(比如Eureka)获取服务列表在发送请求前通过负载均衡算法选择一个服务器然后进行访问.

Ribbon是SpringCloud早期的默认实现由于不维护了所以最新版本的Spring

客户端负载均衡和服务端负载均衡最大的区别在于服务清单所存储的位置

2.Spring

1.给RestTemplate这个Bean添加LoadBalanced注解

Configuration

orderMapper.selectOrderById(orderId);//String

url

orderInfo.getProductId();String

url

http://product-service/product/

orderInfo.getProductId();ProductInfo

productInfo

ProductInfo.class);orderInfo.setProductInfo(productInfo);return

orderInfo;}

负载均衡策略是一种思想无论是哪种负载均衡器它们的负载均衡策略都是相似的.

Spring

LoadBalancer仅支持两种负载均衡策略轮询策略和随机策略

轮询(Round

Robin):轮询策略是指服务器轮流处理用户的请求.这是一种实现最简单也最常用的

策略.生活中也有类似的场景比如学校轮流值日或者轮流打扫卫生.随机选择(Random):随机选择策略是指随机选择一个后端服务器来处理新的请求.

自定义负载均衡策略

LoadBalancer默认负载均衡策略是轮询策略实现是RoundRobinLoadBalancer,如果服务的消费者如果想采用随机的负载均衡策略也非常简单.

参考官网Spring

CustomLoadBalancerConfiguration

{BeanReactorLoadBalancerServiceInstance

environment,LoadBalancerClientFactory

{String

environment.getProperty(LoadBalancerClientFactory.PROPERTY_NAME);return

new

RandomLoadBalancer(loadBalancerClientFactory.getLazyProvider(name,

ServiceInstanceListSupplier.class),name);}}

注意该类需要满足

2.使用LoadBalancerClient或者LoadBalancerClients注解

在RestTemplate配置类上方使用LoadBalancerClient或LoadBalancerClients注解可以对不同的服务提供方配置不同的客户端负载均衡算法策略.

由于咱们项目中只有一个服务提供者所以使用LoadBalancerClient

CustomLoadBalancerConfiguration.class)

Configuration

name:该负载均衡策略对哪个服务生效(服务提供方)configuration:该负载均衡策略用哪个负载均衡策略实现.

3.服务部署Linux

eureka-server,order-service,product-service

1.打包方式和SpringBoot项目一致依次对三个项目打包即可.

3.2启动服务