SpringCloud
SpringCloud
微服务
单体架构:简单方便,高度耦合,扩展性差,适合小型项目。例如:学生管理系统
分布式架构:松耦合,扩展性好,但架构复杂,难度大。适合大型互联网项目,例如:京东、淘宝
微服务:一种良好的分布式架构方案
①优点:拆分粒度更小、服务更独立、耦合度更低
②缺点:架构非常复杂,运维、监控、部署难度提高
SpringCloud是微服务架构的一站式解决方案,集成了各种优秀微服务功能组件
微服务拆分原则
- 不同微服务,不要重复开发相同业务
- 微服务数据独立,不要访问其它微服务的数据库
- 微服务可以将自己的业务暴露为接口,通过Restful接口供其它微服务调用
远程调用
问题:微服务数据独立,怎么获取另一个数据库数据?(订单信息中包含用户信息)
解决:
注册RestTemplate
RestTemplate 是一个类,对象可调用其他服务
再调用者的启动类添加一个Bean
@Bean public RestTemplate restTemplate(){ return new RestTemplate(); }
业务层远程调用
注入对象
远程查询
- url
- 发起调用
set注入
@Service public class OrderService { @Autowired private OrderMapper orderMapper; @Autowired private RestTemplate restTemplate; public Order queryOrderById(Long orderId) { // 1.查询订单 Order order = orderMapper.findById(orderId); // 2.远程调用 String url = "http://localhost:8080/user/" + order.getUserId(); User user = restTemplate.getForObject(url, User.class); // 3.存入order order.setUser(user); // 4.返回 return order; } }
说明:上述被调用的称为服务提供者,调用服务的称为服务消费者
Eureka注册中心
概述
问题1:当服务提供者有多个实例(即部署了多个服务器),服务消费者怎么获取url?
- 服务注册:服务启动后,先将自己的信息注册到eureka-server(Eureka服务端),eureka-server保存服务名称到服务实例地址列表的映射关系
- 服务拉取:消费者根据服务名称,拉取实例地址列表
问题2:服务提供者多个实例,服务消费者选择哪个?
- 消费者从实例列表中利用负载均衡算法选中一个实例地址,发起远程调用
问题3:服务消费者如何得知服务提供者是否健康?
- 心跳:提供者每隔一段时间(默认30秒)向eureka-server发起请求,报告自己状态
- 长时间不心跳,eureka-server会认为故障,将该实例从服务列表中剔除,消费者拉取不到故障实例
说明:由于服务提供者、服务消费者是相对的,故eureka将服务注册、服务发现等功能统一封装到了eureka-client端
搭建eureka-server
父工程下创建子模块eureka-server
引入SpringCloud为eureka提供的starter依赖
<dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-netflix-eureka-server</artifactId> </dependency>编写启动类
- 启动类注释@SpringBootApplication
- 开启Eureka注释@EnableEurekaServer
@SpringBootApplication @EnableEurekaServer public class EurekaApplication { public static void main(String[] args) { SpringApplication.run(EurekaApplication.class, args); } }编写配置文件 ---- application.yml
server: port: 10086 spring: application: name: eureka-server eureka: client: service-url: defaultZone: http://127.0.0.1:10086/eureka启动服务 ---- 浏览器访问:http://127.0.0.1:10086
服务注册
将服务提供者注册到eureka-server
引入依赖
- 搭建的时候后缀是server,注册的时候是client
<dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-netflix-eureka-client</artifactId> </dependency>配置文件
spring: application: name: userservice eureka: client: service-url: defaultZone: http://127.0.0.1:10086/eureka启动多个服务提供者实例
- 右击-copy configuration
- 修改名称
- 填写VM Options:-Dserver.port=8082
- Active profiles:设置环境【test等】
服务发现
引入依赖
<dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-netflix-eureka-client</artifactId> </dependency>配置文件
spring: application: name: orderservice eureka: client: service-url: defaultZone: http://127.0.0.1:10086/eureka服务拉取和负载均衡
给RestTemplate的Bean上加注解@LodeBalanced
@Bean @LoadBalanced public RestTemplate restTemplate(){ return new RestTemplate(); }修改业务层查找数据的url路径
//userservice即为配置文件中服务提供者的spring-application-name String url = "http://userservice/user/" + order.getUserId();
Ribbon负载均衡
概述
SpringCloud底层其实是利用了一个名为Ribbon的组件,来实现负载均衡功能的。
问题:请求是http://userservice/user/1,怎么变成了http://localhost:8081的呢?
- LoadBalancerInterceptor类拦截RestTemplate的请求,根据服务id(即配置文件中的name),从Eureka获取服务列表,利用负载均衡算法得到ip和端口,替换了服务id
核心组件
Ribbon 主要有六大功能组件:
LoadBalancer:负载均衡器 ---- 用于管理负载均衡的组件,初始化的时候通过加载 YMAL 配置文件创建出来的
ServerList:服务列表 ---- 用来获取所有服务的地址信息,并存到本地
- 静态存储:从配置文件中获取服务节点列表并存储到本地
- 动态存储:从注册中心获取服务节点列表并存储到本地
ServerListFilter:服务列表过滤 ---- 根据Eureka分区规则对实例进行过滤,比较通信状况和并发连接来剔除不健康的实例 ---- 对应算法ZoneAvoidanceRule(从最佳区域实例集合中选择一个最优性能的服务实例)
ServerListUpdater:服务列表更新 ---- 从注册中心获取最新的注册表信息
- 通过定时任务更新 ---- 实现类 PollingServerListUpdater
- 通过Eureka的事件监听器更新 --- 实现类 EurekaNotificationServerListUpdater
Rule:负载均衡策略
RoundRobinRule(线性轮询) --- 无需记录当前所有连接的状态,无状态调度
RandomRule(随机策略) --- 适合并发比较大的场景
BestAvailableRule(高可用均衡) --- 过滤出故障服务器后,选择一个并发量最小的,这种会给服务器集群带来成倍的压力
WeightedResponseTimeRule(针对响应时间加权轮询) --- 响应时间越长,权重越低,被选中的概率越低
AvailabilityFilteringRule(可用过滤策略) --- 先过滤出故障的或并发请求大于阈值的一部分服务实例,然后再以线性轮询的方式从过滤后的实例清单中选出一个
ZoneAvoidanceRule(从最佳区域实例集合中选择一个最优性能的服务实例) --- 默认
RetryRule(选择一个Server,如果失败,重新选择一个Server重试)
Ping:心跳监测 ---- IPing接口监测服务可用性,不可用就剔除
- 对自己本地缓存的 Server List 进行遍历,看下每个服务的状态是不是 UP 的
源码跟踪
- Ribbon 拦截所有标注@loadBalance注解的 RestTemplate
- 将 Ribbon 默认的拦截器 LoadBalancerInterceptor 添加到 RestTemplate 的执行逻辑中,当 RestTemplate 每次发送 HTTP 请求时,都会被 Ribbon 拦截
- 拦截后,Ribbon 会创建一个 ILoadBalancer 实例
- ILoadBalancer 实例会使用 RibbonClientConfiguration 完成自动配置。就会配置好 IRule,IPing,ServerList
- Ribbon 会从服务列表中选择一个服务,将请求转发给这个服务
1)LoadBalancerIntercepor
public ClientHttpResponse intercept(final HttpRequest request, final byte[] body,
final ClientHttpRequestExecution execution) throws IOException {
// 获取请求uri,本例中就是 http://user-service/user/8
final URI originalUri = request.getURI();
// - 获取uri路径的主机名,其实就是服务id, user-service
String serviceName = originalUri.getHost();
Assert.state(serviceName != null, "Request URI does not contain a valid hostname: " + originalUri);
// 这里的`this.loadBalancer`是 LoadBalancerClient 类型
return this.loadBalancer.execute(serviceName, requestFactory.createRequest(request, body, execution));
}
2)LoadBalancerClient
继续跟入execute方法:
public <T> T execute(String serviceId, LoadBalancerRequest<T> request, Object hint) throws I0Exception {
// 根据服务id获取ILoadBalancer,而ILoadBalancer会拿着服务id去eureka中获取服务列表并保存起来
ILoadBalancer loadBalancer = getLoadBalancer(serviceld);
// 利用内置的负载均衡算法,从服务列表中选择一个
Server server = getServer(loadBalancer, hint);
if (server == null) {
throw new IllegalStateException("No instances available for " + serviceId);
RibbonServer ribbonServer = new RibbonServer(serviceld, serverisSecure(server, serviceld);
serverIntrospector(serviceld).getMetadata(server));
return execute(serviceld, ribbonServer, reguest);
}
}
3)负载均衡策略IRule
在刚才的代码中,可以看到获取服务使通过一个getServer方法来做负载均衡:
继续跟踪源码chooseServer方法,发现这么一段代码:
protected Server getServer(ILoadBalancer loadBalancer, Object hint) {
if (loadBalancer == null) {
return null;
}
//Use 'default'on a null hint, or just pass it on?
return loadBalancer.chooseServer(hint != null ? hint : "default");
}
这里的rule默认值是一个RoundRobinRule,看类的介绍:轮询的意思嘛。
4)总结
基本流程如下:
- 拦截我们的RestTemplate请求http://userservice/user/1
- RibbonLoadBalancerClient会从请求url中获取服务名称,也就是user-service
- DynamicServerListLoadBalancer根据user-service到eureka拉取服务列表
- eureka返回列表,localhost:8081、localhost:8082
- IRule利用内置负载均衡规则,从列表中选择一个,例如localhost:8081
- RibbonLoadBalancerClient修改请求地址,用localhost:8081替代userservice,得到http://localhost:8081/user/1,发起真实请求
负载均衡策略
自定义负载均衡策略 --- 在服务消费者中配置
给服务消费者定义IRule
注意:一般用默认的负载均衡规则,不做修改。
方式一:启动类中定义Bean
@Bean public IRule randomRule(){ return new RandomRule(); }方式二:配置文件中给 服务提供者 配置负载均衡策略
userservice: ## 给某个微服务配置负载均衡规则,这里是userservice服务 ribbon: NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule ## 负载均衡规则
饥饿加载 --- 在服务消费者中配置
Ribbon默认是采用懒加载,即第一次访问时才会去创建LoadBalanceClient,请求时间会很长。
而饥饿加载则会在项目启动时创建,降低第一次访问的耗时,通过下面配置开启饥饿加载:
在服务消费者中配置
ribbon: eager-load: enabled: true clients: userservice负载均衡的规则都定义在IRule接口中,而IRule有很多不同的实现类,默认的实现就是ZoneAvoidanceRule,是一种轮询方案
Feign远程调用
RestTemplate存在的问题
代码可读性差,编程体验不统一
参数复杂URL难以维护
Feign替代RestTemplate
使用
引入依赖
<dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-openfeign</artifactId> </dependency>启动类添加注解@EnableFeignClients
编写feign客户端:在服务消费者模块的client包下创建接口
- 服务名称
- 请求方式
- 请求路径
- 请求参数
- 返回值类型
@FeignClient("userservice") public interface UserClient { @GetMapping("/user/{id}") User findById(@PathVariable("id") Long id); }测试
@RestController @RequestMapping("order") public class OrderController { @Autowired private OrderService orderService; @Autowired private UserClient userClient; @GetMapping("{orderId}") public Order queryOrderByUserId(@PathVariable("orderId") Long orderId) { // 根据id查询订单并返回 Order order = orderService.queryOrderById(orderId); User user = userClient.getById(order.getUserId()); order.setUser(user); return order; } }
自定义配置
Feign可以支持很多的自定义配置,如下表所示:
| 类型 | 作用 | 说明 |
|---|---|---|
| feign.Logger.Level | 修改日志级别 | 包含四种不同的级别:NONE、BASIC、HEADERS、FULL |
| feign.codec.Decoder | 响应结果的解析器 | http远程调用的结果做解析,例如解析json字符串为java对象 |
| feign.codec.Encoder | 请求参数编码 | 将请求参数编码,便于通过http请求发送 |
| feign. Contract | 支持的注解格式 | 默认是SpringMVC的注解 |
| feign. Retryer | 失败重试机制 | 请求失败的重试机制,默认是没有,不过会使用Ribbon的重试 |
一般情况下,默认值就能满足我们使用,如果要自定义时,只需要创建自定义的@Bean覆盖默认Bean即可。
下面以日志为例来演示如何自定义配置。
配置文件配置
基于配置文件修改feign的日志级别可以针对单个服务:
feign: client: config: userservice: ## 针对某个微服务的配置 loggerLevel: FULL ## 日志级别也可以针对所有服务:
feign: client: config: default: ## 这里用default就是全局配置,如果是写服务名称,则是针对某个微服务的配置 loggerLevel: FULL ## 日志级别而日志的级别分为四种:
NONE:不记录任何日志信息,这是默认值。
BASIC:仅记录请求的方法,URL以及响应状态码和执行时间
HEADERS:在BASIC的基础上,额外记录了请求和响应的头信息
FULL:记录所有请求和响应的明细,包括头信息、请求体、元数据。
java代码配置
public class DefaultFeignConfiguration { @Bean public Logger.Level feignLogLevel(){ return Logger.Level.BASIC; // 日志级别为BASIC } }全局生效:写在启动类@EnableFeignClients上
@EnableFeignClients(defaultConfiguration = DefaultFeignConfiguration .class)局部生效:写在对应的@FeignClient上
@FeignClient(value = "userservice", configuration = DefaultFeignConfiguration .class)
优化
日志级别用basic或none
底层发http请求默认是URLConnection连接,不支持连接池,改为ApacheHttpClient或OKHttp
引入依赖
<!--httpClient的依赖 --> <dependency> <groupId>io.github.openfeign</groupId> <artifactId>feign-httpclient</artifactId> </dependency>配置连接池
feign: client: config: default: ## default全局的配置 loggerLevel: BASIC ## 日志级别,BASIC就是基本的请求和响应信息 httpclient: enabled: true ## 开启feign对HttpClient的支持 max-connections: 200 ## 最大的连接数 max-connections-per-route: 50 ## 每个路径的最大连接数
再优化
FeignClient和服务提供者的Controller的restfull请求极度相似,提取为一个接口,放在新的模块,并把相关的pojo,feign的默认配置都放进去
优点:
- 简单
- 实现了代码共享
缺点:
服务提供方、服务消费方紧耦合
参数列表中的注解映射并不会继承,因此Controller中必须再次声明方法、参数列表、注解
feign-api模块
引入依赖spring-cloud-starter-openfeign
编写User、UserClient、DefailtFeignConfiguration(或application.yml)
引用feign-api依赖,删除相关依赖
包扫描配置
方式一
@EnableFeignClients(basePackages = "cn.itcast.feign.clients")方式二
@EnableFeignClients(clients = {UserClient.class})
Gateway服务网关
概述
Spring Cloud Gateway 是 Spring Cloud 的一个全新项目,该项目是基于 Spring 5.0,Spring Boot 2.0 和 Project Reactor 等响应式编程和事件流技术开发的网关,它旨在为微服务架构提供一种简单有效的统一的 API 路由管理方式。
网关的核心功能特性:
- 请求路由:一切请求都必须先经过gateway,但网关不处理业务,而是根据某种规则,把请求转发到某个微服务,这个过程叫做路由。当然路由的目标服务有多个时,还需要做负载均衡。
- 权限控制
- 限流
在SpringCloud中网关的实现包括两种:
- gateway
- zuul
Zuul是基于Servlet的实现,属于阻塞式编程。而SpringCloudGateway则是基于Spring5中提供的WebFlux,属于响应式编程的实现,具备更好的性能
使用
创建boot工程gateway
引入依赖
<!--网关--> <dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-gateway</artifactId> </dependency> <!--nacos服务发现依赖--> <dependency> <groupId>com.alibaba.cloud</groupId> <artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId> </dependency>
编写启动类
@SpringBootApplication public class GatewayApplication { public static void main(String[] args) { SpringApplication.run(GatewayApplication.class, args); } }编写基础配置和路由规则
- 端口
- 服务名
- 路由
路由id:路由的唯一标示
路由目标(uri):路由的目标地址,http代表固定地址,lb代表根据服务名负载均衡
路由断言(predicates“谓语”):判断路由的规则,
路由过滤器(filters):对请求或响应做处理
server: port: 10010 ## 网关端口 spring: application: name: gateway ## 服务名称 cloud: nacos: server-addr: localhost:8848 ## nacos地址 gateway: routes: ## 网关路由配置 - id: user-service ## 路由id,自定义,只要唯一即可 ## uri: http://127.0.0.1:8081 ## 路由的目标地址 http就是固定地址 uri: lb://userservice ## 路由的目标地址 lb就是负载均衡,后面跟服务名称 predicates: ## 路由断言,也就是判断请求是否符合路由规则的条件 - Path=/user/** ## 这个是按照路径匹配,只要以/user/开头就符合要求
断言工厂
掌握Path,其他了解
| 名称 | 说明 | 示例 |
|---|---|---|
| After | 是某个时间点后的请求 | - After=2037-01-20T17:42:47.789-07:00[America/Denver] |
| Before | 是某个时间点之前的请求 | - Before=2031-04-13T15:14:47.433+08:00[Asia/Shanghai] |
| Between | 是某两个时间点之前的请求 | - Between=2037-01-20T17:42:47.789-07:00[America/Denver], 2037-01-21T17:42:47.789-07:00[America/Denver] |
| Cookie | 请求必须包含某些cookie | - Cookie=chocolate, ch.p |
| Header | 请求必须包含某些header | - Header=X-Request-Id, \d+ |
| Host | 请求必须是访问某个host(域名) | - Host=.somehost.org,.anotherhost.org |
| Method | 请求方式必须是指定方式 | - Method=GET,POST |
| Path | 请求路径必须符合指定规则 | - Path=/red/{segment},/blue/** |
| Query | 请求参数必须包含指定参数 | - Query=name, Jack或者- Query=name |
| RemoteAddr | 请求者的ip必须是指定范围 | - RemoteAddr=192.168.1.1/24 |
| Weight | 权重处理 |
过滤器工厂GatewayFilter
31种,如
| 名称 | 说明 |
|---|---|
| AddRequestHeader | 给当前请求添加一个请求头 |
| RemoveRequestHeader | 移除请求中的一个请求头 |
| AddResponseHeader | 给响应结果中添加一个响应头 |
| RemoveResponseHeader | 从响应结果中移除有一个响应头 |
| RequestRateLimiter | 限制请求的流量 |
AddRequestHeader
需求:给所有进入userservice的请求添加一个请求头:Truth=itcast is freaking awesome!
只需要修改gateway服务的application.yml文件,添加路由过滤即可:
spring: cloud: gateway: routes: - id: user-service uri: lb://userservice predicates: - Path=/user/** filters: ## 过滤器 - AddRequestHeader=Truth, Itcast is freaking awesome! ## 添加请求头当前过滤器写在userservice路由下,因此仅仅对访问userservice的请求有效
默认过滤器
如果要对所有的路由都生效,则可以将过滤器工厂写到default下。格式如下:
spring: cloud: gateway: routes: - id: user-service uri: lb://userservice predicates: - Path=/user/** default-filters: ## 默认过滤项 - AddRequestHeader=Truth, Itcast is freaking awesome!
全局过滤器GlobalFilter
GatewayFilter逻辑固定,不能自定义,GlobalFilter需要自己写代码
实现功能:
- 登录状态判断
- 权限校验
- 请求限流等
原理:实现GlobalFilter接口
public interface GlobalFilter {
/**
* 处理当前请求,有必要的话通过{@link GatewayFilterChain}将请求交给下一个过滤器处理
*
* @param exchange 请求上下文,里面可以获取Request、Response等信息
* @param chain 用来把请求委托给下一个过滤器
* @return {@code Mono<Void>} 返回标示当前过滤器业务结束
*/
Mono<Void> filter(ServerWebExchange exchange, GatewayFilterChain chain);
}
使用:
需求:权限校验
定义全局过滤器,拦截请求,判断请求的参数是否满足下面条件:
参数中是否有authorization“授权”,
authorization参数值是否为admin
如果同时满足则放行,否则拦截
定义过滤器实现GlobalFilter
@Order(-1) @Component public class AuthorizeFilter implements GlobalFilter { @Override public Mono<Void> filter(ServerWebExchange exchange, GatewayFilterChain chain) { // 1.获取请求参数 MultiValueMap<String, String> params = exchange.getRequest().getQueryParams(); // 2.获取authorization参数 String auth = params.getFirst("authorization"); // 3.校验 if ("admin".equals(auth)) { // 放行 return chain.filter(exchange); } // 4.拦截 // 4.1.禁止访问,设置状态码 exchange.getResponse().setStatusCode(HttpStatus.FORBIDDEN); // 4.2.结束处理 return exchange.getResponse().setComplete(); } }
过滤器执行顺序
请求进入网关会碰到三类过滤器:当前路由的过滤器、DefaultFilter、GlobalFilter
请求路由后,会将当前路由过滤器和DefaultFilter、GlobalFilter,合并到一个过滤器链(集合)中,排序后依次执行每个过滤器
排序规则
- 每一个过滤器都必须指定一个int类型的order值,order值越小,优先级越高,执行顺序越靠前。
- GlobalFilter通过实现Ordered接口,或者添加@Order注解来指定order值,由我们自己指定
- 路由过滤器和defaultFilter的order由Spring指定,默认是按照声明顺序从1递增。
- 当过滤器的order值一样时,会按照 defaultFilter > 路由过滤器 > GlobalFilter的顺序执行。
跨域问题
跨域:uri不一致,即域名(IP)或 端口号
跨域问题:浏览器禁止请求的发起者与服务端发生跨域ajax请求,请求被浏览器拦截的问题
解决方案:CORS,这个以前应该学习过,这里不再赘述了。不知道的小伙伴可以查看https://www.ruanyifeng.com/blog/2016/04/cors.html
Gateway解决跨域问题:
在gateway服务的application.yml文件中,添加下面的配置:
spring:
cloud:
gateway:
## 。。。
globalcors: ## 全局的跨域处理
add-to-simple-url-handler-mapping: true ## 解决options请求被拦截问题
corsConfigurations:
'[/**]':
allowedOrigins: ## 允许哪些网站的跨域请求
- "http://localhost:8090"
allowedMethods: ## 允许的跨域ajax的请求方式
- "GET"
- "POST"
- "DELETE"
- "PUT"
- "OPTIONS"
allowedHeaders: "*" ## 允许在请求中携带的头信息
allowCredentials: true ## 是否允许携带cookie
maxAge: 360000 ## 这次跨域检测的有效期
真实转发路径
RotuteToRequestUrlFilter
