内容简介
· · · · · ·
本书从动态代理模式、Reactor模式、三大限流策略等知识入手,深入浅出地剖析Spring Cloud+Nginx系统架构的核心原理以及Web高并发开发技术。全书从基础设计模式和基础原理出发,理论与实战相结合,系统、详尽地介绍Spring Cloud + Nginx高并发核心编程。 本书共10章。前6章剖析Feign高并发RPC的底层原理,解析Hystrix高性能配置的核心选项,阐述Hystrix滑动窗口的核心原理;后4章介绍Nginx的核心原理及其配置,并结合秒杀场景实现Spring Cloud秒杀、Spring Cloud+Nginx Lua秒杀,为广大Java开发者提供一个全面学习高并发开发的实战案例。这些知识会为广大Java工程师解决后台开发中遇到的高并发、高性能问题打下坚实的技术基础。
作者简介
· · · · · ·
尼 恩
中南大学硕士,资深系统架构师、IT领域资深作家、著名博主、从业十余年,先后在华为、神州数码等公司从事技术研发、架构工作。长期专注于高性能Web平台、高性能通信、高性能搜索、数据挖掘等领域的3高架构研究、架构实操、核心代码开发工作,以及核心中间件、底层源码研究工作,负责过多个亿级RMB智慧城市平台、大型政务平台、数据中台架构、技术中台架构工作,发起的3高研究社群“疯狂创客圈”目前有研究人员1100多人。
唐 欢
计算机专业硕士,资深系统架构师、资深博主,拥有多年Java开发和系统架构经验,多年敏捷开发的项目管理经验,现在国内科技企业担任系统架构师一职,主持企业软件的系统架构和产品研发工作。
孙精科
南京理工大学计算机专业硕士,上海交通大学EMBA。行业内知名信息化系统专家,具有丰富的大型信息系统的研发及管理经验。近10年来,主持上市公司信息系统建设、三维开发、通信协议转换、数据采集、软硬件一体化产品的研发。具有丰富的国际国内项目咨询经验,担任多项省级项目负责人,主持的多个项目获得省部级奖项;2003—2008年,在东南亚、中东、非洲、南美等地执行国际咨询项目。
朱达华
资深技术总监、美国协会PMI项目管理师、敏捷教练。近10年来在一线主持技术管理工作,擅长系统架构分析和设计,负责过多个大型省市级系统建设,服务数千万的用户。
目录
· · · · · ·
第1章 亿级用户Web应用的架构与实操 1
1.1 高并发基本原理 1
1.1.1 响应时间 1
1.1.2 吞吐量 2
1.1.3 错误率 4
1.2 提升系统的并发能力 4
1.2.1 纵向扩展 5
1.2.2 横向扩展 6
1.2.3 高并发架构中的分层策略 6
1.3 接入层横向扩展高并发架构 7
1.3.1 硬负载均衡 7
1.3.2 软负载均衡 8
1.3.3 LVS和Nginx的配合使用 10
1.3.4 DNS负载均衡 10
1.4 动静分离与接入层的缓存架构 14
1.4.1 接入层网关缓存 14
1.4.2 CDN加速 15
1.4.3 接入层的缓存架构的原则 17
1.5 服务层的横向扩展高并发架构 18
1.5.1 微服务网关的高并发横向扩展 18
1.5.2 微服务Provider高并发横向扩展 19
1.5.3 微服务Provider的自动伸缩 20
1.6 缓存层的高并发架构 24
1.6.1 旁路缓存模式 24
1.6.2 读/写穿透模式 26
1.6.3 异步回写模式 28
1.6.4 三大缓存使用模式的比较 28
1.6.5 旁路缓存模式如何保证双写的数据一致性 29
1.6.6 本地缓存架构 39
1.6.7 多级、细粒度缓存架构 42
1.7 数据层的横向扩展高并发架构 44
1.7.1 数据库服务器的能力参考数据 44
1.7.2 结构化数据的高并发架构方案:分库分表 45
1.7.3 结构化分库分表:水平拆分与垂直拆分 46
1.7.4 亿级库表规模架构设计 47
1.7.5 百亿级库表架构设计 48
1.7.6 百亿级数据的异构查询 49
1.7.7 ES+HBase组合方案的数据查询过程 50
1.8 亿级用户量场景下的流量预估 50
1.8.1 请求处理模型 50
1.8.2 旧系统的流量架构 52
1.8.3 新系统的流量架构 52
1.8.4 二八定律 52
1.8.5 通过二八定律进行流量预估 53
1.9 高并发架构 56
1.9.1 同步架构 56
1.9.2 异步架构 56
1.10 高可用架构 57
1.10.1 什么是高可用 57
1.10.2 高可用的度量 58
1.10.3 高并发架构中的分层策略 58
1.10.4 分层规避单点瓶颈+自动故障转移 58
1.10.5 其他的高可用策略 59
1.11 高性能架构 59
第2章 Spring Cloud+Nginx高并发核心编程的学习准备 61
2.1 Spring Cloud + Nginx架构的主要组件 61
2.2 Spring Cloud+Nginx核心知识的广泛欠缺 63
2.3 Spring Cloud和Spring Boot的版本选择 63
2.4 Spring Cloud微服务开发所涉及的中间件 65
2.5 Spring Cloud微服务开发和自验证环境 66
2.5.1 开发和自验证环境的系统选项和环境变量配置 66
2.5.2 使用Fiddler工具抓包和查看报文 67
2.6 crazy-Spring Cloud微服务开发脚手架 69
2.7 以秒杀作为Spring Cloud+Nginx的实战案例 70
第3章 Spring Cloud入门实战 72
3.1 Eureka服务注册与发现 73
3.1.1 什么是服务注册与发现 73
3.1.2 Eureka Server注册中心 74
3.1.3 微服务提供者Provider的创建和配置 79
3.1.4 微服务提供者的续约(心跳) 82
3.1.5 微服务提供者的健康状态 84
3.1.6 Eureka自我保护模式与失效Provider的快速剔除 87
3.2 Config配置中心 90
3.2.1 config-server服务端组件 90
3.2.2 config-client客户端组件 92
3.3 微服务的RPC远程调用 93
3.3.1 RESTfull风格简介 94
3.3.2 RestTemplate远程调用 94
3.3.3 Feign远程调用 96
3.4 Feign+Ribbon实现客户端负载均衡 97
3.4.1 Spring Cloud Ribbon基础 97
3.4.2 Spring Cloud Ribbon的负载均衡策略 100
3.4.3 Spring Cloud Ribbon的常用配置 101
3.5 Feign+Hystrix实现RPC调用保护 105
3.5.1 Spring Cloud Hystrix失败回退 106
3.5.2 分布式系统面临的雪崩难题 109
3.5.3 Spring Cloud Hystrix熔断器 111
第4章 Spring Cloud RPC远程调用 核心原理 115
4.1 代理模式与RPC客户端实现类 115
4.1.1 客户端RPC远程调用实现类的职责 115
4.1.2 简单的RPC客户端实现类 117
4.1.3 从基础原理讲起:代理模式与RPC客户端实现类 120
4.1.4 使用动态代理模式实现RPC客户端类 123
4.1.5 JDK动态代理机制的原理 126
4.2 模拟的Feign RPC动态代理实现 128
4.2.1 模拟Feign的MethodHandler方法处理器 129
4.2.2 模拟Feign的InvokeHandler调用处理器 131
4.2.3 模拟Feign动态代理RPC的执行流程 133
4.2.4 模拟动态代理RPC远程调用的测试 134
4.2.5 Feign弹性RPC客户端实现类 135
4.3 Feign弹性RPC客户端的重要组件 136
4.3.1 演示用例说明 136
4.3.2 Feign的动态代理RPC客户端实例 138
4.3.3 Feign的调用处理器InvocationHandler 139
4.3.4 Feign的方法处理器MethodHandler 141
4.3.5 Feign的客户端组件 143
4.4 Feign的RPC动态代理实例的创建流程 146
4.4.1 Feign的整体运作流程 146
4.4.2 RPC动态代理容器实例的FactoryBean工厂类 147
4.4.3 Feign.Builder建造者容器实例 150
4.4.4 默认的RPC动态代理实例创建流程 152
4.4.5 Contract远程调用协议规则类 155
4.5 Feigh远程调用的执行流程 156
4.5.1 与FeignInvocationHandler相关的远程调用执行流程 157
4.5.2 与HystrixInvocationHandler相关的远程调用执行流程 158
4.5.3 Feign远程调用的完整流程及其特性 160
4.6 HystrixFeign动态代理实例的创建流程 161
4.6.1 HystrixFeign.Builder建造者容器实例 162
4.6.2 配置HystrixFeign.Builder建造者容器实例 163
4.7 feign.Client客户端容器实例 163
4.7.1 装配LoadBalancerFeignClient负载均衡容器实例 164
4.7.2 包装ApacheHttpClient实例的负载均衡客户端装配 165
4.7.3 包装OkHttpClient实例的负载均衡客户端实例 167
4.7.4 包装Client.Default实例的负载均衡客户端实例 168
第5章 RxJava响应式编程框架 169
5.1 从基础原理讲起:观察者模式 169
5.1.1 观察者模式的基础原理 169
5.1.2 观察者模式的经典实现 170
5.1.3 Rxjava中的观察者模式 172
5.1.4 RxJava的不完整回调 174
5.1.5 RxJava函数式编程 176
5.1.6 RxJava的Operators操作符 177
5.2 创建型操作符 178
5.2.1 just操作符 178
5.2.2 from操作符 179
5.2.3 range操作符 180
5.2.4 interval操作符 180
5.2.5 defer延迟创建操作符 181
5.3 过滤型操作符 182
5.3.1 filter操作符 182
5.3.2 distinct操作符 183
5.4 转换型操作符 183
5.4.1 map操作符 183
5.4.2 flatMap操作符 184
5.4.3 scan操作符 186
5.5 聚合操作符 187
5.5.1 count操作符 187
5.5.2 reduce操作符 188
5.6 其他操作符 189
5.6.1 take操作符 190
5.6.2 window操作符 190
5.7 RxJava的Scheduler调度器 193
5.8 背压 195
5.8.1 什么是背压问题 195
5.8.2 背压问题的几种应对模式 197
第6章 Hystrix RPC保护的原理 200
6.1 RPC保护的目标 200
6.2 HystrixCommand简介 201
6.2.1 HystrixCommand的使用 201
6.2.2 HystrixCommand的配置内容和方式 203
6.3 HystrixCommand命令执行的方法 205
6.3.1 execute方法 205
6.3.2 queue方法 206
6.3.3 observe方法 208
6.3.4 toObservable方法 209
6.3.5 HystrixCommand的执行方法之间的关系 210
6.4 RPC保护之舱壁模式 212
6.4.1 什么是舱壁模式 212
6.4.2 Hystrix线程池隔离 214
6.4.3 Hystrix线程池隔离配置 217
6.4.4 Hystrix信号量隔离 219
6.5 RPC保护之熔断器模式 222
6.5.1 熔断器状态变化的演示实例 223
6.5.2 熔断器和滑动窗口的配置属性 226
6.5.3 Hystrix命令的执行流程 230
6.6 RPC监控之滑动窗口实现原理 231
6.6.1 Hystrix健康统计滑动窗口模拟实现 232
6.6.2 Hystrix滑动窗口核心实现原理 236
第7章 微服务网关与用户身份识别 240
7.1 Zuul的基础使用 241
7.2 创建Zuul网关服务 241
7.2.1 Zuul路由规则配置 242
7.2.2 过滤敏感请求头部 244
7.2.3 路径前缀的处理 244
7.3 Zuul过滤器 245
7.3.1 Zuul网关的过滤器类型 245
7.3.2 实战:用户的黑名单过滤 247
7.4 Spring Security原理和实战 250
7.4.1 Spring Security核心组件 250
7.4.2 Spring Security的请求认证处理流程 253
7.4.3 基于数据源的认证流程 258
7.5 JWT+Spring Security进行网关安全认证 263
7.5.1 JWT安全令牌规范详解 263
7.5.2 JWT+Spring Security认证处理流程 267
7.5.3 Zuul网关与UAA微服务的配合 272
7.5.4 使用Zuul过滤器添加代理请求的用户标识 276
7.6 微服务提供者之间的会话共享关系 277
7.6.1 分布式会话的起源和实现方案 278
7.6.2 Spring Session的核心组件和存储细节 279
7.6.3 Spring Session的使用和定制 280
7.6.4 通过用户身份标识查找session id 282
7.6.5 查找或创建分布式会话 283
7.6.6 加载高速访问数据到分布式会话 285
第8章 Nginx/OpenResty详解 287
8.1 Nginx简介 287
8.1.1 正向代理与反向代理 288
8.1.2 Nginx的启动与停止 289
8.1.3 Nginx的启动命令和参数详解 289
8.1.4 Linux下Openresty的启动、停止脚本 290
8.1.5 Windows下Openresty的启动、停止脚本 291
8.2 Nginx的核心原理 293
8.2.1 Reactor反应器模型 293
8.2.2 Nginx的两类进程 294
8.2.3 Nginx的模块化设计 295
8.2.4 Nginx配置文件上下文结构 296
8.2.5 Nginx的请求处理流程 298
8.2.6 HTTP请求处理的11个阶段 299
8.3 Nginx的基础配置 303
8.3.1 events事件驱动配置 303
8.3.2 虚拟主机配置 304
8.3.3 错误页面配置 306
8.3.4 长连接相关配置 307
8.3.5 访问日志配置 307
8.3.6 Nginx核心模块内置变量 308
8.4 location路由规则配置详解 310
8.4.1 location语法详解 310
8.4.2 常用的location路由配置 313
8.5 Nginx的rewrite模块指令 314
8.5.1 set指令 314
8.5.2 rewrite指令 315
8.5.3 if条件指令 317
8.5.4 add_header指令 319
8.5.5 指令的执行顺序 320
8.6 反向代理与负载均衡配置 321
8.6.1 演示环境说明 321
8.6.2 proxy_pass反向代理指令 322
8.6.3 proxy_set_header指令 323
8.6.4 upstream上游服务器组 324
8.6.5 upstream的上游服务器配置 326
8.6.6 upstream的负载分配方式 327
第9章 Nginx Lua编程 329
9.1 Nginx Lua编程主要的应用场景 329
9.2 Nginx Lua编程简介 329
9.2.1 ngx_lua简介 330
9.2.2 Nginx Lua项目的创建 330
9.2.3 Lua项目的工程结构 331
9.2.4 Lua项目的启动 331
9.3 Lua开发基础 332
9.3.1 Lua模块的定义和使用 333
9.3.2 Lua模块的使用 333
9.3.3 Lua的数据类型 334
9.3.4 Lua的字符串 337
9.3.5 Lua中的数组容器 338
9.3.6 Lua的控制结构 340
9.3.7 Lua的函数定义 342
9.3.8 Lua的面向对象编程 344
9.4 Nginx Lua编程基础 345
9.4.1 Nginx Lua的执行原理 345
9.4.2 Nginx Lua的配置指令 346
9.4.3 Nginx Lua的常用配置指令 347
9.4.4 Nginx Lua的内置常量和变量 350
9.5 Nginx Lua编程实例 352
9.5.1 Lua脚本获取URL中的参数 352
9.5.2 Nginx Lua的内置方法 353
9.5.3 通过ngx.header设置HTTP响应头 355
9.5.4 Lua访问Nginx变量 358
9.5.5 Lua访问请求上下文变量 359
9.6 重定向与内部子请求 360
9.6.1 Nginx Lua内部重定向 360
9.6.2 Nginx Lua外部重定向 362
9.6.3 ngx.location.capture子请求 364
9.6.4 ngx.location.capture_multi并发子请求 367
9.7 Nginx Lua操作Redis 369
9.7.1 Redis的CRUD基本操作 369
9.7.2 实战:封装一个操作Redis的基础类 371
9.7.3 在Lua中使用Redis连接池 373
9.8 Nginx Lua编程实战案例 375
9.8.1 Nginx+Redis进行分布式访问统计 375
9.8.2 Nginx+Redis+Java容器实现高并发访问 376
9.8.3 Nginx+Redis实现黑名单拦截 380
9.8.4 使用Nginx Lua共享内存 382
第10章 限流原理与实战 384
10.1 使用Redis实现简单限流策略 384
10.1.1 3种限流策略:计数器、漏桶、令牌桶 384
10.1.2 计数器限流原理和Java参考实现 385
10.1.3 漏桶算法限流原理和Java参考实现 387
10.1.4 令牌桶限流原理和Java参考实现 389
10.2 分布式计数器限流 391
10.2.1 Nginx Lua分布式计数器限流 391
10.2.2 Redis Lua分布式计数器限流 394
10.3 Nginx漏桶限流详解 397
10.4 实战:分布式令牌桶限流 399
10.4.1 分布式令牌桶限流Lua脚本 399
10.4.2 Java分布式令牌桶限流 401
10.4.3 Java分布式令牌桶限流的自验证 404
第11章 Spring Cloud Nginx秒杀实战 406
11.1 秒杀业务特定和技术难点 406
11.1.1 秒杀系统的业务功能 406
11.1.2 秒杀系统面临的技术难题 407
11.2 秒杀系统的系统架构 408
11.2.1 秒杀的分层架构 408
11.2.2 秒杀的限流架构 410
11.2.3 秒杀的分布式锁架构 411
11.2.4 秒杀的削峰架构 412
11.3 秒杀业务的参考实现 413
11.3.1 秒杀的功能模块和接口设计 413
11.3.2 数据表和PO实体类设计 416
11.3.3 使用分布式ID生成器 418
11.3.4 秒杀的controller层设计 420
11.3.5 service层逻辑:获取秒杀令牌 421
11.3.6 service层逻辑:执行秒杀下单 424
11.3.7 秒杀的Lua脚本设计 427
11.3.8 BusinessException业务异常定义 429
11.4 Zuul内部网关实现秒杀限流 431
11.5 Nginx高性能秒杀和限流 435
11.5.1 Lua脚本:获取秒杀令牌 436
11.5.2 Lua脚本:执行令牌桶限流 438
· · · · · ·