描述
开 本: 16开纸 张: 胶版纸包 装: 平装-胶订是否套装: 否国际标准书号ISBN: 9787121319594
★一个长期战斗在一线的美团-大众点评技术专家
★详细讲述了分布式服务框架的底层实现细节
★清楚梳理了分布式服务框架周边的知识点
★从零开始构建了一个分布式服务框架
★实战操练的代码透漏出作者身经百战的深厚功力
★技术原理和内部实现分析提升技术理解和洞察力
★目前企业真正使用微服务非常少,而使用分布式服务框架比较多,实现相对简单,作者所在公司美团在分布式服务框架实现方面具有丰富的经验。
★《架构探险:从零开始写分布式服务框架》能顺利地带领你走出架构险境,让你对分布式服务框架所涉及的技术了然于胸,并能合理地利用这些技术,搭建符合自身需求的分布式服务框架。
1.1 RPC框架原理 1
1.2 RMI介绍 2
1.2.1 原生RMI代码示例 3
1.2.2 RMI穿透防火墙 5
1.3 CXF/Axis2介绍 7
1.3.1 CXF介绍 7
1.3.2 Axis2介绍 14
1.4 Thrift介绍 21
1.4.1 Thrift工作原理介绍 23
1.4.2 Thrift IDL语法说明 26
1.4.3 基于Apache Thrift的Java版完整案例 28
1.4.4 基于Java注解的简化实现 36
1.5 gRPC介绍 42
1.5.1 protobuf3语法介绍 43
1.5.2 gRPC使用示例 45
1.6 HTTP Client介绍 53
1.6.1 构建HttpClient对象 54
1.6.2 构建URI对象 55
1.6.3 构建请求对象(HttpGet、HttpPost) 56
1.6.4 HttpClient发起调用及获取调用返回结果 56
1.7 实现自己的RPC框架 61
1.8 RPC框架与分布式服务框架的区别 68
1.9 本章小结 68
第2章 分布式服务框架总体架构与功能 69
2.1 面向服务的体系架构(SOA) 69
2.1.1 面向服务架构范式 69
2.1.2 服务拆分原则 71
2.2 分布式服务框架现实需求 72
2.3 分布式服务框架总体架构及所需的技术概述 72
2.4 本章小结 74
第3章 分布式服务框架序列化与反序列化实现 75
3.1 序列化原理及常用的序列化介绍 75
3.2 Java默认的序列化 77
3.3 XML序列化框架介绍 80
3.4 JSON序列化框架介绍 82
3.5 Hessian序列化框架介绍 87
3.6 protobuf序列化框架介绍 88
3.7 protostuff序列化框架介绍 93
3.8 Thrift序列化框架介绍 98
3.9 Avro序列化框架介绍 100
3.9.1 Avro介绍 100
3.9.2 Avro IDL语言介绍 101
3.9.3 Schema定义介绍 103
3.9.4 Maven配置及使用IDL与Schema自动生成代码 103
3.9.5 Avro序列化/反序列化实现 105
3.10 JBoss Marshalling序列化框架介绍 110
3.11 序列化框架的选型 112
3.12 实现自己的序列化工具引擎 113
3.13 本章小结 118
第4章 实现分布式服务框架服务的发布与引入 119
4.1 Spring Framework框架概述 119
4.1.1 Spring Framework介绍 119
4.1.2 Spring Framework周边生态项目介绍 121
4.2 FactoryBean的秘密 122
4.2.1 FactoryBean的作用及使用场景 123
4.2.2 FactoryBean实现原理及示例说明 124
4.3 Spring框架对于已有RPC框架集成的支持 127
4.3.1 Spring支持集成RPC框架介绍 127
4.3.2 基于RmiProxyFactoryBean 实现RMI与Spring的集成 128
4.3.3 基于HttpInvokerProxyFactoryBean实现HTTP Invoker与Spring的集成 131
4.3.4 基于HessianProxyFactoryBean实现Hessian与Spring的集成 133
4.4 实现自定义服务框架与Spring的集成 136
4.4.1 实现远程服务的发布 136
4.4.2 实现远程服务的引入 144
4.5 在Spring中定制自己的XML标签 150
4.6 本章小结 158
第5章 分布式服务框架注册中心 159
5.1 服务注册中心介绍 159
5.2 ZooKeeper实现服务的注册中心原理 161
5.2.1 ZooKeeper介绍 161
5.2.2 部署ZooKeeper 161
5.2.3 ZkClient使用介绍 164
5.2.4 ZooKeeper实现服务注册中心 173
5.3 集成ZooKeeper实现自己的服务注册与发现 175
5.3.1 服务注册中心服务提供方 175
5.3.2 服务注册中心服务消费方 176
5.3.3 服务注册中心实现 178
5.4 本章小结 189
第6章 分布式服务框架底层通信实现 190
6.1 Java I/O模型及I/O类库的进化 190
6.1.1 Linux下实现的I/O模型 190
6.1.2 Java语言实现的I/O模型 194
6.1.3 Java Classic I/O(Blocking I/O)介绍 194
6.1.4 Java Non-blocking I/O(NIO)介绍 211
6.1.5 NIO2及Asynchronous I/O介绍 233
6.2 Netty使用介绍 255
6.2.1 Netty开发入门 256
6.2.2 Netty粘包/半包问题解决 265
6.3 使用Netty构建服务框架底层通信 320
6.3.1 构建分布式服务框架Netty服务端 320
6.3.2 构建分布式服务框架服务调用端Netty客户端 330
6.4 本章小结 347
第7章 分布式服务框架软负载实现 348
7.1 软负载的实现原理 348
7.2 负载均衡常用算法 349
7.2.1 软负载随机算法实现 349
7.2.2 软负载加权随机算法实现 350
7.2.3 软负载轮询算法实现 351
7.2.4 软负载加权轮询算法实现 352
7.2.5 软负载源地址hash算法实现 354
7.3 实现自己的软负载机制 355
7.4 软负载在分布式服务框架中的应用 357
7.5 本章小结 361
第8章 分布式服务框架服务治理 362
8.1 服务治理介绍 362
8.2 服务治理的简单实现 364
8.2.1 服务分组路由实现 364
8.2.2 简单服务依赖关系分析实现 374
8.2.3 服务调用链路跟踪实现原理 380
8.3 本章小结 380
附录A 如何配置运行本书完成的分布式服务框架 381
推荐序
2015年,我写了自己的本书《架构探险:从零开始写Java Web框架》,书中记录了一款轻量级Java Web框架的整个开发过程。我将该框架取名为Smart Framework,因为我认为Java Web框架应该更容易上手,运行得更快,更加轻量级。
为何我要写“架构探险”?
我希望有更多看过这本书的朋友,能够对Java Web框架的底层原理更加清楚,不仅能熟练使用框架,而且还能知道框架底层都做了些什么,做到“知其然,知其所以然”,我认为所有的开发者都应该这样要求自己。
此外,我认为学习技术的有效方式就是分享,只有分享才能让自己得到更快的进步。但在分享之前,我们需要花时间去不断学习,这个学习过程也许是痛苦的,但当自己将所学技能分享出去的时候却是快乐的。不仅如此,我们通过分享还会收到大家更多的反馈,这些反馈能够帮助我们得到更加全面的成长。
架构和“探险”有何关系?
架构说简单点就是一堆技术、框架、工具的组合,至于怎么组合,这就非常考验架构师的经验和水平。一个优秀的架构,可以让开发效率变得更加高效,为企业节省更多的成本。程序员可将自己更多的精力放在业务需求的实现上,不会被底层的复杂技术细节所干扰。
架构师(或从事架构工作的人)就像是探险者一样,他们走在团队的前面,为大家铺路,带领大家找到成功捷径。此外,做架构工作不能照搬别人所谓的实践,而要根据自身实际情况,因地制宜地灵活选择,设计为合理的架构。架构的目的是为了让业务变得更加容易落地,降低开发成本与统一开发规范。架构师的职责就是避免大家踩坑,他们需要将自己的经验总结下来,并带领大家走正确的路。架构师不只是在体验探险的凶险和快乐,而是把探险所积累的经验沉淀下来,让后面更多的人从中受益。
架构探险是一种信仰
其实我们都在架构中探险,或许自己目前正身陷险境,我们希望得到一本“宝典”,教会自己应该如何找到架构的成功捷径。李业兵老师写的这本《架构探险:从零开始写分布式服务框架》就能顺利地带领我们走出险境,让我们对分布式服务框架所涉及的技术了然于胸,并能合理地利用这些技术,搭建符合自身需求的分布式服务框架。
这本书传递了“架构探险”的精神,让我更加深刻地感受到,其实架构探险是一种信仰,它指引我们在架构之路上继续前进。
黄勇·特赞科技CTO
2017年6月
前言
缘起
随着互联网浪潮风起云涌,互联网行业发展非常迅猛。此时将所有业务集中实现在一个应用上的做法已经满足不了公司及业务发展的需要了。基于面向服务体系架构来构建系统成了互联网架构师构建系统的不二选择,而面向服务体系架构能够落地的基础技术之一就是分布式服务框架。
要完全掌握分布式服务框架存在一定的技术门槛,市面上不乏一些非常出色的开源分布式服务框架。但对于新手而言,直接通过阅读源码来掌握分布式服务框架原理也并不是一件特别容易的事。
现在市面上也有专门的书籍来介绍分布式服务框架,但大都是从理论和方法论的角度来描述其原理的。有句俗语:“有些事,难不难,做了才知道;有些山,陡不陡,爬了才知道。”对于程序员来说,总是想通过具体的代码来了解一个分布式服务框架的实现细节,这样更为直观和深刻。为了帮助部分想了解分布式服务框架内部实现原理,甚至想自己实现一个分布式服务框架的读者,我写了这样一本介绍如何从零开始写一个分布式服务框架的书,希望能够对想了解分布式服务框架实现细节的读者有所帮助。
内容大纲
全书一共8章。按照分布式服务框架的各个组成部分及各个组成部分所需的知识点或者这些知识点适当的延伸来组织每一章节的内容。建议读者按照全书章节的组织顺序来阅读。
第1章主要介绍日常开发常用的RPC框架,包括RMI、CXF、Axis2、Thrift、gRPC、HttpClient,并就每一种RPC框架给出了实际可运行的代码示例,以及自己实现的一个简易版的RPC框架。
第2章对于基于服务体系架构做了介绍,对分布式服务框架总体架构及实现分布式服务框架所需的技术做了概要性介绍。
第3章介绍9种序列化/反序列化方案,每一种序列化/反序列化方案均给出了相应的代码示例,并给出了具体的选型建议。同时,将这9种序列化/反序列化实现集成在一起,实现了可配置化的序列化/反序列化工具引擎,终整合在分布式服务框架实现内部。
第4章对Spring做了概要性介绍。有针对性地对FactoryBean周边知识及如何使用FactoryBean实现分布式服务的发布和引入做了详细介绍并给出代码实现。
第5章介绍ZooKeeper常用知识及如何使用ZooKeeper实现服务的注册与发现,并给出了具体的代码实现。
第6章围绕系统之间底层通信相关的知识点来组织,从Java I/O 体系(阻塞I/O、NIO、NIO2)到Netty相关知识均做了详细介绍。后就使用Netty实现分布式服务框架底层通信给出了代码实现。
第7章介绍常用的软负载算法,并针对每一种算法给出了代码实现。同时将实现的多种软负载算法集成可配置的软负载工具引擎,终整合在分布式服务框架实现内部。
第8章介绍分布式服务框架服务治理相关的概念及方法论,并就部分服务治理功能给出了具体实现。
全书完整地实现了一个可以实际运行的分布式服务框架,全书所有代码均提供下载。
致谢
首先感谢我的妻子,在写书这段时间,宝宝的出生给了我人生中好的礼物,宝宝的咿呀学语、一个不经意的笑容都能给我莫大的支持和鼓励。
同时,感谢猫眼电影公司的同事和领导,给了我宽松的学习与工作氛围,学到了很多知识,也得到了很多成长的机会。
后,感谢辛苦劳作的编辑,本书能够出版有你们很大的一份功劳。
写在后
这本书偏向实战,会有很多代码实现细节的描述,全书完整的代码实现会另给下载链接。本书所实现的分布式服务框架并未经历严苛生产环境的考验,定有很多不足之处,希望日后有机会再继续完善。写书对我来说是一个比较大的挑战,因为一个技术点,自己能理解和会用文字表达出来让别人也能理解是完全不同的层次。心中特别忐忑,担心因为自己对知识理解不够深入,以及文字表达水平不够,导致对读者有所误导。书中难免有错误和疏漏之处,在此恳请读者批评指正。
李业兵
前言
缘起
随着互联网浪潮风起云涌,互联网行业发展非常迅猛。此时将所有业务集中实现在一个应用上的做法已经满足不了公司及业务发展的需要了。基于面向服务体系架构来构建系统成了互联网架构师构建系统的不二选择,而面向服务体系架构能够落地的基础技术之一就是分布式服务框架。
要完全掌握分布式服务框架存在一定的技术门槛,市面上不乏一些非常出色的开源分布式服务框架。但对于新手而言,直接通过阅读源码来掌握分布式服务框架原理也并不是一件特别容易的事。
现在市面上也有专门的书籍来介绍分布式服务框架,但大都是从理论和方法论的角度来描述其原理的。有句俗语:“有些事,难不难,做了才知道;有些山,陡不陡,爬了才知道。”对于程序员来说,总是想通过具体的代码来了解一个分布式服务框架的实现细节,这样更为直观和深刻。为了帮助部分想了解分布式服务框架内部实现原理,甚至想自己实现一个分布式服务框架的读者,我写了这样一本介绍如何从零开始写一个分布式服务框架的书,希望能够对想了解分布式服务框架实现细节的读者有所帮助。
内容大纲
全书一共8章。按照分布式服务框架的各个组成部分及各个组成部分所需的知识点或者这些知识点适当的延伸来组织每一章节的内容。建议读者按照全书章节的组织顺序来阅读。
第1章主要介绍日常开发常用的RPC框架,包括RMI、CXF、Axis2、Thrift、gRPC、HttpClient,并就每一种RPC框架给出了实际可运行的代码示例,以及自己实现的一个简易版的RPC框架。
第2章对于基于服务体系架构做了介绍,对分布式服务框架总体架构及实现分布式服务框架所需的技术做了概要性介绍。
第3章介绍9种序列化/反序列化方案,每一种序列化/反序列化方案均给出了相应的代码示例,并给出了具体的选型建议。同时,将这9种序列化/反序列化实现集成在一起,实现了可配置化的序列化/反序列化工具引擎,终整合在分布式服务框架实现内部。
第4章对Spring做了概要性介绍。有针对性地对FactoryBean周边知识及如何使用FactoryBean实现分布式服务的发布和引入做了详细介绍并给出代码实现。
第5章介绍ZooKeeper常用知识及如何使用ZooKeeper实现服务的注册与发现,并给出了具体的代码实现。
第6章围绕系统之间底层通信相关的知识点来组织,从Java I/O 体系(阻塞I/O、NIO、NIO2)到Netty相关知识均做了详细介绍。后就使用Netty实现分布式服务框架底层通信给出了代码实现。
第7章介绍常用的软负载算法,并针对每一种算法给出了代码实现。同时将实现的多种软负载算法集成可配置的软负载工具引擎,终整合在分布式服务框架实现内部。
第8章介绍分布式服务框架服务治理相关的概念及方法论,并就部分服务治理功能给出了具体实现。
全书完整地实现了一个可以实际运行的分布式服务框架,全书所有代码均提供下载。
致谢
首先感谢我的妻子,在写书这段时间,宝宝的出生给了我人生中好的礼物,宝宝的咿呀学语、一个不经意的笑容都能给我莫大的支持和鼓励。
同时,感谢猫眼电影公司的同事和领导,给了我宽松的学习与工作氛围,学到了很多知识,也得到了很多成长的机会。
后,感谢辛苦劳作的编辑,本书能够出版有你们很大的一份功劳。
写在后
这本书偏向实战,会有很多代码实现细节的描述,全书完整的代码实现会另给下载链接。本书所实现的分布式服务框架并未经历严苛生产环境的考验,定有很多不足之处,希望日后有机会再继续完善。写书对我来说是一个比较大的挑战,因为一个技术点,自己能理解和会用文字表达出来让别人也能理解是完全不同的层次。心中特别忐忑,担心因为自己对知识理解不够深入,以及文字表达水平不够,导致对读者有所误导。书中难免有错误和
随着微服务的流行,支撑微服务的分布式服务框架成为大家优先发展的重点。服务化的基本原理掌握起来相对比较容易,但是要从零构建一个分布式服务框架却比较困难,涉及通信、线程并发、服务调度等。本书详细讲解了构建服务框架所需的各种技术及框架选型,手把手教初学者搭建一套完整的分布式服务框架,如果你想掌握分布式服务框架底层的技术细节,自己开发一套适合本公司和领域的服务框架,本书是一个非常不错的选择!
——华为架构师,《分布式服务框架原理与实践》《Netty权威指南》作者 李林锋
简洁明了的文字把技术介绍得深入浅出,实战操练的代码透漏出作者身经百战的深厚功力,通过本书不仅可以快速全面地了解和上手分布式服务框架开发技术,还能通过技术原理和内部实现的分析介绍,提升我们对技术的理解和洞察力。
——猫眼电影技术负责人 陈清阳
基于服务调用相关知识,业界已产出了不少技术书籍。本书汲取各家之精华,不同技术层级的人通过不同的章节都能获得极大的收获。更为难能可贵的是,作者是一个长期战斗在工程一线,一步一步成长起来的美团-大众点评技术专家,设计过大量的工程框架并主导开发实现,经受住了多种复杂业务形态的考验。凭借着作者本人多年的积累,凝聚出了书中丰富的示例和经验总结。通过这些示例和经验总结,内容逐渐深入,全方位揭示了服务间通信的各项技术关键点,能有效地帮助读者从新手成长为专家。
——美团点评高级技术专家(原美团点评技术委员会委员) 黄波
本书比较全面地介绍了分布式系统开发的各方面知识,循序渐进,实例代码比较多,非常适合初入分布式开发并且有Java开发经验的人员参考学习。
——香格里拉酒店集团副总裁(原去哪儿网高级系统架构师) 孙立
其实我们都在架构中探险,或许自己目前正身陷险境,我们希望得到一本“宝典”,教会自己如何找到架构的成功捷径。李业兵老师写的这本《架构探险:从零开始写分布式服务框架》就能顺利地带领我们走出险境,让我们对分布式服务框架所涉及的技术了然于胸,并能合理地利用这些技术,搭建符合自身需求的分布式服务框架。
——特赞科技 CTO 黄勇·
7.2 负载均衡常用算法
负载均衡常用算法主要有随机、加权随机、轮询、加权轮询、源地址hash等。
7.2.1
软负载随机算法实现
随机算法原理为:获取服务列表大小范围内的随机数,将该随机数作为列表索引,从服务提供列表中获取服务提供者。
为负载均衡策略算法定义接口如下:
public interface ClusterStrategy {
public ProviderService select(List
providerServices);
}
其中接口方法入参providerServices为服务提供者列表。
软负载随机算法的实现过程如下。
import
ares.remoting.framework.cluster.ClusterStrategy;
import
ares.remoting.framework.model.ProviderService;
import org.apache.commons.lang3.RandomUtils;
import java.util.List;
public class RandomClusterStrategyImpl
implements ClusterStrategy {
@Override
public ProviderService select(List
providerServices) {
int MAX_LEN = providerServices.size();
int index = RandomUtils.nextInt(0, MAX_LEN – 1);
return providerServices.get(index);
}
}
实现原理:获得服务提供者列表大小区间之间的随机数,作为服务提供者列表的索引来获取服务。
7.2.2
软负载加权随机算法实现
加权随机算法在随机算法的基础上针对权重做了处理。软负载加权随机算法实现代码如下。
import ares.remoting.framework.cluster.ClusterStrategy;
import
ares.remoting.framework.model.ProviderService;
import com.google.common.collect.Lists;
import
org.apache.commons.lang3.RandomUtils;
import java.util.List;
public class
WeightRandomClusterStrategyImpl implements ClusterStrategy {
@Override
public ProviderService select(List
providerServices) {
//存放加权后的服务提供者列表
List providerList = Lists.newArrayList();
for (ProviderService provider : providerServices) {
int weight = provider.getWeight();
for (int i = 0; i < weight; i ) {
providerList.add(provider.copy());
}
}
int MAX_LEN = providerList.size();
int index = RandomUtils.nextInt(0, MAX_LEN – 1);
return providerList.get(index);
}
}
实现原理:首先根据加权数放大服务提供者列表,比如服务提供者A加权数为3,放大之后变为A,A,A,存放在新的服务提供者列表,然后对新的服务提供者列表应用随机算法。
7.2.3
软负载轮询算法实现
轮询算法,将服务调用请求按顺序轮流分配到服务提供者后端服务器上,均衡对待每一台服务提供者机器。软负载轮询算法实现代码如下。
import
ares.remoting.framework.cluster.ClusterStrategy;
import
ares.remoting.framework.model.ProviderService;
import java.util.List;
import java.util.concurrent.TimeUnit;
import java.util.concurrent.locks.Lock;
import
java.util.concurrent.locks.ReentrantLock;
public class PollingClusterStrategyImpl
implements ClusterStrategy {
//计数器
private int index = 0;
private Lock lock = new ReentrantLock();
@Override
public ProviderService select(List
providerServices) {
ProviderService service = null;
try {
lock.tryLock(10, TimeUnit.MILLISECONDS);
//若计数大于服务提供者个数,将计数器归0
if (index >= providerServices.size()) {
index = 0;
}
service = providerServices.get(index);
index ;
} catch (InterruptedException e) {
e.printStackTrace();
} finally {
lock.unlock();
}
//兜底,保证程序健壮性,若未取到服务,则直接取第1个
if (service == null) {
service = providerServices.get(0);
}
return service;
}
}
实现原理:依次按顺序获取服务提供者列表中的数据,并使用计数器记录使用过的数据索引,若数据索引到后一个数据,则计数器归零,重新开始新的循环。
7.2.4
软负载加权轮询算法实现
加权轮询算法是在轮询算法的基础上对权重做了处理。软负载加权轮询算法实现代码如下。
import
ares.remoting.framework.cluster.ClusterStrategy;
import
ares.remoting.framework.model.ProviderService;
import com.google.common.collect.Lists;
import java.util.List;
import java.util.concurrent.TimeUnit;
import java.util.concurrent.locks.Lock;
import
java.util.concurrent.locks.ReentrantLock;
public class
WeightPollingClusterStrategyImpl implements ClusterStrategy {
//计数器
private int index = 0;
private Lock lock = new ReentrantLock();
@Override
public ProviderService select(List
providerServices) {
ProviderService service = null;
try {
lock.tryLock(10, TimeUnit.MILLISECONDS);
//存放加权后的服务提供者列表
List providerList = Lists.newArrayList();
for (ProviderService provider :
providerServices) {
int weight =
provider.getWeight();
for (int i = 0; i < weight;
i ) {
providerList.add(provider.copy());
}
}
//若计数大于服务提供者个数,将计数器归0
if (index >= providerList.size()) {
index = 0;
}
service = providerList.get(index);
index ;
return service;
} catch (InterruptedException e) {
e.printStackTrace();
} finally {
lock.unlock();
}
//兜底,保证程序健壮性,若未取到服务,则直接取第1个
return providerServices.get(0);
}
}
实现原理:首先根据加权数放大服务提供者列表,再在放大后的服务提供者基础上使用轮询算法获取服务提供者。
7.2.5
软负载源地址hash算法实现
源地址hash算法实际是利于请求来源的IP的hashcode对服务提供者列表大小取模,得到服务提供者列表索引,进而获取到服务提供者。软负载源地址hash算法实现代码如下。
import
ares.remoting.framework.Helper.IPHelper;
import
ares.remoting.framework.cluster.ClusterStrategy;
import
ares.remoting.framework.model.ProviderService;
import java.util.List;
public class HashClusterStrategyImpl
implements ClusterStrategy {
@Override
public ProviderService select(List
providerServices) {
//获取调用方IP
String localIP = IPHelper.localIp();
//获取源地址对应的hashcode
int hashCode = localIP.hashCode();
//获取服务列表大小
int size = providerServices.size();
return providerServices.get(hashCode % size);
}
}
实现原理:使用调用方IP地址的hash值,将服务列表大小取模后的值作为服务列表索引,根据该索引取值。
评论
还没有评论。