Linux集群和自动化运维

高级运维架构师、资深系统运维工程师十余年工作经验总结，姊妹篇《构建高可用Linux服务器》被《程序员》杂志和51CTO等*威媒体评为“10大*具技术影响力的图书”和“*受读者喜爱的原创图书”。

　　一线运维人员实际工作总结和提练，所涉及的知识点涵盖了目前流行的运维技术。

　　基于笔者一线运维工作提炼，从Linux集群经典案例分享、Python自动化运维和亿级PV网站架构设计等多角度讲解，以实践案例指导读者掌握到Linux系统集群和自动化运维技巧及如何设计高并发高流量网站架。 

本书是Linux运维领域公认的经典畅销书《构建高可用Linux服务器》的姊妹篇，是积笔者多年的经验结晶和*佳实践，也是笔者多年以来的一线运维工作的总结和心血。

　　本书*大的特点就是与实践紧密结合，所有理论知识、方法、技巧和案例都来自实际环境，涵盖了生产环境下的Shell和Python脚本、
Pupet自动化配置管理及Python自动化运维（Fabric及Ansible）、高可用Linux集群构建及亿级PV网站架构设计等主题。笔者在传
统运维的基础上，结合了现阶段*流行的AWS云计算运维技术，跟大家分享了流行的Linux集群和自动化运维知识体系，方便大家结合自己的实际工作场景来
设计自己网站的系统架构。

余
洪春（抚琴煮酒），高级运维架构师、资深运维工程师，在电子商务领域及云计算领域工作10多年，在Linux集群、自动化运维、DevOps及高并发高流
量网站架构设计等方面进行了深入的研究；在大量一线实践中积累了丰富的经验。精通负载均衡高可用和Python自动化运维技术，擅长高流量高性能网站架构
设计。51CTO和ChinaUnix等知名社区特邀专家，ChinaUnix论坛“集群和高可用”及“监控及自动化运维技术”版版主，在社区内发表了大
量技术文章，深受社区网友好评。

目录  Contents

 

推荐序一

推荐序二

前　　言

第1章　系统架构设计的构建基础1

1.1　网站架构设计相关术语1

1.1.1　什么是HTTP 1.11

1.1.2　什么是Web 2.02

1.1.3　软件开发C/S结构与B/S结构的区别3

1.1.4　评估网站性能的专业术语5

1.2　IDC机房的选择及CDN的选型6

1.3　如何根据服务器应用选购服务器7

1.4　CentOS 6.4 x86_64小化安装后的优化13

1.4.1　系统的基础优化13

1.4.2　优化Linux下的内核TCP参数以提高系统性能19

1.4.3　CentOS 6.4 x86_64系统小化优化脚本22

1.4.4　Linux下CPU使用率与机器负载的关系与区别23

1.5　MySQL数据库的优化25

1.5.1　服务器物理硬件的优化25

1.5.2　利用tuning-primer脚本来调优MySQL数据库25

1.6　小结28

第2章　生产环境下的Shell和Python脚本29

2.1　Shell和Python语言的简单介绍29

2.2　Shell编程基础30

2.2.1　Shell脚本的基本元素30

2.2.2　Shell特殊字符31

2.2.3　变量和运算符31

2.3　Shell中的控制流结构42

2.4　sed的基础用法及实用示例45

2.4.1　sed的基础语法格式46

2.4.2　sed的用法示例51

2.5　awk的基础用法及实用示例56

2.6　生产环境下的Shell和Python脚本分类61

2.6.1　备份类脚本62

2.6.2　统计类脚本66

2.6.3　监控类脚本69

2.6.4　开发类脚本72

2.6.5　自动化类脚本78

2.7　小结80

第3章　轻量级自动化运维工具Fabric详解81

3.1　Python语言的应用领域81

3.2　选择Python的原因83

3.3　Python的版本说明83

3.4　增强的交互式环境IPython84

3.5　Python(x,y)介绍85

3.6　轻量级自动化运维工具Fabric介绍86

3.6.1　Fabric的安装87

3.6.2　命令行入口fab命令详解88

3.6.3　Fabric的核心API88

3.7　Fabric应用实例92

3.7.1　开发环境中的Fabric应用实例92

3.7.2　线上环境中的Fabric应用实例93

3.8　小结96

第4章　自动化部署管理工具Ansible简介97

4.1　YAML语言介绍99

4.2　Ansible的安装步骤 101

4.3　利用ssh-keygen设置SSH无密码登录105

4.4　Ansible常用模块介绍107

4.5　playbook介绍121

4.6　角色126

4.7　Jinja2过滤器132

4.8　小结136

第5章　自动化配置管理工具Puppet137

5.1　Puppet的基本概念及介绍137

5.1.1　Puppet简介137

5.1.2　学习Puppet应该掌握Ruby基础138

5.1.3　Puppet的基本概念及工作流程介绍138

5.2　安装Puppet前的准备工作140

5.3　Puppet的详细安装步骤141

5.4　Puppet的简单文件应用 145

5.5　Puppet的进阶操作152

5.5.1　如何同步Puppet-Client端上的常用服务152

5.5.2　如何在Puppet-Client端自动安装常用的软件包153

5.5.3　如何自动同步Puppet-Client端的yum源153

5.5.4　如何根据不同名字的节点机器推送不同的文件155

5.5.5　如何根据节点机器名选择性地执行Shell程序158

5.5.6　如何快速同步Puppet-Server端的www目录文件160

5.5.7　如何利用ERB模板来自动配置Apache虚拟主机165

5.5.8　如何利用ERB模板来自动配置Nginx虚拟主机168

5.6　Puppet的负载均衡方式172

5.7　用GitHub来管理Puppet配置文件173

5.8　小结176

第6章　Linux防火墙及系统安全篇177

6.1基础网络知识177

6.1.1OSI网络参考模型177

6.1.2TCP/IP三次握手的过程详解178

6.1.3Socket应用及其他基础网络知识181

6.2Linux防火墙的概念182

6.3Linux防火墙在企业中的应用183

6.4Linux防火墙的语法184

6.5iptables的基础知识188

6.5.1iptables的状态state188

6.5.2iptables的conntrack记录190

6.5.3关于iptables模块的说明191

6.5.4iptables防火墙初始化的注意事项192

6.5.5如何保存运行中的iptables规则192

6.6如何流程化编写iptables脚本193

6.7学习iptables应该掌握的工具 196

6.7.1　命令行的抓包工具TCPDump196

6.7.2图形化抓包工具Wireshark197

6.7.3强大的命令行扫描工具Nmap200

6.8iptables简单脚本：Web主机防护脚本203

6.9线上生产服务器的iptables脚本204

6.9.1安全的主机iptables防火墙脚本205

6.9.2自动分析黑名单及白名单的iptables脚本207

6.9.3利用recent模块限制同一IP的连接数210

6.9.4利用DenyHosts工具和脚本来防止SSH暴力破解214

6.10TCP_Wrappers应用级防火墙的介绍和应用218

6.11工作中的Linux防火墙总结220

6.12Linux服务器基础防护知识221

6.13Linux服务器高级防护知识222

6.14如何防止入侵222

6.15小结223

第7章　Linux集群及项目案例分享224

7.1负载均衡高可用核心概念及常用软件224

7.1.1什么是负载均衡高可用224

7.1.2以F5 BIG-IP作为负载均衡器225

7.1.3以LVS作为负载均衡器226

7.1.4以Nginx作为负载均衡器230

7.1.5以HAProxy作为负载均衡器231

7.1.6高可用软件Keepalived232

7.1.7高可用软件Heartbeat233

7.1.8高可用块设备DRBD233

7.1.9四、七层负载均衡工作流程对比235

7.2负载均衡关键技术237

7.2.1什么是Session237

7.2.2什么是Session共享237

7.2.3什么是会话保持238

7.3负载均衡器的会话保持机制239

7.3.1LVS的会话保持机制239

7.3.2Nginx负载均衡器中的ip_hash算法244

7.3.3HAProxy负载均衡器的source算法244

7.3.4服务器健康检测技术249

7.4Linux集群的项目案例分享250

7.4.1案例分享一：用Nginx Keepalived实现在线票务系统250

7.4.2案例分享二：企业级Web负载均衡高可用之Nginx Keepalived253

7.4.3案例分享三：Nginx主主负载均衡架构265

7.4.4案例分享四：生产环境下的高可用NFS文件服务器270

7.4.5案例分享五：生产环境下的MySQL
DRBD双机高可用280

7.4.6案例分享六：生产环境下的MySQL数据库主从同步293

7.4.7案例分享七：HAProxy双机高可用方案之HAProxy Keepalived303

7.4.8案例分享八：巧用DNS轮询做负载均衡308

7.5软件级负载均衡器的特点介绍与对比313

7.6网站系统架构设计图315

7.7小结316

第8章　浅谈网站系统架构设计318

8.1网站架构设计规划预案318

8.1.1利用经验，合理设计318

8.1.2规划好网站未来的发展319

8.1.3合理选用开源软件方案319

8.1.4机房及CDN选型319

8.1.5节约成本320

8.1.6安全备份320

8.2百万级PV高可用网站架构设计321

8.3千万级PV高性能高并发网站架构设计323

8.4亿级PV高性能高并发网站架构设计327

8.5细分五层解说网站架构333

8.6小结335

附录A　HAProxy 1.4的配置文档336

附录B　rsync及inotify在工作中的应用343

附录C　用Supervisor批量管理进程355

为什么要写这本书笔者从事系统运维和网站架构设计的工作已有10多年，现在在一家外企担任云平台架构师。云计算是现在的主流技术，未来也有很好的发
展趋势，云计算的流行对于传统的运维知识体系来说，其实也造成了冲击，有很多读者经常向笔者咨询工作中的困惑，比如从事系统运维工作3～5年后就不知道该
如何继续学习和规划自己的职业生涯了。因此笔者想通过此书，跟大家分享一下自己的工作经验和心得（包括传统运维和云平台运维工作的区别与对比），以期解决
大家在工作中的困惑。本书提供了大量项目实践和线上案例，希望能让大家迅速了解Linux运维人员的工作职责，快速进入工作状态并找到成长方向。希望大家
通过阅读此书，能够掌握Linux系统集群和自动化运维及网站架构设计的精髓，从而能够轻松愉快地工作，并提升自己的职业技能，这就是笔者写作此书的初
衷。

　　运维架构师之路在成为运维架构师之前，笔者从事过很长一段时间的系统集成、运维和管理工作，在CDN门户网站、电子广
告、电子商务领域也有不少的沉淀和积累，在之前的《构建高可用Linux服务器》一书中已经跟大家分享了很多跟Linux集群有关的知识。笔者目前的主要
工作职责是维护和优化公司的DSP电子广告业务平台，主要方向是云计算和大数据方面。需要维护的数据中心和机器数量非常之多，所以自动化运维和
DevOps是目前的主要工作方向，此外，也会涉及网站架构设计及调优工作，因此在此书中特意将这部分工作经验分享出来，希望大家能从中学到新的知识体
系，借以提升自己的职业技能。

　　读者对象本书适合以下读者阅读。

　　中高级系统管理员系统架构设计师
高级程序开发人员运维开发工程师如何阅读本书本书是笔者对实际工作中积累的技术和经验所做的总结，涉及大量的知识点和专业术语。全书总共分为三大部分，第
一部分包含第1章和第2章，主要讲解进行系统架构设计的软硬件环境，以及生产环境下的Shell脚本和Python脚本。其中，第2章的内容是以
Shell为主，Python为辅，Shell部分讲得比较详细，Python部分需要重点关注的地方也有所提及。之所以这样安排，主要是考虑到大多数搞
开发的读者或DevOps工程师都是Java程序员出身，对Shell脚本语言不是很熟悉。第二部分包含第3章、第4章和第5章，主要讲自动化运维，包括
Fabric、Ansibel和Puppet三大工具，大家可以结合自己的实际环境来选择对应的工具。第三部分包含第6章、第7章和第8章，主要讲的是
Linux集群和网站架构设计，特别是第8章，分别以百万PV、千万PV及亿级PV的网站为例来详细说明网站系统架构设计的相关技术，然后细分五层来解说
网站的架构，并指出了设计网站的压力及关注点所在。 大家可以根据自己的职业发展和工作需求来选择不同的章节进行阅读或学习。
关于本书中的配置文件、Shell脚本和Python脚本的编号，这里也略作说明，比如1.5.3节中有1.sh，表示这是1.5.3节的个
Shell脚本；如果是2.py，则表示是1.5.3节的第二个Python脚本；其他依此类推，在哪个章节中出现的配置文件或脚本就在哪个章节中寻找，
这样对照起来阅读理解会比较方便。此外，书中多次出现的Nginx配置文件nginx.conf也在对应的章节里。

　　勘误尽管
笔者花费了大量的时间和精力来核对文件和语法，但书中难免还会存在一些错误和纰漏，如果大家发现有任何问题，都请及时反馈给我，相关信息可以发到个人邮箱
[email protected]。尽管无法保证对于每一个问题都会有一个正确答案，但我肯定会努力回答并且指出一个正确的方向。

　　致谢感谢爱女媛媛的出生，你的降临是上天赐给我的好礼物，是我进行写作的源泉和动力。

　　感谢我的家人，他们在生活上对我的照顾无微不至，让我有更多的精力和动力去工作和创作。

　　感谢好友三宝这么多年来对我的信任和支持，从始至终一直都在支持和信任我。

　　感谢机械工业出版社华章公司的编辑杨福川和杨绣国，在你们的信任、支持和帮助下，我才能如此顺利地完成全部书稿。

　　感谢好友老男孩和刘天斯，闲暇之余和你们一起交流开源技术和发展趋势，也是一种享受。

　　感谢Linux之父—Linus Torvalds，他不仅创造了Linux系统，而且还创造了Git这么神奇的版本管理软件。

　　余洪春（抚琴煮酒）中国，武汉

随着计算机技术的发展，企业对Linux运维人员的能力要求越来越高，这就使得很多想入门运维的新手不知所措，望而却步，甚至努力了很久却仍然徘徊在运维
岗位的边缘；而有些已经工作了的运维人员也往往是疲于奔命，没有时间和精力去学习企业所需的新知识和新技能，从而使得个人的职业发展前景大大受限。

　　本书就是在这样的背景下诞生并致力于为上述问题提供解决方案的，本书是作者余洪春先生10多年来一线工作经验的“再”结晶，此前作者已经出版过Linux集群方向的图书（《构建高可用Linux服务器》），本次出版的书是作者对运维行业的再回馈。

　　——老男孩Linux实战运维培训中心总裁 老男孩

 

本书作者余洪春先生和我相识于ChinaUnix举办的一次技术交流活动——“千万级PV高性能高并发网站架构与设计交流”，
当时他已经在宣传自己的*一本著作——《构建高可用Linux服务器》，该书凝聚并整合了他多年来在一线工作的经验结晶，以至时至今日，该书仍是一本在国
内非常经典的运维原创著作，现在已经更新到第三版，这种对技术不断进行完善的坚持及工匠精神让我深深折服。这次能受邀为他的这本新书《Linux集群和自
动化运维》写推荐序，让我倍感荣幸。

　　本书覆盖了Linux集群服务的核心技术，同时还介绍了基于Python语言构建的主流自动化运维工具，包括Python脚本、
Fabric、Ansible等，这些都是DevOps工具元素周期表中*闪亮的内容，也是运维人员的技能。本书中分享的案例是余洪春先生多年实战经
验的精华，具有非常高的参考价值及借鉴意义。

　　——腾讯高级工程师 刘天斯