掌握之分布式-2.Zookeeper-创新互联

掌握高并发、高可用架构

第三章 分布式

本章介绍分布式架构的底层技术。主要说明面试过程中可能被问到的技术点。

10年积累的成都网站建设、做网站经验,可以快速应对客户对网站的新想法和需求。提供各种问题对应的解决方案。让选择我们的客户得到更好、更有力的网络服务。我虽然不认识你,你也不认识我。但先网站策划后付款的网站建设流程,更有卓资免费网站建设让你可以放心的选择与我们合作。
第二节 Zookeeper

Zookeeper 分布式

1. Zookeeper是什么

Zookeeper是一个分布式的、开源的分布式应用程序协调服务。它是集群的管理者,监视着集群中各个节点的状态,并根据节点提交的反馈进行下一步合理的操作。

对于客户端的读操作,可以被集群中任意一台机器处理。如果读请求在节点上注册了监听器,这个监听器也是由所连接的机器来执行

对于客户端的写操作,这些请求会同时发给其他的zookeeper机器并达成一致后,请求才会返回成功

因此,随着集群机器的增多,读请求的吞吐会提高,而写请求的吞吐会下降

有序性是Zookeeper的另一个特点,所有的更新操作都是全局有序的;每个更新都有唯一的时间戳,称为zxid(Zookeeper Transaction Id);而读请求只会相对于更新有序,也就是读请求的返回结果中会带有这个zookeeper的最新zxid

2. Zookeeper提供了什么

文件系统 和 通知机制

3. Zookeeper文件系统

Zookeeper提供了一个多层级的节点命名空间(节点称为znode)

与文件系统不同的是,它的每个节点都可以设置关联数据,而文件系统只有文件节点可以存放数据而目录节点不行

Zookeeper为了保证高吞吐和低延迟,在内存中维护了这个树状的目录结构,所以它不能存放大量的数据,每个节点的存放数据上限是1M

4. 四种类型的znode
  1. PERSISTENT,持久化目录节点:客户端与Zookeeper断开连接后,该节点依旧存在
  2. PERSISTENT_SEQUENTIAL,持久化顺序编号目录节点:客户端与Zookeeper断开连接后,该节点依旧存在,只是Zookeeper给该节点名称进行顺序编号
  3. EPHEMERAL,临时目录节点:客户端与Zookeeper断开连接后,该节点被删除
  4. EPHEMERAL_SEQUENTIAL,临时顺序编号目录节点:客户端与Zookeeper断开连接后,该节点被删除,只是Zookeeper给该节点名称进行顺序编号
5. Zookeeper通知机制

客户端注册监听它关心的目录节点,会对该znode建立一个watcher事件,当该znode发生变化(数据删除、被删除、子目录节点增加删除等)时,Zookeeper会通知客户端

掌握之分布式-2.Zookeeper

6. Zookeeper可以做什么
  1. 命名服务(利用文件系统的功能):

​ 命名服务是指通过指定的名字来获取资源或服务的地址,即利用Zookeeper创建一个全局的路径,也就是唯一的路径,这个路径可以作为一个名字,指向集群中的机器、提供服务的地址、一个远程对象等

  1. 配置管理(利用文件系统、通知机制):

​ 程序分布式的部署在不同的机器上,将程序的配置信息放在zookeeper的znode下,当配置发生变化时,也就是znode发生变化时,利用watcher通知各个客户端,从而更改配置

  1. 集群管理(文件系统、通知机制):

​ 所谓集群管理无非两点,是否有机器退出或加入、选举master

​ 第一点,所有机器约定在父目录下创建临时目录节点,然后监听父目录节点的子节点变化信息;如果有机器挂了,该机器就会与Zookeeper断开连接,其创建的临时目录就会删除,此时就会通知所有机器,有个兄弟机器挂了;同理,机器加入也是一样

​ 第二点,所有机器创建临时顺序编号目录节点,每次都选取编号最小的机器作为master

  1. 分布式锁(文件系统、通知机制):

​ 有了Zookeeper的一致性文件系统,锁变得简单。锁服务可以分为两类:保持独占控制时序

​ 对于保持独占,我们将znode看作一把锁,通过createznode的方式来实现;所有客户端都去创建/distribute_lock节点,最终成功创建的那个客户端也就获取了这把锁,用完删掉/distribute_lock节点,即可释放锁

​ 对于控制时序,/distribute_lock已经预先存在,所有客户端在它下面创建临时顺序编号目录节点,和选举master一样,编号最小的获得锁,用完删除自己的临时顺序编号目录节点

  1. 队列管理(文件系统、通知机制):
    • 同步队列,只有队列成员都聚齐时才可用,否则一直等待:在约定目录下创建临时目录节点,查看监听节点的数量是否是我们要求的数量
    • 队列按照FIFO方式进行入队和出队操作:和分布式锁的控制时序的基本原理一致,在特定目录下创建持久顺序编号目录节点,创建成功则Watcher通知等待的队列,删除最小号的节点用于消费
7. 获取分布式锁的过程

在分布式锁的场景下,会提前在Zookeeper中创建一个持久节点ParentLocker(名字叫什么都可以)

当客户端要获取锁时,需要在ParentLocker下创建一个临时顺序编号节点Locker-n,首先,查找ParentLocker下的所有临时子节点并排序,并且判断自己创建的Locker-n是不是顺序编号最小的,如果是,则临时节点Locker-n创建成功,也就是获取锁成功;如果不是最小的,此时找到排序仅比自己靠前的节点,向其注册监听Watcher,监听其是否存在(exist),也就是该客户端获取锁失败,进入等待;当前一个节点被删除时,客户端会收到通知,然后再次判断自己是不是最小的,如果是则获取锁成功,如果不是,则再重复以上步骤
掌握之分布式-2.Zookeeper

掌握之分布式-2.Zookeeper

8. Zookeeper的工作原理

Zookeeper的核心是原子广播,保证了各个Server之间的同步;实现这个机制的协议叫做Zab协议。Zab协议有两种模式,恢复模式(选主)广播模式(同步)。当服务启动或者领导者崩溃后,Zab进入恢复模式;当选举了新的领导者,并且大多数Server和leader的状态同步完成之后,恢复模式就结束了。状态同步保证了leader和server之间有相同的系统状态

9. Zookeeper如何保证事务的一致性

采用递增的事务ID:zxid来标识,所有的proposal(提议)都会加上zxid。zxid是64位的数字,高32位是epoch,用来标识leader是否发生变化,如果是新选举的leader,则epoch会递增;低32位是递增计数的。当有新的proposal提出时,首先向其他server发出事务执行请求,如果有超过半数的机器都能执行且能够执行成功,然后才会开始执行

10. Zookeeper的Server工作状态
  • LOOKING,当前server不知道leader是谁,正在搜索
  • LEADING,当前server为leader
  • FOLLOWING,普通server,与leader进行同步
11. Zookeeper是如何选举leader的

当leader崩溃或失去大多数follower,这时会进入恢复模式。选举算法有两种:一种是基于basic paxos实现的,一种是基于fast paxos实现的,默认是fast paxos。

  • basic paxos算法

    a) 每个Server上的选举线程由当前Server发起选举的线程担任,主要职责是对各个投票结果进行统计,选举 出新的leader

    b) 选举线程向所有Server发起一次询问(包括自己)

    c) 选举线程收到回复后,验证是否是自己发出的询问(验证zxid是否一致),然后获取对方的myid,将之存储到当前询问的对象列表中,最后获取对方提议的leader相关信息(myid,zxid),存储到当次选举的投票记录中

    d) 收到所有的Server回复后,计算出zxid大的Server,然后统计它的票数,如果它获得了n/2+1的Server票数,则设置为新的leader。否则,重新再次选举

    通过该选举流程可以得出,要使leader获得多数Server的支持,Server的总数必须是奇数2n+1,且存活的Server数目不得少于n+1
    掌握之分布式-2.Zookeeper

  • fast paxos算法

    在选举时,首先向所有Server提议自己要成为leader,当其他Server收到提议后,会进行PK(zxid大myid大的获胜),并回复同意还是拒绝,重复这个流程,就会选择出一个新的leader

12. 同步流程

选完leader后,进入同步流程

  1. leader等待server连接
  2. follower连接leader,将自己大的zxid发送给leader
  3. leader根据follower的zxid判断同步点
  4. 完成同步后通知follower已成为uptodate状态
  5. follower收到uptodate通知后,就可以接收客户端的请求了
13. Zookeeper的负载均衡和NGINX的负载均衡

zk的负载均衡可以调控,nginx只能调权重,其他的都要自己写插件,但是nginx的吞吐量比zk大得多

14. watch机制

一个watch事件是一个一次性的触发器,当被设置了watch的数据发生了变化时,服务器会将这个变化发送给设置了watch的客户端

  1. 数据发生改变时,一个watch event会被发送给客户端,但是只会发送一次
  2. watch event从server发送到client是异步的,只保证数据的最终一致性
  3. getData()、exists()设置数据监控,getChildren()设置子节点监控
  4. 注册watcher:getData、exists、getChildren
  5. 触发watcher:create、delete、setData
  6. setData()成功的话会触发当前znode的数据监控;create()成功的话会触发当前znode的数据监控,以及父节点的子节点监控;delete()成功的话会触发当前znode的数据监控和子节点监控(因为子节点也发生了变化),以及其父节点的子节点监控
  7. 当客户端与服务器断开连接后,是无法收到watch事件的,而当客户端重新连接后,如果有需要的话,之前注册的watch会被重新注册的
  8. Watch是轻量级的,其实就是本地的Callback(客户端创建连接时,public Zookeeper(String connStr, int sessionTimeout, Watcher watcher)),服务器端只是存储了是否设置了watch的布尔变量

另外有需要云服务器可以了解下创新互联scvps.cn,海内外云服务器15元起步,三天无理由+7*72小时售后在线,公司持有idc许可证,提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案,具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势,专为企业上云打造定制,能够满足用户丰富、多元化的应用场景需求。


新闻名称:掌握之分布式-2.Zookeeper-创新互联
网页URL:http://csdahua.cn/article/dgchie.html
扫二维码与项目经理沟通

我们在微信上24小时期待你的声音

解答本文疑问/技术咨询/运营咨询/技术建议/互联网交流