概述

Zookeeper是一个开源的分布式的,为分布式应用提供协调的Apache项目。

工作机制

Zookeeper从设计模式⻆度来理解:是一个基于观察者模式设计的分布式服务管理框架,它负责存储和管理大家都关心的数据,然后接受观察者的注册,一旦这些数据的状态发生变化,Zookeeper就将负责通知已经在Zookeeper上注册的那些观察者做出相应的反应。

特点

  1. Zookeeper:一个领导者(Leader),多个跟随者(Follower)组成的集群;
  2. 集群中只要有半数以上节点存活,Zookeeper集群就能正常服务;
  3. 全局数据一致:每个Server保存一份相同的数据副本,client无论连接到哪个S erver,数据都是一致的;
  4. 更新请求顺序进行,来自同一个Client的更新请求按其发送顺序依次执行;
  5. 数据更新原子性,一次数据更新要么成功,要么失败;
  6. 实时性,在一定时间范围内,Client能得到最新数据;

数据结构

Zookeeper数据模型的结构与Unix文件系统很类似,整体上可以看作是一颗树,每个节点称作一个 ZNode。每一个ZNode默认能够存储1MB的数据,每个ZNode都可以通过其路径唯一标识。

应用场景

提供的服务包括:统一命名服务、统一配置管理、统一集群管理、服务器节点动态上下线、软负载均衡等。

统一命名服务:

在分布式环境下,经常需要对应用/服务进行统一命名,便于识别。
例如:IP不容易记住,而域名容易记住。

统一配置管理

  1. 分布式环境下,配置文件同步非常常⻅。
  • a. 一般要求一个集群中,所有节点的配置信息是一致的,比如kafka集群;
  • b. 对配置文件修改后,希望能够快速同步到各个节点上;
  1. 配置管理可交由Zookeeper实现。
  • a. 可将配置信息写入Zookeeper上的一个Znode.;
  • b. 各个客戶端服务器监听这个Znode;
  • c. 一旦Znode中的数据被修改,Zookeeper将通知各个客戶端服务器。

统一集群管理

分布式环境中,实时掌握每个节点的状态是必要的,可根据节点实时状态做出一些调整。
ZooKeeper可以实现实时监控节点状态变化:

  • 可将节点信息写入ZooKeeper上的一个ZNode。
  • 监听这个ZNode可获取它的实时状态变化。

服务器动态上下线

客戶端实时洞察服务上下线变化

负载均衡
在Zookeeper中记录每台服务器的访问数,让访问数最少的服务器去处理最新的客戶端请求。

选举机制

( 1 )Serverid(或sid):服务器ID
比如有三台服务器,编号分别是1,2,3。编号越大在选择算法中的权重越大,比如初始化启动时就是根据服务器ID进行比较。
( 2 )Zxid:事务ID
服务器中存放的数据的事务ID,值越大说明数据越新,在选举算法中数据越新权重越大。
( 3 )Epoch:逻辑时钟
也叫投票的次数,同一轮投票过程中的逻辑时钟值是相同的,每投完一次票这个数据就会增加。
( 4 )Server状态:选举状态
LOOKING,竞选状态。
FOLLOWING,随从状态,同步leader状态,参与投票。
OBSERVING,观察状态,同步leader状态,不参与投票。
LEADING,主状态。

全新集群选举

a.server1启动
触发一次选举,server1投给自己一票,但是总共 5 台服务器未达到半数 3 台,所以选举无法完成。
投票结果:server1: 1 票
状态:server1:LOOKING

b.server2启动
触发选举,server1和 2 分别投自己一票,但是server1发现 2 的id比自己大,就更改选票投给server2,
此时未达半数,还是LOOKING状态
投票结果:server1: 0 票server2: 2 票
状态:server1:LOOKINGserver2:LOOKING

c.server3启动
触发选举,server1和 2 和 3 分别投自己一票,但是server1和 2 发现 3 的id比自己大,就更改选票投给
server3,此时达半数投票,server3当选leader
投票结果:server1: 0 票server1: 0 票server3: 3 票
状态:server1:FOLLOWERserver2:FOLLOWERserver3:LEADER

d.server4启动
触发选举,server1、 2 、 3 已经不是LOOKING,不会更改选票信息,只会交换选票信息
投票结果:server1: 0 票server1: 0 票server3: 3 票server4: 1 票
状态:server1:FOLLOWERserver2:FOLLOWERserver3:LEADERserver4:FOLLOWER

e.server5启动
和server4一样投票给自己,但是已经有leader了就结束选举
投票结果:server1: 0 票server1: 0 票server3: 3 票server4: 1 票server5: 1 票
状态:server1:FOLLOWERserver2:FOLLOWERserver3:LEADERserver4:FOLLOWER
server5:FOLLOWER

总结:服务器 3 选为leader,其余是follower,一般集群中间的机器当选leader

非全新集群选举

运行期选举与初始状态投票过程基本类似,大致可以分为以下几个步骤:
( 1 )状态变更。Leader故障后,余下的非 Observer服务器都会将自己的服务器状态变更为 LOOKING,然后开始进入Leader选举过程。
( 2 )每个Server会发出投票。
( 3 )接收来自各个服务器的投票,如果其他服务器的数据比自己的新会改投票。
( 4 )处理和统计投票,每一轮投票结束后都会统计投票,超过半数即可当选。
( 5 )改变服务器的状态,宣布当选。

( 1 )次投票,每台机器都会将票投给自己。
( 2 )接着每台机器都会将自己的投票发给其他机器,如果发现其他机器的zxid比自己大,那么就需要改投票重新投一次。比如server1收到了三张票,发现server2的xzid为 102 ,pk一下发现自己输了,后面果断改投票选server2为老大。

  1. EPOCH大的直接胜出
  2. EPOCH相同,事务id大的胜出
  3. 事务id相同,服务器id大的胜出

Znode的分类

  • 持久性的znode,这样的znode在创建之后即使发生Zookeeper集群宕机,或者Client宕机也不会丢失
  • 临时性的znode,Client宕机或者Client在指定的timeout时间内没有给Zookeeper集群发消息,这样的znode就会消失 znode也可以是顺序性的。每一个顺序性的znode关联一个唯一的单调递增整数。这个单调递增整数是znode名字的后缀。
  • 持久顺序性的znode
  • 临时顺序性的znode

FIY:在分布式系统中,顺序号可以被用于为所有事件进行全局排序,这样客戶端可以通过顺序号推断时间的顺序。

监听器原理

客戶端注册监听它关心的目录节点,当目录节点发生变化(数据改变、节点删除、子目录节点增加删除)时,ZooKeeper会通知客戶端。监听机制保证ZooKeeper保存的任何的数据的任何改变都能快速的响应到监听了该节点的应用程序。

1 、监听原理详解
( 1 )首先要有一个main()线程
( 2 )在main线程中创建Zookeeper客戶端,这时就会创建两个线程,一个负责网络连接通信(connect),一个负责监听(listener)。
( 3 )通过connect线程将注册的监听事件发送给Zookeeper。
( 4 )在Zookeeper的注册监听器列表中将注册的监听事件添加到列表中。
( 5 )Zookeeper监听到有数据或路径变化,就会将这个消息发送给listener线程。
( 6 )listener线程内部调用了process()方法。
2 、常⻅的监听
( 1 )监听节点数据的变化 getpath[watch]
( 2 )监听子节点增减的变化 lspath[watch]

客戶端向服务端写数据流程