「zookeeper」走进动物园管理员 动物园管理员的工作
yuyutoo 2024-10-16 15:46 9 浏览 0 评论
一、ZooKeeper简介
1. ZooKeeper是什么
? Apache ZooKeeper是一个开源的分布式服务框架,为分布式应用提供协调服务,用来解决分布式应用中的数据管理问题,如:配置管理、域名服务、分布式同步、集群管理等
2. ZooKeeper组成
? 主要包括两部分:文件系统、通知机制
2.1 文件系统
? ZooKeeper维护一个类似Linux文件系统的数据结构,用于存储数据
- 数据模型结构是一种树形结构,由许多节点构成
- 每个节点叫做ZNode(ZooKeeper Node)
- 每个节点对应一个唯一路径,通过该路径来标识节点,如 /app1/p_2
- 每个节点只能存储大约1M的数据
? 节点类型有四种:
- 持久化目录节点 persistent
客户端与服务器断开连接,该节点仍然存在 - 持久化顺序编号目录节点 persistent_sequential
客户端与服务器断开连接,该节点仍然存在,此时节点会被顺序编号,如:000001、000002..... - 临时目录节点 ephemeral
客户端与服务器断开连接,该节点会被删除 - 临时顺序编号目录节点 ephemeral_sequential
客户端与服务器断开连接,该节点会被删除,此时节点会被顺序编号,如:000001、000002.....
2.2 通知机制
? ZooKeeper是一个基于观察者模式设计的分布式服务管理框架
- ZooKeeper负责管理和维护项目的公共数据,并授受观察者的注册(订阅)
- 一旦这些数据发生变化,ZooKeeper就会通知已注册的观察者
- 此时观察者就可以做出相应的反应
? 简单来说,客户端注册监听它关心的目录节点,当目录节点发生变化时,ZooKeeper会通知客户端
? ZooKeeper是一个订阅中心(注册中心)
3. 应用场景
3.1 配置管理
? 场景:集群环境、服务器的许多配置都是相同的,如:数据库连接信息,当需要修改这些配置时必须同时修改每台服务器,很麻烦
? 解决:把这些配置全部放到ZooKeeper上,保存在ZooKeeper的某个目录节点中,然后所有的应用程序(客户端)对这个目录节点进行监视Watch,一旦配置信息发生变化,ZooKeeper会通知每个客户端,然后从ZooKeeper获取新的配置信息,并应用到系统中。
3.2 集群管理
? 场景:集群环境下,如何知道有多少台机器在工作?是否有机器退出或加入?需要选举一个总管master,让总管来管理集群
? 解决:在父目录GroupMembers下为所有机器创建临时目录节点,然后监听父目录节点的子节点变化,一旦有机器挂掉,该机器与ZooKeeper的连接断开,其所创建的临时目录节点被删除,所有其他机器都会收到通知。当有新机器加入时也是同样的道理。
? 选举master:为所有机器创建临时顺序编号目录节点,给每台机器编号,然后每次选取编号最小的机器作为master
3.3 负载均衡
? ZooKeeper本身是不提供负载均衡策略的,需要自己实现,所以准确的说,是在负载均衡中使用ZooKeeper来做集群的协调(也称为软负载均衡)
? 实现思路:
- 将ZooKeeper作为服务的注册中心,所有服务器在启动时向注册中心登陆自己能够提供的服务
- 服务的调用者到注册中心获取能够提供所需要服务的服务器列表,然后自己根据负载均衡算法,从中选取一台服务器进行连接
- 当服务器列表发生变化时,如:某台服务器宕机下线,或新机器加入,ZooKeeper会自动通知调用者重新获取服务列表
? 实际上利用了ZooKeeper的特性,将ZooKeeper用为服务的注册和变更通知中心
二、ZooKeeper安装
1. 安装
? ZooKeeper一般都运行在Linux平台
? 步骤:
- 解压zookeeper-3.4.13.tar.gz
cd ~/software
tar -zxf zookeeper-3.4.13.tar.gz
- 配置
# 创建存放数据文件的目录
cd zookeeper-3.4.13/
mkdir data
# 创建配置文件
cd conf
cp zoo_sample.cfg zoo.cfg # 默认使用的是zoo.cfg,名称固定
# 修改配置文件
vi zoo.cfg
dataDir=../data # 指定数据存放目录
- 启动zookeeper
cd bin
./zkServer.sh start | stop | status | restart # 启动|停止|查看状态|重启
客户端连接zookeeper
./zkCli.sh # 启动客户端,默认连接本机的2181端口
或
./zkCli.sh -server 服务器地址:端口 # 连接指定主机、指定端口的zookeeper
quit # 退出客户端
2. 配置文件
三、客户端操作
1. 常用命令
2. 详解
? 查看指定节点的详细信息: ls2 /
# 子节点名称数组
[zookeeper]
# -----------节点的状态信息,也称为stat结构体-------------------
# 创建该znode的事务的zxid(ZooKeeper Transaction ID)
# 事务ID是ZooKeeper为每次更新操作/事务操作分配一个全局唯一的id,表示zxid,值越小,表示越先执行
cZxid = 0x0 # 0x0表示十六进制数0
# 创建时间
ctime = Thu Jan 01 08:00:00 CST 1970
# 最后一次更新的zxid
mZxid = 0x0
# 最后一次更新的时间
mtime = Thu Jan 01 08:00:00 CST 1970
# 最后更新的子节点的zxid
pZxid = 0x0
# 子节点的变化号,表示子节点被修改的次数,-1表示从未被修改过
cversion = -1
# 当前节点的变化号,0表示从未被修改过
dataVersion = 0
# 访问控制列表的变化号 access control list
aclVersion = 0
# 如果临时节点,表示当前节点的拥有者的sessionId
# 如果不是临时节点,则值为0
ephemeralOwner = 0x0
# 数据长度
dataLength = 0
# 子节点数据
numChildren = 1
顺序编号节点:
- 顺序编号会紧跟在节点名称后面,节点最终名称为:节点名+序号,如/test0000000005
- 顺序编号是一个递增的计数器
- 顺序编号是由父节点维护,从已有的子节点个数开始(包括临时节点和被删除的节点)
- 如果子节点为空,则从0000000000开始,依次递增1
- 在分布式系统中,顺序编号可以被用于为所有的事件进行全局排序,这样客户端就可以根据序号推断事件的顺序
四、ZooKeeper集群
1. 配置集群
? 步骤:
- 准备多台ZooKeeper服务器
- 配置ZooKeeper服务器
在每台服务器的conf/zoo.cfg文件中添加如下内容:
server.20=192.168.4.20:2888:3888
server.21=192.168.4.21:2888:3888
server.22=192.168.4.22:2888:3888
- 格式:server.A=B:C:D
- A表示这台服务器的编号ID,是一个数字
- B表示服务器的IP地址或域名
- C表示这台服务器与集群中的Leader交换信息时使用的端口
- D表示执行选举Leader服务器时互相通信的端口
- 创建myid配置文件
在集群环境下,需要在dataDir目录中创建一个名为myid的文件,文件内容是当前服务器的编号ID,即上面配置的A
cd data
echo A的值 > myid
- ZooKeeper启动时会读取这个文件,将里面的数字与zoo.cfg中配置的server.A进行比较,从而判断这台服务器是哪个
- 测试集群环境
启动所有ZooKeeper服务器,查看状态
此时在某台服务器上执行更新操作时,其他服务器也会同步
2. 集群特性
- 一个ZooKeeper集群中,有一个领导者Leader和多个跟随者Follower
- Leader负责进行投票的发起和决议,更新系统状态
- Follower用于接收客户端的请求并向客户端返回结果,在选举Leader过程中参与投票
- 半数机制:集群中只要有半数以上节点存活,集群就能够正常工作,所以一般集群中的服务器个数都为奇数
- 全局数据一致:集群中每台服务器保存一份相同的数据副本,不论客户端连接到哪个服务器,数据都是一致的
- 更新请求顺序执行:来自同一个客户端的更新请求,按其发送顺序依次执行
- 数据更新的原子性:一次数据更新,要么成功,要么失败
- 实时性:在一定的时间范围内,客户端能读取到最新数据
3. 选举机制
? ZooKeeper在提供服务时会自动选举一个节点服务器作为Leader,其他都是Follower
选举流程:
- Server1启动,给自己投票,然后发送投票信息,由于其它服务器都还没启动,所以它发现的消息收不到任何反馈,此时Server1为Looking状态
- Server2启动,给自己投票,同时与Server1通信交换选举结果,由于Server2的id值较大,所以Server2胜出,但由于投票数没有过半,此时Server1和Server2都为Looking状态
- Server3启动,给自己投票,同时与Server1和Server2通信交换选举结果,由于Server3的id值较大,所以Server3胜出,此时票数已经过半,所以Server3为Leader,Server1和Server2为Follower
- Server4启动,给自己投票,同时与Server1、Server2、Server3通信交换选举结果,尽管Server4的id较大,但由于集群中已经存在Leader,所以Server4只能为Follower
- Server5启动,同Server4类似,只能为Follower
? 总结:
- 每个服务器在启动时都会选择自己,然后将投票信息发送出去
- 服务器编号ID越大,在选择算法中的权重越大
- 投票数必须过半,才能选出Leader
- 谁是Leader:启动顺序的前集群数/2+1个服务器中,id值最大的会成为Leader
4. 监听机制
4.1 监听节点值的变化
# 在集群的A服务器,监听某个节点值的变化
get /yyy watch
# 在集群的B服务器,修改对应节点的值
set /yyy myyyy
# 此时A服务器会收到事件NodeDataChanged
WATCHER::
WatchedEvent state:SyncConnected type:NodeDataChanged path:/yyy
监听Watch事件是一个一次性的触发器,当数据改变时只会触发一次,如果以后这个数据再发生改变,则不会再次触发
4.2 监听节点的子节点变化
# 在集群的A服务器,监听某个节点的子节点的变化
ls /yyy watch
# 在集群的B服务器,创建/修改/删除对应节点的子节点
create /yyy/hello hello
# 此时A服务器会收到事件NodeChildrenChanged
WATCHER::
WatchedEvent state:SyncConnected type:NodeChildrenChanged path:/yyy
五、Java访问ZooKeeper
Java操作Zookeeper很简单,只需要添加ZooKeeper客户端的依赖即可,可以进行节点信息的获取、管理等。
? 步骤:
- 添加jar包
<!--ZooKeeper客户端-->
<dependency>
<groupId>org.apache.zookeeper</groupId>
<artifactId>zookeeper</artifactId>
<version>3.4.13</version>
</dependency>
- 操作
public static void main(String[] args) throws IOException, KeeperException, InterruptedException {
//获取ZooKeeper的连接,即创建ZooKeeper的客户端
String connectString = "127.0.0.1:2181"; //服务器地址
int sessionTimeout = 3000; //超时时间,单位为毫秒
Watcher watcher = new MyWatcher();
ZooKeeper zkClient = new ZooKeeper(connectString, sessionTimeout, watcher);
Thread.sleep(2000);
System.out.println(zkClient.getState());
/**
* 操作ZooKeeper
*/
//查看指定节点下的内容
List<String> children = zkClient.getChildren("/", true);//第二个参数表示是否监视该节点
System.out.println(children);
//创建节点,OPEN_ACL_UNSAFE表示acl权限列表为完全开放,PERSISTENT表示节点类型为持久化节点
zkClient.create("/world", "世界".getBytes(), ZooDefs.Ids.OPEN_ACL_UNSAFE, CreateMode.PERSISTENT);
//获取节点的数据(节点的值和节点状态Stat)
byte[] data = zkClient.getData("/world", true, null);
System.out.println(new String(data));
Stat stat = new Stat();
byte[] data = zkClient.getData("/hello", true, stat);
byte[] data = zkClient.getData("/hello", new DataWatcher(), stat);
System.out.println(new String(data));
System.out.println(stat);
System.out.println(stat.getCtime());
System.out.println(stat.getVersion());
System.out.println(stat.getDataLength());
//修改节点的数据
// zkClient.setData("/hello","aaa".getBytes(),stat.getVersion()); //第三个参数表示当前节点的数据版本,一般先获取数据stat,然后指定数据版本
zkClient.setData("/hello", "bbb".getBytes(), -1); //也可以设置为-1,表示不检测版本
//删除节点
zkClient.delete("/hello", -1);
//判断节点是否存在
System.out.println(zkClient.exists("/hello",false)); //存在时返回节点状态,不存在则返回null
//休眠
Thread.sleep(1000000);
//关闭连接
zkClient.close();
}
作者:加瓦一美
链接:https://blog.csdn.net/suifeng629/article/details/85987934
相关推荐
- pdf,word,ppt,rar,mp4等等文档在线预览
-
背景:移动端的智能化已经被大多数人接受了,但是有时一些文件格式要在移动端打开,需要安装特定的软件才行,这个就是很多人不喜欢的,要看个文档还要下载安装一个app,实在麻烦,那能不能直接在线就预览文件呢具...
- Qt/C++音视频开发69-保存监控pcm音频数据到mp4文件/监控录像
-
一、前言用ffmpeg做音视频保存到mp4文件,都会遇到一个问题,尤其是在视频监控行业,就是监控摄像头设置的音频是PCM/G711A/G711U,解码后对应的格式是pcm_s16be/pcm_alaw...
- 全能下载神器文件蜈蚣体验(全能文件王)
-
文件蜈蚣是一款开源免费的软件,在GitHub上公布了所有源代码,自身非常绿色环保,没有流氓后台也没广告,和莫名弹窗的同行相比,可算得上是一股清流。文件蜈蚣的使用很简单,解压后运行一次其中的exe,完成...
- 支持HLS和mp4在线播放的源码(hls支持的视频编码格式)
-
今天安利的一套在线视频播放源码,它不是安卓端,也不是PC端。你只需要部署一下这个单页面源码即可。使用php+mysql+nginx即可。任何版本都能运行。HLSDOWNLOAD网页打开服务器地址:1...
- 大模型微调知识与实践分享(模具微调结构)
-
一、微调相关知识介绍...
- IOS遇到的几个H5坑、h5键盘弹起遮挡输入框的处理
-
一、IOS遇到的几个H5坑1、ios端兼容input光标高度 问题描述:input输入框光标,在安卓手机上显示没有问题,但是在苹果手机上当点击输入的时候,光标的高度和父盒子的高度一样。例如下图,左...
- 实用技巧:如何在win10中安装没有管理员权限的软件
-
通常,我们可能会遇到需要在Windows10电脑上安装软件,但在该电脑上没有管理员权限的情况,由于不是管理员,所以无权在在电脑上安装软件,这让人非常苦恼。事实上,这是微软专门设计的一个安全功能,它的...
- 基于ENVI的Landsat 7遥感影像处理与多种大气校正方法对比
-
1数据导入与辐射定标关于数据的下载,网络中相关资源很多,这里不再赘述。...
- 在 Python 中为无服务器应用设计安全租户隔离
-
软件即服务(SaaS)已经成为当今一种非常普遍的软件交付方式。虽然这方便了用户访问,而且消除了用户的运营开销,但这也改变了以前的模式,将实现SLA以及现代云原生组织所期望的所有安全和数据隐私要求的...
- 基于JFinal的后台业务框架通用模块
-
jcbase是基于JFinal2.x的后台业务框架通用模块,包括系统权限模块、APP版本管理、日志管理、数据字典等使用的技术要点后端使用JFinal2.x前端页面是基于acev1.3模板改造的,更方便...
- PHOTOSHOP图层技巧(掌握photoshop合并图层技巧)
-
你会图层吗?不会?喔,那你肯定不会PHOTOSHOP。为什么那么说呢?因为图层可以说是PHOTOSHOP的核心,几乎PHOTOSHOP所有的应用都是基于图层的,很多强劲的图像处理功能也是图层所提供的,...
- Cadence Allegro背钻设置详细介绍教程
-
CadenceAllegro背钻设置详细介绍教程...
- Pt中间层显著降低PEM水电解电子传输阻抗
-
在质子交换膜水电解(PEMWE)中,阳极OER的Ir基催化剂成本高昂,成为制约产业化的重要瓶颈。虽然非晶态IrOx具有高OER活性,但其电导率较差、与多孔钛PTL之间接触不良,往往导致催化剂层利用率低...
- GIMP 教程:制作 Duotone 双色调效果
-
今天我们学习如何使用GIMP这款强大的开源图像编辑器,制作流行的Duotone(双色调)效果。Duotone效果的核心原理,是将图像的色调信息映射到两种主要颜色上。通常,一种颜色用于图像的亮部...
- CAD打印的时候线条没了?原来是这些设置出了错
-
每当我们辛辛苦苦绘制完一张图纸之后,打印出图的时候总会出现各种各样的问题,不知道大家有没有遇到这种情况:在预览的时候还一切正常,但是打印出来之后就会发现很多线条都会不见了或者部分缺失。那么到底是怎么一...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- mybatis plus (70)
- scheduledtask (71)
- css滚动条 (60)
- java学生成绩管理系统 (59)
- 结构体数组 (69)
- databasemetadata (64)
- javastatic (68)
- jsp实用教程 (53)
- fontawesome (57)
- widget开发 (57)
- vb net教程 (62)
- hibernate 教程 (63)
- case语句 (57)
- svn连接 (74)
- directoryindex (69)
- session timeout (58)
- textbox换行 (67)
- extension_dir (64)
- linearlayout (58)
- vba高级教程 (75)
- iframe用法 (58)
- sqlparameter (59)
- trim函数 (59)
- flex布局 (63)
- contextloaderlistener (56)