ZooKeeper集群kafka集群安装

news/2025/1/11 22:18:12/文章来源:https://www.cnblogs.com/o-O-oO/p/18666285

kafka的管理需要借助zookeeper完成,所以要先安装好zookeeper集群。

一、zookeeper集群安装

1.1 集群规划

在主机node1、node2和 node3 三个节点上都部署 Zookeeper。

1.2 解压安装

官网下载地址:https://zookeeper.apache.org/

这里我安装的版本为3.5.7。

在 node1服务器解压 Zookeeper 安装包到目录下:/export/server

修改 apache-zookeeper-3.5.7-bin 名称为 zookeeper-3.5.7。

1.3 配置服务器编号

1、在node1服务器下/export/server/apache-zookeeper-3.5.7这个目录下创建 zkData。

2、zkData 目录下创建一个 myid 的文件,文件内容为:1在文件中添加与 server 对应的编号(注意:上下不要有空行,左右不要有空格)。

注意:添加 myid 文件,一定要在 Linux 里面创建,在 notepad++和其他文本编辑器里面很可能乱码。

3、拷贝配置好的 zookeeper 到其他机器上,并分别在 node1、node2上修改 myid 文件中内容为 2、3。

1.4 配置zoo.cfg文件

1、重命名/export/server/apache-zookeeper-3.5.7/conf 这个目录下的 zoo_sample.cfg 为 zoo.cfg
2、打开 zoo.cfg 文件

vim zoo.cfg#修改数据存储路径配置
dataDir=/opt/module/zookeeper-3.5.7/zkData
#增加如下配置
#######################cluster##########################
server.1=xxx.xxx.1.219:2888:3888
server.2=xxx.xxx.1.120:2888:3888
server.3=xxx.xxx.1.220:2888:3888

3、同样 zoo.cfg 配置文件到node2、node3服务器
4、server.A=B:C:D

  • A 是一个数字,表示这个是第几号服务器;
    
  • 集群模式下配置一个文件 myid,这个文件在 dataDir 目录下,这个文件里面有一个数据 就是 A 的值,Zookeeper 启动时读取此文件,拿到里面的数据与 zoo.cfg 里面的配置信息比 较从而判断到底是哪个 server。
    
  • B 是这个服务器的地址;
    
  • C 是这个服务器 Follower 与集群中的 Leader 服务器交换信息的端口;
    
  • D 是万一集群中的 Leader 服务器挂了,需要一个端口来重新进行选举,选出一个新的 Leader,而这个端口就是用来执行选举时服务器相互通信的端口。
    

1.5 集群操作

cd到bin目录下面,三台分别./zkServer.sh start。

./zkServer.sh status,三台分别查看状态,两台为fllower,一台为leader,集群安装成功。

二、kafka集群安装

2.1 集群规划

在主机node1、node2和 node3 三个节点上都部署 Zookeeper。

2.2 解压安装

官方下载地址:https://kafka.apache.org/downloads.html

我们这里下载的版本为kafka_2.12-3.0.0.tgz。

2.3 解压安装

修改解压后的文件名称为kafka-3.0.0。

cd  /export/software
tar -zxvf kafka_2.12-3.0.0.tgz -C /export/server/
cd /export/server/
mv kafka_2.12-3.0.0/ kafka-3.0.0

进入到/export/server/kafka-3.0.0/conf 目录,修改配置文件server.properties,同样修改node2,node3。

:broker.id 不得重复,整个集群中唯一。

cd /export/server/kafka-3.0.0/config
vim server.properties

修改以下内容:

#broker 的全局唯一编号,不能重复,只能是数字。
broker.id=1
#kafka 运行日志(数据)存放的路径,路径不需要提前创建,kafka 自动帮你创建,可以配置多个磁盘路径,路径与路径之间可以用","分隔
log.dirs=/export/server/kafka-3.0.0/datas#配置连接 Zookeeper 集群地址(在 zk 根目录下创建/kafka,方便管理)
zookeeper.connect=xxx.xxx.1.219:2181,xxx.xxx.1.120:2181,xxx.xxx.1.220:2181

2.4 在node1、2、3节点配置一样的环境变量

#KAFKA_HOMEexport KAFKA_HOME=/export/server/kafka-3.0.0/export PATH=$PATH:$KAFKA_HOME/bin
source /etc/profile

2.5 启动集群

由于Kafka启动依赖 Zookeeper 集群,所以必须先启动Zookeeper 集群,然后启动 Kafka。

依次在 node1、node2、node3 节点上启动 Kafka。

cd /export/server/kafka-3.0.0bin/kafka-server-start.sh -daemon config/server.properties

启动成功日志。

2.6 关闭集群

cd /export/server/kafka-3.0.0bin/kafka-server-stop.sh

本文作者:事业二部(上海新炬中北团队)
本文来源:“IT那活儿”公众号

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/867932.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Lec 12 进程间通信

Lec 12 进程间通信License 本内容版权归上海交通大学并行与分布式系统研究所所有 使用者可以将全部或部分本内容免费用于非商业用途 使用者在使用全部或部分本内容时请注明来源 资料来自上海交通大学并行与分布式系统研究所+材料名字 对于不遵守此声明或者其他违法使用本内容者…

老毛子PADAVAN为何不能挂载大容量移动硬盘/U盘?解决办法竟然如此简单

问题: 我用的是极路由B70,刷了PADAVAN,B70自身带有一个USB2.0,一个USB3.0,插入一个2TB的移动硬盘,NTFS格式,可以识别到,但没有挂载成功。 查看日志, 确实提示挂载失败,然后看到挂载的名字带有一些@@@@@。 解决办法: 联想自己移动硬盘的名字是中文。于是拔下移动硬盘,…

转:python的zmq模块

转自:https://www.jianshu.com/p/04660f746a16https://blog.csdn.net/SweetHeartHuaZai/article/details/1269348191、zmq介绍: 创建和销毁套接字:zmq.socket(), zmq.close() 配置和读取套接字:zmq.setsockopt(), zmq.getsockopt() 为套接字建立连接:zmq.bind(), zmq.conn…

深度强化学习实战:训练DQN模型玩超级马里奥兄弟

深度学习作为当前计算机科学领域最具前沿性的研究方向之一,其应用范围涵盖了从计算机视觉到自然语言处理等多个领域。本文将探讨深度学习在游戏领域的一个具体应用:构建一个能够自主学习并完成超级马里奥兄弟的游戏的智能系统。强化学习基础 强化学习是机器学习的一个重要分支…

导出和导入word样式模板

对于自己配置过之后常用的word样式可以导出作为样式模板, 可以重复使用.举例说一下哪些是常用的word样式, 例如: (常见的): 中文的内容的样式, 中英文分别设置不同的样式 (比较高级的)多级标题自动编号, 题注跟随标题的编号word功能 word自带导出导入模板样式的功能. word样式模…

远程连接和FTP传输问题

遇到的远程连接和FTP传输问题,我们进行了详细调查。以下是我们的分析和建议:远程桌面连接问题:端口检查:默认情况下,Windows系统的远程桌面服务使用的是3389端口。请确保该端口未被防火墙或其他安全软件阻塞。可以通过命令行工具netstat -an | findstr 3389来检查端口状态…

宝塔面板无法登录,如何重置密码并恢复正常访问?

当您遇到宝塔面板无法登录的问题时,可能是由于密码遗忘、凭据错误或服务器配置问题引起的。为了帮助您更好地理解和解决这个问题,以下是几个可能的原因及相应的解决方案:检查凭据是否正确首先,请确认您输入的用户名和密码是否正确。宝塔面板默认的用户名是admin,初始密码通…

网站偶尔无法访问或加载不完全

网站偶尔出现无法访问或无法加载所有网页的情况,这可能是由多种因素引起的。为了帮助您更好地排查和解决问题,建议您按照以下步骤进行检查:检查服务器资源使用情况:首先,确认服务器的带宽、CPU、内存等资源是否正常。可以通过服务器监控工具(如阿里云的云监控)查看实时资…

云服务器登录无权限,Nginx无法启动

服务器系统可能处于只读状态,导致您无法正常登录并修改配置文件。我们已经为您进入单用户模式修复了文件系统,现在Nginx可以正常运行了。非常感谢您长期对我司的支持! 出现这种情况的原因可能是某些程序未正常停止,导致文件系统出现问题。建议您以后多观察服务器的状态,确…

恢复丢失的网站数据及提供后台密码的方法

用户报告称其网站数据已丢失,急需恢复备份的数据库并获取后台管理密码。这种情况严重影响了网站的正常运营,必须尽快解决。 解决方案:确认备份可用性:首先,确认是否有可靠的备份文件可供恢复。检查服务器上的自动备份机制或之前手动创建的备份文件。如果没有现成的备份,询…

如何使用一段代码修改网站内容

在网站开发中,使用一段代码可以快速修改网站内容。以下是详细的步骤和注意事项:确定要修改的内容:确定您要修改的具体内容,例如文本、图片、链接等。 找到包含该内容的HTML文件或模板文件。获取FTP信息:从您的网站托管商处获取FTP登录信息,包括FTP服务器地址、用户名、密…