linux安装kafka教程

kafka需要安装jdk,我的是jdk17

一、安装kafka

1、下载kafka

1.到kafka的官网,去下载想用的kafka包:http://kafka.apache.org/downloads

2.我这里下载的是:kafka_2.12-3.4.1.tgz

3.将安装包传送到服务器并解压(默认这里解压了就是安装路径了,可以自己斟酌): 比如我的是上传和解压到  /opt/kafka,如下图

tar -zxvf kafka_2.12-2.4.1.tgz 

 2、配置kafka

1.在kafka解压目录同一路径下:创建一个kafka_data,用于装kafka和zookeeper的log和数据啥的 
mkdir -p /opt/kafka/soft/kafka_data
mkdir -p /opt/kafka/soft/kafka_data/zookeeper  #zookeeper数据目录
mkdir -p /opt/kafka/soft/kafka_data/log 
mkdir -p /opt/kafka/soft/kafka_data/log/kafka  #kafka日志
mkdir -p /opt/kafka/soft/kafka_data/log/zookeeper  #zookeeper日志
2.配置kafka服务
cd /opt/kafka/kafka_2.12-3.4.1/config/
vim server.properties 编辑修改相应的参数,内容改动和添加如下:
:wq! #保存退出

broker.id=0
port=9092                                                #端口号
host.name=locallhost                      #服务器IP地址,修改为自己的服务器IP
log.dirs=/opt/kafka/soft/kafka_data/log/kafka   #日志存放路径,上面创建的目录
zookeeper.connect=localhost:2181         #zookeeper地址和端口,单机配置部署,localhost:2181

3.配置zookeeper服务 
cd /mnt/kafka_2.12-3.4.1/config/
vim zookeeper.properties 编辑修改相应的参数,内容改动和添加如下:
:wq! #保存退出

dataDir=/opt/kafka/soft/kafka_data/zookeeper   #zookeeper数据目录
dataLogDir=/opt/kafka/soft/kafka_data/log/zookeeper #zookeeper日志目录
clientPort=2181
maxClientCnxns=100
tickTimes=2000
initLimit=10
syncLimit=5 

 二、创建启动和关闭的 kafka 执行脚本

1. 创建启动脚本  # vim kafka_start.sh, 里边内容为:
#!/bin/sh
#启动zookeeper
/opt/kafka/kafka_2.12-3.4.1/bin/zookeeper-server-start.sh /opt/kafka/kafka_2.12-3.4.1/config/zookeeper.properties &sleep 3 #等3秒后执行#启动kafka
/opt/kafka/kafka_2.12-3.4.1/bin/kafka-server-start.sh /opt/kafka/kafka_2.12-3.4.1/config/server.properties &i
2. 创建关闭脚本  # vim kafka_stop.sh, 里边内容为:
keeper
/opt/kafka/kafka_2.12-3.4.1/bin/zookeeper-server-stop.sh /opt/kafka/kafka_2.12-3.4.1/config/zookeeper.properties &sleep 3 #等3秒后执行#关闭kafka
/opt/kafka/kafka_2.12-3.4.1/bin/kafka-server-stop.sh /opt/kafka/kafka_2.12-3.4.1/config/server.properties &

至此,在kafka路径下,就有了两个脚本了。一个是启动脚本,一个是关闭脚本!!!如下:

3. 为脚本执行权限 
chmod +x kafka_start.shchmod +x kafka_stop.sh
 4. 启动和关闭kafka
cd /opt/kafka/kafka_2.12-3.4.1
sh kafka_start.sh #启动kafka
sh kafka_stop.sh #关闭kafka

5. 启动脚本,设置开机自启动

vi /etc/rc.d/rc.local #编辑,在最后添加一行
sh /usr/local/kafka/kafka_start.sh & #设置开机自动在后台运行脚本

至此,Linux下Kafka单机安装配置完成

三、创建生产者 topic 和 消费者 topic 简单示例

1. 在一个终端执行创建生产者: (推消息到wd_test)

cd /opt/kafka/kafka_2.12-3.4.1/bin/ #进入kafka目录
./kafka-console-producer.sh --broker-list 123.57.1.39:9092 --topic wd_test  #(注:wd_test你要建立的topic名)

2. 在另一个终端执行创建消费者:(从wd_test上消费消息)

cd /mnt/kafka_2.12-3.4.1/bin/ #进入kafka目录
./kafka-console-consumer.sh --bootstrap-server 123.57.1.39:9092 --topic wd_test #消费wd_test的topic消息

 

3. 查看效果: 一个终端不断输入推送的消息,另一个终端则消费这个消息  

 

四、查看运行的进程 和 当前topic

1. jps:查看服务,如果下面两个标红的存在,说明zookeeper和kafka 启动了。

2.查看当前的一些topic

cd /opt/kafka/kafka_2.12-3.4.1/bin/./kafka-topics.sh --bootstrap-server localhost:9092 --list

原文链接:https://blog.csdn.net/weixin_42109071/article/details/107564094 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/164569.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

房产网小程序源码 房产中介小程序源码 房产网源码

房产网小程序源码 房产中介小程序源码 房产网源码 功能介绍: 一、付费发布信息 支持付费发布、刷新、置顶房源信息;二、个人发布信息 支持个人和房产经纪人发布房源信息;三、新房楼盘模块 支持新房楼盘功能,后台添加…

0X03

红包题第二弹 看到源码里面的提示 ?cmdphpinfo(); 看到源码 kk 关键点就是有两个正则表达式 第一个 preg_match("/[A-Za-oq-z0-9$]/",$cmd) 第二个 preg_match("/\~|\!|\|\#|\%|\^|\&|\*|\(|\)|\(|\)|\-|\_|\{|\}|\[|\]|\|\&q…

java--封装

面向对象的三大特征:封装、继承、多态 1.什么是封装 就是用类设计对象处理某一个事物的数据时,应该把要处理的数据,以及处理这些数据的方法,设计到一个对象中去。(每一个类都可以看成封装) 2.封装的设计规范 合理隐藏、合理暴…

Flink SQL Regular Join 、Interval Join、Temporal Join、Lookup Join 详解

Flink ⽀持⾮常多的数据 Join ⽅式,主要包括以下三种: 动态表(流)与动态表(流)的 Join动态表(流)与外部维表(⽐如 Redis)的 Join动态表字段的列转⾏&#xf…

php实现钉钉机器人推送消息和图片内容(完整版)

先来看下实现效果: 代码如下: function send_dingtalk_markdown($webhook , $title , $message "", $atMobiles [], $atUserIds []) {$data ["msgtype" > "markdown","markdown" > ["title" > $title,&quo…

[unity]切换天空盒

序 unity是自带天空盒的: 但有的时候不想用自带的。怎么自定义?如何设置? 官方文档 Unity - Manual: The Lighting window (unity3d.com) 相关窗口的打开方法 天空盒对应的选项 实际操作 从标准材质球到天空盒材质球 新建一个材质球&…

RT-DETR 应用 BiFPN 结构 | 加权双向特征金字塔网络

模型效率在计算机视觉中变得越来越重要。在本文中,我们系统地研究了目标检测中的神经网络架构设计选择,并提出了几种关键的优化方法来提高效率。首先,我们提出了一种加权双向特征金字塔网络(BiFPN),它可以实现简单快速的多尺度特征融合;其次,我们提出了一种复合缩放方法…

Linux Vim批量注释和自定义注释

使用 Vim 编辑 Shell 脚本,在进行调试时,需要进行多行的注释,每次都要先切换到输入模式,在行首输入注释符"#"再退回命令模式,非常麻烦。连续行的注释其实可以用替换命令来完成。 换句话说,在指定…

线扫相机DALSA软件开发套件有哪些

Win10和Win7系统完整SDK目录截图: Sapera Configuration 缓存与内存管理,以及通信端口配置工具,部分功能等效于Detection(查找相机)内的Settings。 Sapera Log Viewer 打开Log Viewer后会显示之前发生过的所有与Sapera LT软件有关的运行信息…

npm的使用

package.json 快速生成package.json npm init -y “version”: “~1.1.0” 格式为:「主版本号. 次版本号. 修订号」。 修改主版本号是做了大的功能性的改动 修改次版本号是新增了新功能 修改修订号就是修复了一些bug dependencies "dependencies": {&…

ubuntu20.04 安装cudnn

中文地址是.cn:cuDNN 历史版本 | NVIDIA 开发者 英文地址是.com:cuDNN 历史版本 | NVIDIA 开发者 1、下载cudnn:cudnn-local-repo-ubuntu2004-8.8.1.3_1.0-1_amd64.deb 解压并安装:sudo dpkg -i cudnn-local-repo-ubuntu2004-8.8…

linux+python3.6.8+uwsgi+postgresql+django部署web服务器

linuxpython3.6.8uwsgipostgresqldjango部署web服务器 1.查看系统信息2.配置postgresql数据库2-1.安装postgresql数据库2-2.设置密码2-3.修改postgresql数据库配置文件 3.Python虚拟环境激活虚拟环境 4.Django4-1.Python 安装Django4-2.创建Django项目4-3.配置Django 5.uwsgi5-…