实战教程!Zabbix 监控 Spark 中间件配置教程

news/2024/11/19 19:21:51/文章来源:https://www.cnblogs.com/lwops/p/18433114

本文将介绍以JMX方式监控Spark中间件。JMX具有跨平台、灵活性强、监控能力强、易于集成与扩展、图形化界面支持以及安全性与可配置性等多方面的优势,是监控Spark等复杂Java应用程序的重要工具之一。

Apache Spark 是一个开源的大数据处理框架,它提供了快速、通用和可扩展的数据处理能力,适用于执行大规模的数据处理和分析任务,特别是在批处理、实时流处理、机器学习和图计算等领域。

JMX(Java Management Extensions)作为Java平台标准的一部分,提供了一种标准化的机制,用于监控和管理应用程序、系统对象、设备和服务。JMX技术可以跨越不同的操作系统、体系结构和网络传输协议,灵活地开发无缝集成的系统、网络和服务管理应用。

JMX可以被用于多种管理任务,包括:

  • 系统监控:监控系统的CPU使用率、内存消耗、线程数等指标。
  • 性能调优:获取应用程序的性能数据,如方法执行时间、请求响应时间等,帮助开发者找出性能瓶颈并进行优化。
  • 故障排查:当系统出现故障时,通过JMX快速定位问题所在,如查看日志、监控线程状态等。
  • 安全管理:实现系统的安全控制,如用户认证、访问控制等。
  • 服务管理:对于分布式系统,监控服务状态、管理服务实例,提高系统的可用性和可维护性。

二、Spark配置开启JMX服务

1、编写Spark配置文件:

在安装的spark服务里找到名称为“spark-env.sh”的配置文件,进行编辑修改。

2、在Spark配置文件里启用JMX:

输入命令:vi spark-env.sh 打开配置文件,并在文件中添加以下参数来开启JMX并设置JMX的监听端口。

export SPARK_DAEMON_JAVA_OPTS="$SPARK_DAEMON_JAVA_OPTS -Dcom.sun.management.jmxremote -Dcom.sun.management.jmxremote.port=7099 -Dcom.sun.management.jmxremote.authenticate=false -Dcom.sun.management.jmxremote.ssl=false"

解析:开启JMX服务并设置端口为7099。

3、重启Spark服务:

根据自身所搭建的Spark模式来重启Spark,以便Spark服务应用添加这些参数的更改

三、下载测试工具cmdline-jmxclient-0.10.3.jar包进行连通性测试

1、下载测试工具cmdline-jmxclient-0.10.3.jar包

cmdline-jmxclient-0.10.3.jar为一个测试工具,可用来测试JMX是否配置正确,下载cmdline-jmxclient-0.10.3.jar(下载到任意目录)。

wget http://crawler.archive.org/cmdline-jmxclient/cmdline-jmxclient-0.10.3.jar

2、测试JAR包,注意IP地址与JMX端口需与配置文件一致

java -jar cmdline-jmxclient-0.10.3.jar - 192.168.3.34:7099

3、测试成功效果图

 

测试成功则证明可以成功连接并且返回数据。

四、如何进行监控项添加监控

1、需要使用windows的jconsole控制台制作监控项,安装方式可以自行去搜索对应教程进行安装。

2、运用方式:

1)win+r】---【输入jconsole】

 

2)选择远程进程,输入IP:JMX端口来进行登录

 

3)添加监控项

下图是关于Spark JMX形式的监控项例子

 

以上就是本次对Spark中间监控的配置教程,更多zabbix技术问题可以持续关注乐维社区

 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/803949.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Linux单机最大并发到底是多少?

Linux单机最大并发到底是多少? - 知乎 (zhihu.com) 所谓C10K就是单机1w并发问题,其中IO复用epoll/kqueue/iocp等技术对于C10k问题的解决起到了非常重要的作用。 所谓C10W就是单机1000w并发问题,未来待解决 ========================================== 五元组数 一个五元组可…

PyG的安装

PyG的安装 很早就想了解一下图神经网络,终于有时间学习一下了,下面记录一下安装 PyG 的过程。 PyG GitHub官网地址:GitHub - pyg-team/pytorch_geometric: Graph Neural Network Library for PyTorch 这个官网我觉得很好的一点是他一直在更新,而且基本上所有的图神经网络模…

中通面经

中通面经 1、Springboot的启动流程是怎么样的?new SpringApplication(): 在SpringApplication的构造函数中,调用了一个initialize方法,所以他的初始化逻辑直接看这个initialize方法就行了。1、添加源:将提供的源(通常是配置类)添加到应用的源列表中 2、设置web环境:判断…

助力降本增效,ByteHouse打造新一代云原生数据仓库

随着数据量的爆炸式增长、企业上云速度加快以及数据实时性需求加强,云原生数仓市场迎来了快速发展机遇。据 IDC、Gartner研究机构数据显示,到 2025 年,企业 50% 数据预计为云存储,75% 数据库都将运行在云上,全球数据处理预计有 30% 为实时数据处理,80% 数据预计为非结构化…

.NET 工具库高效生成 PDF 文档

前言 QuestPDF 是一个开源 .NET 库,用于生成 PDF 文档。使用了C# Fluent API方式可简化开发、减少错误并提高工作效率。利用它可以轻松生成 PDF 报告、发票、导出文件等。 项目介绍 QuestPDF 是一个革命性的开源 .NET 库,它彻底改变了我们生成 PDF 文档的方式。 QuestPDF 的核…

【数据库】生产问题(数据迁移)

MySQL 亿级数据平滑迁移实战(来自vivo) https://www.cnblogs.com/vivotech/p/183736231、方案选型 常见的迁移方案大致可以分为以下几类:而预约业务有以下特点:读写场景多,频率高,在用户预约/取消预约/福利发放等场景均涉及到大量的读写。 不可接受停机,停机不可避免的会…

Git 分支管理全攻略:一篇博客带你玩转代码分支!

什么是分支?在 Git 里,分支其实就有点像一个树的枝杈,每个分支上可以有不同的文件的版本,并且不会互相干扰。什么是分支?在 Git 里,分支其实就有点像一个树的枝杈,每个分支上可以有不同的文件的版本,并且不会互相干扰。 ​ 分支功能有什么用?在工作中,我们经常是需要…

关于python自动化测试

最近在家搭建了一套可以复用的自动化测试框架,本项目实现接口自动化的技术选型:Python+Requests+Pytest+YAML+Allure 通过 Python+Requests 来发送和处理HTTP协议的请求接口,使用 Pytest 作为测试执行器,使用 YAML 来管理测试数据,使用 Allure 来生成测试报告

加油站智能视频分析盒

加油站智能视频分析盒通过深度学习视频分析技术,加油站智能视频分析盒代替人眼,7*24小时不间断实时对加油站现场人员行为及设备进行识别站。加油站智能视频分析盒不同于传统安防监管方式,加油站智能视频分析盒可以全年24小时不停歇的对现场人员不合规行为并进行一直持续不断…

【C++】C++提高编程

C++提高编程 本阶段主要针对C++泛型编程和STL技术做详细讲解,探讨C++更深层的使用 1. 模板 1.1 模板的概念 模板就是建立通用的模具,大大提高复用性 模板的特点:模板不可以直接使用,只是一个框架 模板的通用并不是万能的1.2 函数模板C++另一种编程思想称为泛型编程,主要利…

【C++】C++核心编程

C++核心编程 本阶段主要针对C++面向对象编程技术,C++中的核心和精髓。 1. 内存分区模型 C++程序在执行时,将内存大方向分为4个区域:代码区:存放函数体的二进制代码,由操作系统进行管理 全局区:存放全局变量和静态变量以及常量 栈区:由编译器自动分配释放,存放函数的参数…

矿山安全生产监测预警系统

矿山安全生产监测预警系统通过计算机视觉技术,矿山安全生产监测预警系统对矿山生产过程中的人的不安全行为”、“物的不安全状态”、“环境的不安全因素”三方面出发进行实时监测,当矿山安全生产监测预警系统监测到现场画面中人员未穿反光衣行为、明火烟雾、未穿安全帽行为、…