Hadoop启动MR日志服务

news/2024/12/31 7:05:36/文章来源:https://www.cnblogs.com/lshao/p/11262446.html

当执行MR程序,Hive程序时,如果配置并开启了yarn的话,一般都会提交到yarn上管理执行,如果要在yarn上查看application的日志,需要启动MR日志服务器。

1.最低配置

在yarn-site中添加

 

<property>
<name>yarn.log-aggregation-enable</name>
<value>true</value>
</property>
<property>
<name>yarn.log-aggregation.retain-seconds</name>
<value>86400</value>
</property>

yarn.log-aggregation-enable=true表示启动日志聚合,yarn.log-aggregation.retain-seconds表示日志存留时间,设为了一天,也可以不配置。

2.详细配置说明

在 http://archive.cloudera.com/cdh5/cdh/5/hadoop-2.6.0-cdh5.7.0/左下方configuration里选择对应的默认配置进行查看。

mapred-site.xml

staging-log

mapreduce.jobhistory

yarn-site.xml

yarn.nodemanager.remote-app-log-dir

yarn.nodemanager.remote-app-log-dir-suffix

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/860841.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

四、USB PD协议层之消息

先来看看协议层主要做什么事情: 本章描述了USB电源传输规范协议层的要求,包括:如何构建和使用消息的细节。 计时器和超时值的使用。 使用消息和重试计数器。 复位操作。 错误处理。 状态下的行为。(状态机)1、Message 先来了解一下Message,本规范定义了三种类型的Message…

解决方案 | 如何实现右键添加【管理系统环境变量】,更加方便快捷的直达环境变量修改页面?

实现如上效果。 本地新建一个bat文件,代码如下:(懒得编辑的直接下载做好的右键管理员身份运行就行:https://wwnb.lanzoul.com/il4DK2jbhwbi )@echo off :: 设置菜单名称、命令和图标路径 set "menuName=管理系统环境变量" set "command=mshta vbscript:cr…

服务器是否禁止了POST请求?

,服务器并没有全局禁止POST请求。通常情况下,服务器是否允许POST请求取决于具体的配置和应用程序的设置。以下是一些可能导致POST请求无法正常发送的原因及解决方法:防火墙或安全组设置:检查服务器上的防火墙或云服务提供商的安全组设置,确保没有阻止POST请求所需的端口(…

FTP登录不了(修改密码,重启后仍然无法登录)

您好,关于您提到的“FTP无法登录服务器,修改过管理密码后仍然无法登录”的问题,我们来详细分析一下可能的原因及解决方案。 FTP登录失败可能是由多种原因引起的,特别是在修改密码和重启服务器之后。以下是几个可能的原因及相应的解决方法:密码修改未生效:修改密码后,有时…

请问网站无法在外网访问怎么办

当您遇到网站无法在外网访问的情况时,这可能是由多个因素引起的。以下是详细的排查步骤和建议:检查域名解析: 首先,请确保域名已经正确解析到服务器的IP地址。您可以使用ping或nslookup命令检查域名解析是否正常。如果域名解析有问题,可能会导致外网无法访问。请确认DNS记…

无限制观看,宝宝巴士儿歌TV

点击上方蓝字睿共享关注我 前言 在现今这个应用繁多的市场中,许多同类软件都设置了付费门槛,这让家长们在挑选时感到不小的负担。但这款应用却与众不同,它完全免费,无需登录,更全程无广告打扰,为家长们提供了一个轻松无忧的选择 安装环境 [名称]:宝宝巴士儿歌 [大小]:2…

越关山——一次全新的尝试和突破

一.蓦然回首 作业一:对aigc熟悉和博客园以及GitHub使用 这份作业是接触软工课程的第一个作业。github和aigc工具早已经有了接触。在平时的写代码和完成部分作业任务时已经接收了不少的ai帮忙,ai已经彻底地改变了我们的生活,改变着学习和工作,所以如何更好地使用ai恐怕在将来…

运算放大电路

虚短和虚断的概念

【PbootCMS】测试邮件标题怎么修改(邮箱配置说明)

不喜欢默认的标题样式, 希望自定义相关参数, 可以通过修改核心文件处理。 红色标记区域代码, 可以根据实际需求修改。扫码添加技术【解决问题】专注中小企业网站建设、网站安全12年。熟悉各种CMS,精通PHP+MYSQL、HTML5、CSS3、Javascript等。承接:企业仿站、网站修改、网站…

一文搞定宝塔LINUX部署上线前后端分离项目

一文搞定宝塔LINUX部署上线前后端分离项目 地址:http://82.156.126.178/ 部署方案: 宝塔Linux,腾讯云服务器2核2G3M,数据库使用腾讯云托管平台mysql 1.跨域问题解决 首先前端区分线上环境和开发环境,主要是请求地址不一样 import axios from axiosconst prefix=process.en…

Windows10 64环境下用Qt5.12.12自带的mingw730_64构建编译OpenCV4.1.0时cmake-3.20.6中的参数配置

一、环境条件说明: 操作系统:Windows10 64环境 编译工具:用Qt5.12.12自带的mingw730_64构建 构建对象:编译OpenCV4.1.0的Release 64位和Debug 64位动态链接库 构建工具:CMake中的参数配置 二、cmake-3.20.6中的参数配置 1、按照下图配置好OpenCV4.1.0的源代码目录和构建编…

闲着没事,用STC12C5616AD制作一个74hc595测试仪

手头有些特别廉价的直插74hc595,怕这些595因为廉价而质量不过关,因而萌发了制作一个测试仪的想法。 用测试仪先对595进行测试,功能正常了,再接入电路应用。 该测试仪能自动向595写入数据,再读出输出数据进行比对,如果读出的并口数据与串行写入的数据不同,说明该IC损坏或…