。

还可以查看集群详细配置的信息#xff0c;检查各种应用程序和服务的日志。

1.1

与HDFS一样YARN也提供了一个WebUI服务可以使用YARN

Web用户界面监视群集、队列、应用程序、服务、流活动和节点信息。

还可以查看集群详细配置的信息检查各种应用程序和服务的日志。

1.1

浏览器输入http://node2.itcast.cn:8088/访问YARN

WebUI服务页面打开后以列表形式展示已经运行完成的各种应用程序如MapReduce应用、Spark应用、Flink应用等与点击页面左侧Application栏目红线框Applications链接显示的内容一致。

1.2

当点击任意一个应用程序时会打开一个新页面并展示这个应用程序的运行信息。

以MR应用为例如果应用程序正在运行打开的页面如图10-1-2所示如果应用程序已经运行完成打开的页面如下图所示。

二、HistoryServer

YARN中提供了一个叫做JobHistoryServer的守护进程它属于YARN集群的一项系统服务仅存储已经运行完成的MapReduce应用程序的作业历史信息并不会存储其他类型如Spark、Flink等应用程序的作业历史信息。

当启用JobHistoryServer服务时仍需要开启日志聚合功能否则每个Container的运行日志是存储在NodeManager节点本地查看日志时需要访问各个NodeManager节点不利于统一管理和分析。

当开启日志聚合功能后AM会自动收集每个Container的日志并在应用程序完成后将这些日志移动到文件系统例如HDFS。

然后通过JHS的WebUI服务来提供用户使用和应用恢复。

2.1

在【mapred-site.xml】文件中配置指定JobHistoryServer服务地址和端口号具体操作如下。

编辑文件

/export/server/hadoop/etc/hadoop/mapred-site.xml

添加属性配置

namemapreduce.jobhistory.address/name

valuenode1.itcast.cn:10020/value

/property

namemapreduce.jobhistory.webapp.address/name

valuenode1.itcast.cn:19888/value

/property

namemapreduce.jobhistory.intermediate-done-dir/name

value/mr-history/intermediate/value

/property

namemapreduce.jobhistory.done-dir/name

/property

/export/server/hadoop/etc/hadoop

[rootnode1

首先配置运行在YARN上应用的日志聚集功能当应用运行完成将日志相关信息上传至HDFS文件系统编辑文件【yarn-site.xml】和添加属性配置。

编辑文件

/export/server/hadoop/etc/hadoop/yarn-site.xml

添加属性配置

nameyarn.log-aggregation-enable/name

valuetrue/value

nameyarn.nodemanager.remote-app-log-dir/name

value/app-logs/value

valuehttp://node1.itcast.cn:19888/jobhistory/logs/value

/property

/export/server/hadoop/etc/hadoop

[rootnode1

在上述配置中指定的JHS服务位于【node1.itcast.cn】节点上在【node1.itcast.cn】节点中启动JobHistoryServer服务。

启动命令如下

浏览器查看http://node1.itcast.cn:19888/jobhistory

2.4

当提交运行MapReduce程序在YARN上运行完成以后将应用运行日志数据上传到HDFS上此时JobHistoryServer服务可以从HDFS上读取运行信息在WebUI进行展示具体流程如下。

2.4.1

jar提交运行官方自带词频统计WordCount程序到YARN上运行命令如下

[rootnode1

/export/server/hadoop/share/hadoop/mapreduce/hadoop-mapreduce-examples-3.1.4.jar

wordcount

client.ConfiguredRMFailoverProxyProvider:

Failing

/tmp/hadoop-yarn/staging/root/.staging/job_1614243659295_0002

2021-02-25

http://node3.itcast.cn:8088/proxy/application_1614243659295_0002/

2021-02-25

MR应用程序在运行时是通过AMMRAppMaster类将日志写到HDFS中会生成.jhist、.summary和_conf.xml文件。

其中.jhist文件是MR程序的计数信息.summary文件是作业的摘要信息_conf.xml文件是MR程序的配置信息。

MR应用程序启动时会把作业信息存储到${yarn.app.mapreduce.am.staging-dir}/${user}/.staging/${job_id}目录下。

yarn.app.mapreduce.am.staging-dir/tmp/hadoop-yarn/staging默认

MR应用程序运行完成后作业信息会被临时移动到${mapreduce.jobhistory.intermediate-done-dir}/${user}目录下。

mapreduce.jobhistory.intermediate-done-dir/mr-history/intermediate配置

等待${mapreduce.jobhistory.move.interval-ms}配置项的值默认180000毫秒3分钟后会把${mapreduce.jobhistory.intermediate-done-dir}/${user}下的作业数据移动到${mapreduce.jobhistory.done-dir}/${year}/${month}/${day}/${serialPart}目录下。

此时.summary文件会被删除因为.jhist文件提供了更详细的作业历史信息。

JHS服务中的作业历史信息不是永久存储的在默认情况下作业历史清理程序默认按照86400000毫秒一天的频率去检查要删除的文件只有在文件早于mapreduce.jobhistory.max-age-ms一天时才进行删除。

JHS的历史文件的移动和删除操作由HistoryFileManager类完成。

mapreduce.jobhistory.intermediate-done-dir/mr-history/intermediate配置

mapreduce.jobhistory.intermediate-done-dir/mr-history/done配置

mapreduce.jobhistory.cleaner.enable:

true默认

mapreduce.jobhistory.cleaner.interval-ms:

864000001天

mapreduce.jobhistory.max-age-ms:

864000001天

客户端提交MR应用程序到RM在/tmp/logs/user/logs/application_timestamp_xxxx中创建应用程序文件夹MR作业在群集上的YARN中运行MR作业完成在提交作业的作业客户上报告作业计数器将计数器信息.jhist文件和job_conf.xml文件写入/user/history/done_intermediate/user/job_timestamp_xxxx然后将.jist文件和job_conf.xml从/user/history/done_intermediate/user/移动到/user/history/done目录下来自每个NM的Container日志汇总到/tmp/logs/用户ID/logs/application_timestamp_xxxx

2.5

浏览器输入http://node1.itcast.cn:19888

访问JHS服务页面打开后以列表形式展示已经运行完成的MR应用程序,与点击页面左侧Application栏目红线框jobs链接显示的内容一致。

2.5.2

http://node1.itcast.cn:19888/jobhistory/about

地址或者在点击页面左侧Application栏目下红线框about链接后会展示JHS服务的构建版本信息和启动时间。

2.5.3

http://node1.itcast.cn:19888/conf

或点击页面左侧Tools栏目中的红线框configuration链接会打开JHS的所需配置页面在配置页面中主要有集群自定义配置core-site.xml、hdfs-site.xml、yarn-site.xml和mapred-site.xml和集群默认配置core-default.xml、hdfs-default.xml、yarn-default.xml和mapred-default.xml两种。

配置页面中的配置项较多截图为部分展示。

2.5.5

http://node1.itcast.cn:19888/logs/

logs链接会打开JHS服务的所在节点的log文件列表页面。

​​​​​​​

2.5.6

http://node1.itcast.cn:19888/stacks

stacks链接会打开JHS服务的堆栈转储信息。

stacks功能会统计JHS服务的后台线程数、每个线程的运行状态和详情。

这些线程有MoveIntermediateToDone线程、JHS的10020

Admin接口线程、HDFS的StatisticsDataReferenceCleaner线程、JHS服务度量系统的计时器线程、DN的Socket输入流缓存线程和JvmPauseMonitor线程等。

三、TimelineServer

Server仅对MapReduce应用程序提供历史信息支持其他应用程序的历史信息需要分别提供单独的HistoryServer才能查询和检索。

例如Spark的Application需要通过Spark自己提供的org.apache.spark.deploy.history.HistoryServer来解决应用历史信息。

Server组件以通用的方式存储和检索应用程序当前和历史信息。

到目前有V1、V1.5和V2共三个版本V1仅限于写入器/读取器和存储的单个实例无法很好地扩展到小型群集之外V2还处于alpha状态所以在本章以V1.5进行讲解。

V1.5

2.将数据的收集写入与数据的提供读取分开。

它使用分布式收集器每个YARN应用程序实质上是一个收集器。

读取器是专用于通过REST

HBase可以很好地扩展到较大的大小同时保持良好的读写响应时间。

官方文档

在【yarn-site.xml】配置文件中添加如下属性启动Timeline

Server服务功能

nameyarn.timeline-service.enabled/name

valuetrue/value

nameyarn.timeline-service.hostname/name

description设置YARN

nameyarn.timeline-service.address/name

valuenode2.itcast.cn:10200/value

description设置YARN

Timeline服务启动RPC服务器的地址默认端口10200/description

/property

nameyarn.timeline-service.webapp.address/name

valuenode2.itcast.cn:8188/value

description设置YARN

nameyarn.resourcemanager.system-metrics-publisher.enabled/name

valuetrue/value

description设置RM是否发布信息到Timeline服务器/description

/property

nameyarn.timeline-service.generic-application-history.enabled/name

valuetrue/value

description设置是否Timelinehistory-servic中获取常规信息,如果为否,则是通过RM获取/description

/property

/export/server/hadoop/etc/hadoop

[rootnode1

在上述配置中指定的Timeline服务位于【node2.itcast.cn】节点上需要在【node2.itcast.cn】节点的shell客户端中启动如果在非【node2.itcast.cn】节点上启动时会报错。

启动命令如下

在浏览器中输入http://node2.itcast.cn:8188/applicationhistory