一、日志分类

十多年的和田县网站建设经验，针对设计、前端、开发、售后、文案、推广等六对一服务，响应快，48小时及时工作处理。营销型网站的优势是能够根据用户设备显示端的尺寸不同，自动调整和田县建站的显示方式，使网站能够适用不同显示终端，在浏览器中调整网站的宽度，无论在任何一种浏览器上浏览网站，都能展现优雅布局与设计，从而大程度地提升浏览体验。创新互联从事“和田县网站设计”,“和田县网站推广”以来，每个客户项目都认真落实执行。

 1、进程日志

 进程日志即为hadoop各个守护进程的日志，例如ResourceManager、NodeManager、NameNode、DataNode等守护进程。集群启动或者运行期间出现异常，首先应该查看进程日志，它是系统排障的重要工具。默认位置为${HADOOP_HOME}/logs。可以在mapred-env.sh和yarn-env.sh中分别指定HADOOP_MAPRED_LOG_DIR和YARN_LOG_DIR变量来改变默认位置。

 进程日志是滚动记录的，当日志达到指定大小之后，会滚动写入下一个文件。可以在$HADOOP_HOME/etc/hadoop/log4j.properties中对文件大小、保留个数等进行相应设置。

 2、作业日志

 作业日志记录了作业运行的整体情况，以及该作业的计数器统计信息。比如作业一共有多少个map，多少个reduce，分别在什么时候哪个节点启动，各个map进行了多少文件读写、占用了多少CPU时间等等。作业日志在系统监控和调优方面有重要作用。

 3、Container日志

 Container日志是hadoop各个container记录的日志，其中会包含错误或失败的重要信息。如果没有打开日志聚合，默认是分布在各个nodemanager节点上的。如果打开了日志聚合选项，则会统一放在集中的位置（比如HDFS上）。Container日志会记录作业运行时会发生的各种运行时信息和错误，对于调试和调优有很大的帮助。

 二、作业日志位置的移动

 作业日志记录的是作业的整体情况，而且会随着作业执行的阶段变化而改变。

 1、作业启动后，hadoop会将作业日志放在${yarn.app.mapreduce.am.staging-dir}/${user}/.staging/{$job_ID}目录。其中：

 yarn.app.mapreduce.am.staging-dir在yarn-site.xml中指定，默认是/tmp/hadoop-yarn/staging

 ${user}是运行作业的用户

 例如：grid用户发起一个mr作业，job_id为job_1483969906296_0002，在其运行没有结束时，作业的日志会放在/tmp/hadoop-yarn/staging/grid/.staging/job_1483969906296_0002目录中。

 2、作业完成后，作业日志会被移到${mapreduce.jobhistory.intermediate-done-dir}/${user}，其中${mapreduce.jobhistory.intermediate-done-dir}可以在mapred-site.xml中配置，默认值是${yarn.app.mapreduce.am.staging-dir}/history/done_intermediate

 3、第2步的这个新地址只是个临时的中转站，hadoop会定时将这个目录中的日志转移到永久地址：${mapreduce.jobhistory.done-dir}/${year}/${month}/${day}/000000目录中。其中的000000应该会发生变化，暂时未确定代表何种变量，以后确认后再补充。

 三、其它补充

 1、作业日志中的jhist文件为json格式，保存了作业的主要信息

 2、如果需要查看container日志，最好打开日志聚合（在yarn-site.xml中配置yarn.log-aggregation-enable为true），可以使用yarn logs -applicationId 查看完整的container日志。

另外有需要云服务器可以了解下创新互联scvps.cn，海内外云服务器15元起步，三天无理由+7*72小时售后在线，公司持有idc许可证，提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案，具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势，专为企业上云打造定制，能够满足用户丰富、多元化的应用场景需求。

网页名称：Hadoop日志小结-创新互联
文章地址：http://scyanting.com/article/dsijdp.html