Hadoop集群故障诊断

集群故障诊断通行方法：1.cloudera manager 监控和管理软件本身出问题了（没有任何数据），集群还是好的，业务还在正常跑；2.监控软件是好的，从监控里发现了很多问题，如CPU飙高、内存飙高； Apache网站上由类似于cloudera manager的 Ambari （web-base tool） 集群内部应用故障如何来诊断，思路：只要用到Yarn的话，都会产生一个 Resource Manager log，看是在所有节点都失败了（全局变量、执行的脚本、参数有没有写对，yarn组件对应mapreduce的全局配置是不是出错，就是resource manager的配置）还是某些节点失败（看看在失败的节点上 NodeManager的日志） 是不是作业总在同一台节点上失败（资源枯竭啦？还是每个配置有问题） 若果不是，是不是Mapreduce作业没有配置好（AppMaster，Mapper，Reducer） 所有的错误诊断都要依赖日志 中心思想：看监控 看日志。