1.在CM中添加主机报JDK错误
手动在机器上安装oracle-jdk1.7+update64.然后在CM中选择不安装oracle-jdk即可.

2.HostMoinitor无法与server联系
查找了多方资料,依然没有找到问题.
/var/log/cloudera-scm-aget/下是日志文件
/var/run/cloudera-scm-aget/是运行时文件

最后从上面标黄色的地方感觉到是网络问题./etc/hosts和/etc/syscofing/network-scripte/ifcfg-eth0都没有问题,然后想到是route问题,但是route和节点上其它机器上是一样的.最后考虑到可能是DNS问题.
本机:
集群中其它机器:
发现了问题.声明bf.cn后,只在bf.cn域名中查找主机,


3.CM报"在 Cloudera Manager Server 主机上运行的嵌入式 PostgreSQL"
 
检查CM的配置:
  
 但是CM的各个模式使用的均是mysql数据库,原因可能是以前用的postgreysql,后来改成mysql,但是CM还在继续监控pg,而且集群使用正常,这可能是一个CM的一个bug.
CM使用的pg数据库的配置:
pg数据目录:/var/lib/cloudera-scm-server-db

使用的mysql数据库的配置可以CM配置中看到.
 
4.CDH报ntp不同步
在CDH中,是用ntpdc -np来测试ntp服务的。在问题主机上执行

ntpdc -np
ntpdc: read: Connection refused

由于默认查询ipv6引起的,而问题主机上确实启了ipv6,对比其它机器,其它机器并没有启动ipv6。
监控关闭ipv6:
echo 1 > /proc/sys/net/ipv6/conf/eth0/disable_ipv6

问题解决


5. hivemetastore报canary错误。

这个是用于测试metastore的。
通过检查msyql数据库,发现库中没有表,说明metastore配置有问题。
后来检查是mysql驱动的问题,机器上是mysql-connector-bin.jar,但CDH只认mysql-connector.jar,因此将/usr/share/java下的mysql-connector-bin.jar改为mysql-connector.jar即可。

6.CDH组报找不到jar包
比如使用sqoop从oracle向hive抽数据,找不到oracle驱动,把驱动放在/var/lib/sqoop下即可。其它组件一样。

7.jdk导致任务出错
上网百度说是jdk版本问题:
CDH官网说要用ORACLE JDK,但这里却错误的安装了OPENJDK。替换成oracle JDK.
要确认程序用的是哪个JDK,在程序执行时:ps -ef|grep sqoop即可以看到:
/opt/jdk/bin/java确实是JDK1.8,应该没问题。

最后发现,运行sqoop的JDK和运行yarn hdfs等的JDK不同,其它的用的是/usr/java/jdk1.7.0_67-cloudera/bin/java。
解决办法,在CM中设置JAVA_HOME,然后重启集群。估计修改sqoop这个文件,加上JAVA_HOME应该也可以。。



CDH问题集的更多相关文章

  1. 使用yum安装CDH Hadoop集群

    使用yum安装CDH Hadoop集群 2013.04.06 Update: 2014.07.21 添加 lzo 的安装 2014.05.20 修改cdh4为cdh5进行安装. 2014.10.22  ...

  2. Cloudera CDH 5集群搭建(yum 方式)

    1      集群环境 主节点 master001 ~~ master006 从节点 slave001 ~~ slave064 2      安装CDH5的YUM源 rpm -Uvhhttp://ar ...

  3. Hadoop数据分析平台项目实战(基于CDH版本集群部署与安装)

    1.Hadoop的主要应用场景: a.数据分析平台. b.推荐系统. c.业务系统的底层存储系统. d.业务监控系统. 2.开发环境:Linux集群(Centos64位)+Window开发模式(win ...

  4. 3.环境搭建-Hadoop(CDH)集群搭建

    目录 目录 实验环境 安装 Hadoop 配置文件 在另外两台虚拟机上搭建hadoop 启动hdfs集群 启动yarn集群 本文主要是在上节CentOS集群基础上搭建Hadoop集群. 实验环境 Ha ...

  5. Win7下通过eclipse远程连接CDH集群来执行相应的程序以及错误说明

    最近尝试这用用eclipse连接CDH的集群,由于之前尝试过很多次都没连上,有一次发现Cloudera Manager是将连接的端口修改了,所以才导致连接不上CDH的集群,之前Apache hadoo ...

  6. 为CDH 5.7集群添加Kerberos身份验证及Sentry权限控制

    转载请注明出处:http://www.cnblogs.com/xiaodf/ 4. 为CDH 5集群添加Kerberos身份验证 4.1 安装sentry1.点击“操作”,“添加服务”:2.选择sen ...

  7. CDH 5.16.1 离线部署 & 通过 CDH 部署 Hadoop 服务

    参考 Cloudera Enterprise 5.16.x Installing Cloudera Manager, CDH, and Managed Services Installation Pa ...

  8. spark集群安装部署

    通过Ambari(HDP)或者Cloudera Management (CDH)等集群管理服务安装和部署在此不多介绍,只需要在界面直接操作和配置即可,本文主要通过原生安装,熟悉安装配置流程. 1.选取 ...

  9. hadoop问题集(1)

        参考: http://dataunion.org/22887.html 1.mapreduce_shuffle does not exist 执行任何时报错: Container launch ...

随机推荐

  1. c++string标准输入和getline()整行读入

    1.使用标准IO操作读写string对象 我们都知道,使用标准iostream操作来读写int ,double等内置类型的值,同样,我们也可以使用IO操作来读写string对象. c++ code: ...

  2. NoSQL数据库浅析

    NoSQL(NoSQL = Not Only SQL ):非关系型的数据库.NoSQL有时也称作Not Only SQL的缩写,是对不同于传统的关系型数据库的数据库管理系统的统称. 今天我们可以通过第 ...

  3. 使用JDK开发WebServrice案例

    使用JDK开发WebServrice案例: 一.开发WebService服务器端 第一步:创建Java工程 ,创建相应的包(服务端)使用JDK开发(1.6以上版本) 第二步:建一个接口WebServi ...

  4. Linux字符设备学习,总结

    注册字符驱动的一种老方法: 注册一个字符设备的经典方法是使用:int register_chrdev(unsigned int major, const char *name, structfile_ ...

  5. 通过devmem访问物理地址

    目录 1.写在前面 2.devmem使用 3.应用层 4.内核层 1.写在前面 最近在调试时需要在用户层访问物理内存,发现应用层可以使用devmem工具访问物理地址.查看源码,实际上是对/dev/me ...

  6. 《TCP/IP详解 卷1:协议》第3章 IP:网际协议

    3.1 引言 IP是TCP/IP协议族中最为核心的协议.所有的TCP.UDP.ICMP及IGMP数据都以IP数据报格式传输(见图1-4).许多刚开始接触TCP/IP的人对IP提供不可靠.无连接的数据报 ...

  7. linux进程篇 (二) 进程的基本控制

    2. 进程的基本操作 接口函数 #include <unistd.h> //创建子进程 pid_t fork(void); //结束子进程 void exit(int status); / ...

  8. Batch Normalization 批量标准化

    本篇博文转自:https://www.cnblogs.com/guoyaohua/p/8724433.html Batch Normalization作为最近一年来DL的重要成果,已经广泛被证明其有效 ...

  9. 牛客小白月赛4C——病菌感染

    链接:https://www.nowcoder.com/acm/contest/134/C 来源:牛客网 #include <bits/stdc++.h> using namespace ...

  10. 自己用原生JS写的轮播图,支持移动端触屏滑动,面向对象思路。分页器圆点支持click和mouseover。

    自己用原生javascript写的轮播图,面向对象思路,支持移动端手指触屏滑动.分页器圆点可以选择click点击或mouseover鼠标移入时触发.图片滚动用的setInterval,感觉setInt ...