安装包下载

1、CM软件包下载

从http://archive.cloudera.com/cm5/redhat/7/x86_64/cm/5.16.1/RPMS/x86_64/下载rpm包,如下:

其实不需要下载j2sdk的,因为cm安装过程中会自动安装的,自己下载了也没用(这个网上的一些文章说法是不正确的)。

2、cloudera-manager安装文件下载

从http://archive.cloudera.com/cm5/installer/5.16.1/下载,如下:

3、rpm仓库文件下载

从http://archive.cloudera.com/cm5/redhat/7/x86_64/cm/下载,在最底部,如下:

4、parcel下载

从http://archive.cloudera.com/cdh5/parcels/5.16.1/下载el7版本,如下:

上传rpm以及bin文件到/soft目录(parcel、sha、manifest最后要放在/opt/cloudera/parcel-repo目录,可以一起先上传、也可以cloudera-manager安装后再上传)。如下:

环境准备

1、安装mysql或postgresql,创建hive/hue/amon/oozie_oozie_server用户并分配权限,最好不要使用内置数据库,不然不好管理,注意先拷贝jdbc驱动到/usr/share/java目录。

2、关闭防火墙

systemctl stop firewalld.service #停止firewall
systemctl disable firewalld.service #禁止firewall开机启动
firewall-cmd --state #查看默认防火墙状态(关闭后显示notrunning,开启后显示running)
3、关闭selinux

vim /etc/selinux/config

找到SELINUX改为: SELINUX=disabled

安装

1、Cloudera Manager RPM安装

yum localinstall --nogpgcheck *.rpm

2、cloduera manager二进制安装包安装

chmod u+x cloudera-manager-installer.bin

./cloudera-manager-installer.bin

执行安装命令,根据安装向导一路next。finish之后,相同配置下顺利安装时间在1分钟内即可完成,也可能2-3分钟,这一步基本上不会有问题。

然后我们在web浏览器访问 http://localhost:7180/,看是否能打开页面,能打开说明没有问题了,先不要进行登录操作。

然后将parcel以及sha、manifest.json复制到/opt/cloudera/parcel-repo目录,此时可以进入CDH服务安装了。

卸载(可选)

有时候因为安装中断或者环境太乱需要重新搭建时,需要先卸载cloudera manger。卸载过程如下:

0、如果不是安装过程中中断,则需要先通过Cloudera Manager停止集群和Cloudera Manager服务

1、主节点卸载(单机的只要执行这个即可)。

/usr/share/cmf/uninstall-cloudera-manager.sh

rm -rf /etc/cloudera-scm-server/db.properties # 不然重新安装会报错

有时候安装中断卸载执行该命令时会报“找不到 mojosetup/mojosetup文件”的错误,此时可通过下列方式解决:

rm -Rf /usr/share/cmf /var/lib/cloudera* /var/cache/yum/cloudera*

2、从节点停止agent

service cloudera-scm-agent stop

3、主从节点

umount /var/run/cloudera-scm-agent/process
rm -rf /usr/share/cmf /var/lib/cloudera* /var/cache/yum/x86_64/6/cloudera* /var/log/cloudera* /var/run/cloudera*  /etc/cloudera* 
4、如果要100%干净卸载,不需要再重装,还需要执行rm -rf /opt/cloudera,删除Parcles
注:如果没有通过cloudera-manager-installer.sh安装,可以参考https://blog.csdn.net/csolo/article/details/52589763、https://blog.csdn.net/weixin_39478115/article/details/78878931进行卸载。

CDH服务安装

Cloudera Manager Server以及Cloudera Manager Agent停止/启动/随机自动启动

FAQ

1、cloudera manager在选择服务后开始安装前,测试数据库时报“JDBC driver cannot be found. Unable to find the JDBC database jar on host”。

解决方法:jdb驱动放到/usr/share/java/目录,例如mysql-connector-java-5.1.47.jar

2、在web界面安装agent这一步,在“等待新安装的 Agent 检测信号...”这一步等待了1分钟左右,提示如下错误:

安装失败。 无法接收 Agent 发出的检测信号。

请确保主机的名称已正确配置。
请确保端口 7182 可在 Cloudera Manager Server 上访问(检查防火墙规则)。
请确保正在添加的主机上的端口 9000 和 9001 空闲。
检查正在添加的主机上 /var/log/cloudera-scm-agent/ 中的代理日志(某些日志可在安装详细信息中找到)。
如果在 Cloudera Manager 中启用为代理使用 TLS 加密(管理 -> 设置 -> 安全),请确保 /etc/cloudera-scm-agent/config.ini在正在添加的主机上有 use_tls=1。重启相应的代理,并单击此处的重试链接。

因为没有开启TLS,所以不是这个问题,进一步研究猜测,我安装的机器有两个ip,一个是host-only,一个是nat,使用了host-only出现这个问题,退回去调整为nat的ip后,问题解决。如不是这个原因,可参考下https://q.cnblogs.com/q/110190。

3、在安装的过程当中出现了主机运行状态不良的情况,如下:

解决方法:find / -name cm_guid,找到这个文件,然后删除,重装即可(确实可解决,参考:http://www.bubuko.com/infodetail-2754562.html)。

4、在选择parcel的步骤,放在/opt/cloudera/parcel-repo下的CDH-5.16.1-1.cdh5.16.1.p0.3-el7.parcel怎么都检测不出来,只有内置的4.7。换成5.15.2也一样。更多选项点进去目录也是正确的。

解决方法:选择使用数据包、然后下一步。因为实时下载非常慢,肯定下不去的,但是这一步好像是必要的,它会生成bt文件,如下。

然后卸载cloudera manager,重新安装(注意:不要删除/opt/cloudera目录,然后就可以了)。一开始以为manifest.json的问题,经验证不是。又以为是sha1名字没有改为sha的问题,经验证也不是该原因。还验证过是不是cloudera-manager.repo中版本号的问题,经验证,也不是(这里面的版本号就不需要修改)。

猜测会不会需要先拷贝到/opt/cloudera/parcel-repo,然后执行cloudera-manager-install.sh就没有这个问题了???

整体参考:https://blog.csdn.net/chenhai201/article/details/78856007

CentOS 7离线安装CDH 5.16.1完全指南(含各种错误处理)的更多相关文章

  1. CentOS7 离线安装mysql-5.7.16

    CentOS7 离线安装mysql-5.7.16 1 . 安装新版mysql前,需将系统自带的mariadb-lib卸载 [root@slave mytmp]# rpm -qa|grep mariad ...

  2. centOS 7 离线安装 MySQL 5.6 完美安装

    centOS 7 离线安装 MySQL 5.6 centOS 7 离线安装 MySQL 5.6 准备环境 1.离线 centOS 7(此处为 centOS 7 最小安装) 2.nginx 安装文件 ( ...

  3. CentOS 7离线安装MySQL 5.7

    系列文章首发平台为果冻想个人博客.果冻想,是一个原创技术文章分享网站.在这里果冻会分享他的技术心得,技术得失,技术人生.我在果冻想等待你,也希望你能和我分享你的技术得与失,期待. 前言 网上已经有那么 ...

  4. CentOS 7离线安装Ansible

    前言 我一直都想成为自动化运维界最亮的仔,奈何自己实力不允许.不过,我一直都在奋斗的路上:这不,最近就在学习自动化运维界的神器--Ansible. 要系统的学习一下Ansible,那就是要先搭建学习环 ...

  5. CentOS 8 离线安装 podman 解决方法

    CentOS 8 系统中如果没有安装Podman的话,想要离线安装会比较麻烦,因为podman依赖的包比较多,从网上一个一个下载会很繁琐,也容易出错. 这里介绍一种曲线救国的方式来离线安装. 首先分享 ...

  6. centos如何离线安装部署node&pm2?

    最近我们项目要上即时通讯,因为项目对安全要求比较高,所以选择了即时通讯云服务器yun2win,他们提供了数据服务器让我们自己安装部署.那么问题来了,我们服务器是放在内网,完全无法访问外网,而yun2w ...

  7. Hadoop_Hbase集群完全离线安装[CDH 5.13.1]

    here 一.环境准备:(这儿准备了三台虚拟机:内存6-3-3) JDK: -openjdk rpm -e java--openjdk-headless rpm -e java--openjdk-he ...

  8. centos下离线安装zip和unzip

    首先如果你的centos可以联网,那可以不用看了,直接yum install -y zip unzip就行,非常的痛快! 如果不能联网,像我一样,只能用vpn连上去,做了点限制.那就非常烦了,yum了 ...

  9. cloudera cdh6.3 离线安装 经典大数据平台视频教程(含网盘下载地址)

    cdh6.3企业级大数据视频教程 链接:https://pan.baidu.com/s/1bLGrIwzpFQB-pQRb6KOmNg 提取码:i8h8 系统和软件版本1,操作系统:Centos7.6 ...

随机推荐

  1. linux 标注主机别名

    vi /etc/bashrc # Turn on checkwinsize  shopt -s checkwinsize  [ "$PS1" = "\\s-\\v\\\$ ...

  2. 阿里云服务器Linux CentOS安装配置(11)安装Wordpress

    下载wordpress安装包 wget https://cn.wordpress.org/wordpress-4.8.1-zh_CN.zip unzip wordpress-4.8.1-zh_CN.z ...

  3. django项目同一用户不能同时登陆

    1.session认证 ..... login(request, user) #登录成功 # 登录之后获取获取最新的session_key session_key = request.session. ...

  4. c#清空文本文件

    FileStream fs = new FileStream(@"C:\log.txt", FileMode.Truncate, FileAccess.ReadWrite); fs ...

  5. 字符串转xml,特殊字符的问题

    字符串转xml,如果字符串包含&,< 等特殊符号,转成xml 需要特殊处理,否则XML解析会出错. String uuid = UUID.randomUUID().toString(). ...

  6. hydra用法

    三.Syntax # hydra [[[-l LOGIN|-L FILE] [-p PASS|-P FILE]] | [-C FILE]] [-e ns] [-o FILE] [-t TASKS] [ ...

  7. 系统重启后,mr程序不生成当前时间段的MRx文件问题

    系统重启后,mr程序不生成当前时间段的MRx文件问题 2019-4-2 之前使用正常的MR程序,系统重启后无法生成MRE\MRO\MRS文件. 服务器有两个时钟:硬件时钟和系统时钟 硬件时钟从根本上讲 ...

  8. mysql主从服务搭建

    一.安装mysql 检测当前centos是否安装了mysql:yum list installed | grep mysql yum list installed | grep mariadb    ...

  9. 某里巴巴Java工程师常规面试题以及解答

    从HR弄来的P6-P7的JAVA工程师题目,分享给大家 1 Spring AOP和IOC的实现方法 http://blog.csdn.net/tarena_lixy/article/details/7 ...

  10. 【Pattern】-NO.150.Pattern.1 -【Pattern UML】

    Style:Mac Series:Java Since:2018-09-10 End:2018-09-10 Total Hours:1 Degree Of Diffculty:5 Degree Of ...