安装包下载

1、CM软件包下载

从http://archive.cloudera.com/cm5/redhat/7/x86_64/cm/5.16.1/RPMS/x86_64/下载rpm包,如下:

其实不需要下载j2sdk的,因为cm安装过程中会自动安装的,自己下载了也没用(这个网上的一些文章说法是不正确的)。

2、cloudera-manager安装文件下载

从http://archive.cloudera.com/cm5/installer/5.16.1/下载,如下:

3、rpm仓库文件下载

从http://archive.cloudera.com/cm5/redhat/7/x86_64/cm/下载,在最底部,如下:

4、parcel下载

从http://archive.cloudera.com/cdh5/parcels/5.16.1/下载el7版本,如下:

上传rpm以及bin文件到/soft目录(parcel、sha、manifest最后要放在/opt/cloudera/parcel-repo目录,可以一起先上传、也可以cloudera-manager安装后再上传)。如下:

环境准备

1、安装mysql或postgresql,创建hive/hue/amon/oozie_oozie_server用户并分配权限,最好不要使用内置数据库,不然不好管理,注意先拷贝jdbc驱动到/usr/share/java目录。

2、关闭防火墙

systemctl stop firewalld.service #停止firewall
systemctl disable firewalld.service #禁止firewall开机启动
firewall-cmd --state #查看默认防火墙状态(关闭后显示notrunning,开启后显示running)
3、关闭selinux

vim /etc/selinux/config

找到SELINUX改为: SELINUX=disabled

安装

1、Cloudera Manager RPM安装

yum localinstall --nogpgcheck *.rpm

2、cloduera manager二进制安装包安装

chmod u+x cloudera-manager-installer.bin

./cloudera-manager-installer.bin

执行安装命令,根据安装向导一路next。finish之后,相同配置下顺利安装时间在1分钟内即可完成,也可能2-3分钟,这一步基本上不会有问题。

然后我们在web浏览器访问 http://localhost:7180/,看是否能打开页面,能打开说明没有问题了,先不要进行登录操作。

然后将parcel以及sha、manifest.json复制到/opt/cloudera/parcel-repo目录,此时可以进入CDH服务安装了。

卸载(可选)

有时候因为安装中断或者环境太乱需要重新搭建时,需要先卸载cloudera manger。卸载过程如下:

0、如果不是安装过程中中断,则需要先通过Cloudera Manager停止集群和Cloudera Manager服务

1、主节点卸载(单机的只要执行这个即可)。

/usr/share/cmf/uninstall-cloudera-manager.sh

rm -rf /etc/cloudera-scm-server/db.properties # 不然重新安装会报错

有时候安装中断卸载执行该命令时会报“找不到 mojosetup/mojosetup文件”的错误,此时可通过下列方式解决:

rm -Rf /usr/share/cmf /var/lib/cloudera* /var/cache/yum/cloudera*

2、从节点停止agent

service cloudera-scm-agent stop

3、主从节点

umount /var/run/cloudera-scm-agent/process
rm -rf /usr/share/cmf /var/lib/cloudera* /var/cache/yum/x86_64/6/cloudera* /var/log/cloudera* /var/run/cloudera*  /etc/cloudera* 
4、如果要100%干净卸载,不需要再重装,还需要执行rm -rf /opt/cloudera,删除Parcles
注:如果没有通过cloudera-manager-installer.sh安装,可以参考https://blog.csdn.net/csolo/article/details/52589763、https://blog.csdn.net/weixin_39478115/article/details/78878931进行卸载。

CDH服务安装

Cloudera Manager Server以及Cloudera Manager Agent停止/启动/随机自动启动

FAQ

1、cloudera manager在选择服务后开始安装前,测试数据库时报“JDBC driver cannot be found. Unable to find the JDBC database jar on host”。

解决方法:jdb驱动放到/usr/share/java/目录,例如mysql-connector-java-5.1.47.jar

2、在web界面安装agent这一步,在“等待新安装的 Agent 检测信号...”这一步等待了1分钟左右,提示如下错误:

安装失败。 无法接收 Agent 发出的检测信号。

请确保主机的名称已正确配置。
请确保端口 7182 可在 Cloudera Manager Server 上访问(检查防火墙规则)。
请确保正在添加的主机上的端口 9000 和 9001 空闲。
检查正在添加的主机上 /var/log/cloudera-scm-agent/ 中的代理日志(某些日志可在安装详细信息中找到)。
如果在 Cloudera Manager 中启用为代理使用 TLS 加密(管理 -> 设置 -> 安全),请确保 /etc/cloudera-scm-agent/config.ini在正在添加的主机上有 use_tls=1。重启相应的代理,并单击此处的重试链接。

因为没有开启TLS,所以不是这个问题,进一步研究猜测,我安装的机器有两个ip,一个是host-only,一个是nat,使用了host-only出现这个问题,退回去调整为nat的ip后,问题解决。如不是这个原因,可参考下https://q.cnblogs.com/q/110190。

3、在安装的过程当中出现了主机运行状态不良的情况,如下:

解决方法:find / -name cm_guid,找到这个文件,然后删除,重装即可(确实可解决,参考:http://www.bubuko.com/infodetail-2754562.html)。

4、在选择parcel的步骤,放在/opt/cloudera/parcel-repo下的CDH-5.16.1-1.cdh5.16.1.p0.3-el7.parcel怎么都检测不出来,只有内置的4.7。换成5.15.2也一样。更多选项点进去目录也是正确的。

解决方法:选择使用数据包、然后下一步。因为实时下载非常慢,肯定下不去的,但是这一步好像是必要的,它会生成bt文件,如下。

然后卸载cloudera manager,重新安装(注意:不要删除/opt/cloudera目录,然后就可以了)。一开始以为manifest.json的问题,经验证不是。又以为是sha1名字没有改为sha的问题,经验证也不是该原因。还验证过是不是cloudera-manager.repo中版本号的问题,经验证,也不是(这里面的版本号就不需要修改)。

猜测会不会需要先拷贝到/opt/cloudera/parcel-repo,然后执行cloudera-manager-install.sh就没有这个问题了???

整体参考:https://blog.csdn.net/chenhai201/article/details/78856007

CentOS 7离线安装CDH 5.16.1完全指南(含各种错误处理)的更多相关文章

  1. CentOS7 离线安装mysql-5.7.16

    CentOS7 离线安装mysql-5.7.16 1 . 安装新版mysql前,需将系统自带的mariadb-lib卸载 [root@slave mytmp]# rpm -qa|grep mariad ...

  2. centOS 7 离线安装 MySQL 5.6 完美安装

    centOS 7 离线安装 MySQL 5.6 centOS 7 离线安装 MySQL 5.6 准备环境 1.离线 centOS 7(此处为 centOS 7 最小安装) 2.nginx 安装文件 ( ...

  3. CentOS 7离线安装MySQL 5.7

    系列文章首发平台为果冻想个人博客.果冻想,是一个原创技术文章分享网站.在这里果冻会分享他的技术心得,技术得失,技术人生.我在果冻想等待你,也希望你能和我分享你的技术得与失,期待. 前言 网上已经有那么 ...

  4. CentOS 7离线安装Ansible

    前言 我一直都想成为自动化运维界最亮的仔,奈何自己实力不允许.不过,我一直都在奋斗的路上:这不,最近就在学习自动化运维界的神器--Ansible. 要系统的学习一下Ansible,那就是要先搭建学习环 ...

  5. CentOS 8 离线安装 podman 解决方法

    CentOS 8 系统中如果没有安装Podman的话,想要离线安装会比较麻烦,因为podman依赖的包比较多,从网上一个一个下载会很繁琐,也容易出错. 这里介绍一种曲线救国的方式来离线安装. 首先分享 ...

  6. centos如何离线安装部署node&pm2?

    最近我们项目要上即时通讯,因为项目对安全要求比较高,所以选择了即时通讯云服务器yun2win,他们提供了数据服务器让我们自己安装部署.那么问题来了,我们服务器是放在内网,完全无法访问外网,而yun2w ...

  7. Hadoop_Hbase集群完全离线安装[CDH 5.13.1]

    here 一.环境准备:(这儿准备了三台虚拟机:内存6-3-3) JDK: -openjdk rpm -e java--openjdk-headless rpm -e java--openjdk-he ...

  8. centos下离线安装zip和unzip

    首先如果你的centos可以联网,那可以不用看了,直接yum install -y zip unzip就行,非常的痛快! 如果不能联网,像我一样,只能用vpn连上去,做了点限制.那就非常烦了,yum了 ...

  9. cloudera cdh6.3 离线安装 经典大数据平台视频教程(含网盘下载地址)

    cdh6.3企业级大数据视频教程 链接:https://pan.baidu.com/s/1bLGrIwzpFQB-pQRb6KOmNg 提取码:i8h8 系统和软件版本1,操作系统:Centos7.6 ...

随机推荐

  1. appium api笔记

    打印上下文driver.contexts打印当前上下文driver.contextdriver.current_context切换上下文driver.switch_to.context('WEBVIE ...

  2. Dear ImGUI 使用指南

    文档 1)Dear IMGui 2) 知乎 组件 1) Com 如何设置动态字符串? //char*pTest = "aaaa\0bbbb\0cccc\0dddd\0eeee\0\0&quo ...

  3. python函数把可变数据类型当默认参数值的问题(转)

    add by zhj: 文章写的很好,其实只要默认参数在函数中只读不写,那默认值就不会被修改,可变类型做默认参数就不会有问题 方法二中,当result is None时,修改result的指向,不再指 ...

  4. leetcode 之 Two Sum II - Input array is sorted c++

    class Solution { public: vector<int> twoSum(vector<int>& numbers, int target) { int ...

  5. BIO, NIO 和 Epoll (转载)

    很好的文章 https://eklitzke.org/blocking-io-nonblocking-io-and-epoll

  6. HTTP中Post与Put的区别

    PUT请求是向服务器端发送数据的,从而改变信息,该请求就像数据库的update操作一样,用来修改数据的内容,但是不会增加数据的种类等,也就是说无论进行多少次PUT操作,其结果并没有不同. POST请求 ...

  7. python 不知道是啥

    1.判断两个大文件是否是同一个文件 import os import hashlib import time start = time.time() path1 = r"E:\视频资料\el ...

  8. C#路径中获取文件全路径、目录、扩展名、文件名称

    C#路径中获取文件全路径.目录.扩展名.文件名称常用函数 需要引用System.IO 直接可以调用Path的静态方法 class Program { static void Main(string[] ...

  9. 跨平台技术实践案例: 用 reactxp 重写墨刀的移动端

    Authors:  Gao Cong, Perry Poon Illustrators:  Shena Bian April 20, 2019 重新编写,又一次,我们又一次重新编写了移动端应用和移动端 ...

  10. Windows 2008 r2上安装MySQL

    用MSI安装包安装 根据自己的操作系统下载对应的32位或64位安装包.按如下步骤操作: MySQL数据库官网的下载地址http://dev.mysql.com/downloads/mysql,第一步: ...