1.Cloudera Manager安装
安装环境采用2台虚拟机进行,一台master, 一台slave1
先安装好centos 6.5 两台,并设置静态ip
怎么安装可以参考地址:https://jingyan.baidu.com/article/25648fc1a235c99191fd0008.html
关闭防火墙
设置成disabled
- service iptables stop 手工停止防火墙
- chkconfig iptables off 设置开机不启动防火墙
- chkconfig iptables --list 查看防火墙服务
另外一台slave1也是一样的操作。
设置/etc/hosts, 整个集群里全部节点都要配置进去, 两个节点都配置。
vim /etc/hosts
- 192.168.189.140 master
- 192.168.189.141 slave1
- 127.0.0.1 localhost
下载安装包
http://archive.cloudera.com/cm5/redhat/6/x86_64/cm/5.15.1/RPMS/x86_64/
下载 repo 文件和 Installer.bin
下载 repo 文件: http://archive.cloudera.com/cm5/redhat/6/x86_64/cm/cloudera-manager.repo
下载 Installer.bin 文件: http://archive.cloudera.com/cm5/installer/5.15.1/
把包上传到master机器上
移动文件
- mv cloudera-manager.repo /etc/yum.repos.d/
修改文件cloudera-manager.repo
- [cloudera-manager]
- # Packages for Cloudera Manager, Version , on RedHat or CentOS x86_64
- name=Cloudera Manager
- baseurl=https://archive.cloudera.com/cm5/redhat/6/x86_64/cm/5.15.1/
- gpgkey =https://archive.cloudera.com/cm5/redhat/6/x86_64/cm/RPM-GPG-KEY-cloudera
- gpgcheck =
执行 yum clean all 清空 yum 缓存
yum list|grep cloudera 验证 repo 文件是否起效
安装rpm包
- yum install -y *.rpm
- rpm -qa|grep cloud
- rpm -qa|grep java
- rpm -qa|grep jdk
- rpm -qa|grep oracle
然后运行.bin 安装 CM Server, 只需要一台节点安装 CM Server
- chmod +x cloudera-manager-installer.bin
执行
- ./cloudera-manager-installer.bin
Cm Server 的日志目录: /var/log/cloudera-scm-server
安装过程日志目录: /var/log/cloudera-manager-installer
cm 相关的安装目录都在/var/lib 下, 日志都在/var/log 下。
Jdk 安装目录在/usr/java 下。
常见问题:
Installer.bin 安装过程失败后, 常有的问题:
1、 自动修改了 repo 文件名, 出现后缀 rpmnew 、 rpmsave(备份)两个文件。
其中 rpmsave 后缀的是已有 repo 文件重命名后的, rpmnew 是新产生的(说明官方建议用最新版
本) 。
怎么解决: 1、 把 rpmsave 文件改名为 cloudera-manager.repo
2、 清空 yum 缓存, yum clean all
3、 重试 installer.bin
等几分钟,打开地址 http://192.168.189.140:7180/
用户名:admin
密码:admin
安装 CDH 有两种方式, 一种是使用 rpm 包(需要联网) , 另一种是使用 parcels 包(离线) 。
parcels 方式不需要联网, 且安装简洁, 也是官方推荐的方式
parcels 方式安装步骤, 仅在 master 节点进行操作
1.手工下载软件包。
下载地址: http://archive.cloudera.com/cdh5/parcels/5.15.1/
下载如下红色标出的 3 个文件 :
el 是红帽、 Centos 等系统的, el6 对应 Centos 6.x
下载后把这 3 个文件放到/opt/cloudera/parcel-repo 目录下, 该目录在 cm 安装后已自动创建
2、 把 CDH-5.15.1-1.cdh5.15.1.p0.11-el6.parcel.sha1 的后缀改为.sha ;
内容只保留 hashCode 部分。
- mv CDH-5.15.-.cdh5.15.1.p0.-el6.parcel.sha1 CDH-5.15.-.cdh5.15.1.p0.-el6.parcel.sha
把这里改成需要安装的版本
这里需要注意,每个节点的账户密码要保持一致
将master的rpm包发送到slave1上
- scp -r cloudera-manager-agent-5.15.-.cm5151.p0..el6.x86_64.rpm cloudera-manager-daemons-5.15.-.cm5151.p0..el6.x86_64.rpm slave1:/opt/soft/cm/
- scp cloudera-manager.repo slave1:/etc/yum.repos.d/
到slave1检查一下文件内容
清理一下缓存
- yum clean all
- scp -r jdk-6u31-linux-amd64.rpm oracle-j2sdk1.-1.7.+update67-.x86_64.rpm slave1:/opt/soft/cm/
在slave1节点安装一下rpm包
- yum install -y *.rpm
先终止安装,因为之前在slave1中忘记安装rpm包了,如果终止时间比较长,可以刷新页面,重复前面的几个步骤
如果遇到这样的报错信息
解决办法:
1、 检查/etc/hosts 。
2、 如果 1 解决不了, 则在该节点上重启
查服务名称: chkconfig --list|grep cloud
执行重启命令: service cloudera-scm-agent restart
然后界面里点击重试。
我们逐个问题解决
先解决时钟不同步的问题
- ntpdate pool.ntp.org
可以看到时钟同步问题已经解决
针对这个问题
分别在master slave1上运行以下语句
先临时修改
- sysctl vm.swappiness=
- cat /proc/sys/vm/swappiness
再永久修改
- echo 'vm.swappiness=10'>> /etc/sysctl.conf
可以看到问题解决了
针对这个问题
在master slave1上分别运行
- echo never > /sys/kernel/mm/transparent_hugepage/defrag
- echo never > /sys/kernel/mm/transparent_hugepage/enabled
遇到这个问题,把/dfs目录下的内容删除掉,所以节点都这样操作,再重新运行一次即可
1.Cloudera Manager安装的更多相关文章
- Cloudera Manager安装_搭建CDH集群
2017年2月22日, 星期三 Cloudera Manager安装_搭建CDH集群 cpu 内存16G 内存12G 内存8G 默认单核单线 CDH1_node9 Server || Agent ...
- Cloudera Manager安装之利用parcels方式安装3或4节点集群(包含最新稳定版本或指定版本的安装)(添加服务)(CentOS6.5)(五)
参考博客 Cloudera Manager安装之利用parcels方式安装单节点集群 Cloudera Manager安装之Cloudera Manager 5.3.X安装(三)(tar方式.rpm ...
- Cloudera Manager安装之利用parcels方式安装单节点集群(包含最新稳定版本或指定版本的安装)(添加服务)(CentOS6.5)(四)
不多说,直接上干货! 福利 => 每天都推送 欢迎大家,关注微信扫码并加入我的4个微信公众号: 大数据躺过的坑 Java从入门到架构师 人工智能躺过的坑 ...
- Cloudera Manager安装之Cloudera Manager 5.3.X安装(三)(tar方式、rpm方式和yum方式)
不多说,直接上干货! 福利每天都有 => =>=>=>=> 欢迎大家,关注微信扫码并加入我的4个微信公众号: 大数据躺过的坑 Java从入门到架构师 ...
- Cloudera Manager安装之Cloudera Manager安装前准备(CentOS6.5)(一)
Cloudera Manager安装前准备 (一)机器准备 192.168.80.148 clouderamanager01 (部署ClouderaManager-server和Mirror se ...
- Cloudera Manager安装之利用parcels方式(在线或离线)安装3或4节点集群(包含最新稳定版本或指定版本的安装)(添加服务)(Ubuntu14.04)(五)
前期博客 Cloudera Manager安装之Cloudera Manager 5.6.X安装(tar方式.rpm方式和yum方式) (Ubuntu14.04) (三) 如果大家,在启动的时候,比如 ...
- Cloudera Manager 安装集群遇到的坑
Cloudera Manager 安装集群遇到的坑 多次安装集群,但每次都不能顺利,都会遇到很多很多的坑,今天就过去踩过的坑简单的总结一下,希望已经踩了的和正在踩的童鞋能够借鉴一下,希望对你们能有所帮 ...
- Cloudera Manager安装之时间服务器和时间客户端(二)
福利 => 每天都推送 欢迎大家,关注微信扫码并加入我的4个微信公众号: 大数据躺过的坑 Java从入门到架构师 人工智能躺过的坑 Java全栈大联盟 ...
- Cloudera Manager安装之Cloudera Manager安装前准备(Ubuntu14.04)(一)
其实,基本思路跟如下差不多,我就不多详细说了,贴出主要图. 博主,我是直接借鉴下面这位博主,来进行安装的!(灰常感谢他们!) 在线和离线安装Cloudera CDH 5.6.0 Cloudera M ...
- Cloudera Manager安装之时间服务器和时间客户端(Ubuntu14.04)(二)
第二步: Cloudera Manager安装之时间服务器和时间客户端(二) 找一台机器作为时间服务器 我这里,放到ubuntucmbigdata1这台机器! 注意,之前是已经做了集群时间同步了. 在 ...
随机推荐
- 常见的时间字符串与timestamp之间的转换 时间戳
这里说的字符串不是一般意义上的字符串,是指在读取日期类型的数据时,如果还没有及时解析字符串,它就还不是日期类型,那么此时的字符串该怎么与时间戳之间进行转换呢? ① 时间字符串转化成时间戳 将时间字符串 ...
- mongodb的状态分析
1.借助工具 mongostat 分析mongodb运行状况 C:\Users\Administrator>mongostat --help //查看帮助 View live MongoDB p ...
- 解决ubuntu14.04 启动时卡在 Waiting for network configuration...
两种解决方法: 1.把/etc/network/interfaces中没有用到的配置删除掉 2.把 /etc/init/failsafe.conf 文件中的 sleep 40, sleep 59 注释 ...
- 全国行政区域代码(免费来拿) xls格式 可直接导入
全部区域代码 地址:https://pan.baidu.com/s/1Elz-zW_nLS8YR8GZAn3WRw 提取码:ze3s
- PHP开发高可用高安全App后端☆
第1章 本章先讲解课程所含技术点,并演示相关的项目,让小伙伴对课程有个初步的认知,然后再带领小伙伴进行功能的分析,表的ER总关系图 第2章本章主要讲解课程的一些准备工作知识.包括工具.环境.模板等. ...
- TortoiseGit的安装与配置
1. 简介 TortoiseGit是Tortoise提供的Git版本可视化工具,简化Git记忆命令行的过程,将命令行可视化. 2. 下载 官网:https://tortoisegit.org/down ...
- Alpha冲刺(3/4)
队名:福大帮 组长博客链接:https://www.cnblogs.com/mhq-mhq/p/11899921.html 作业博客 :https://edu.cnblogs.com/campus/f ...
- mysql数据库分库分表(Sharding)(转)
mysql数据库切分 前言 通过MySQLReplication功能所实现的扩展总是会受到数据库大小的限制.一旦数据库过于庞大,尤其是当写入过于频繁,非常难由一台主机支撑的时候,我们还是会面临到扩展瓶 ...
- vue-cli项目中使用全局过滤器及传参(日期格式化)
// 过滤日期格式,传入时间戳,根据参数返回不同格式 const formatTimer = function(val, hours) { if (val) { ); var y = dateTime ...
- Tomcat监听shutdown释放数据库连接池
开发时因为更新代码,频繁重启Tomcat,遇到一个问题:在执行shutdown脚本后,Tomcat进程没有关闭依然存在(但是HTTP服务已经停止),需要手动执行kill命令才行.查了一些资料结合经验, ...