欢迎访问我的GitHub

https://github.com/zq2599/blog_demos

内容:所有原创文章分类汇总及配套源码,涉及Java、Docker、Kubernetes、DevOPS等;

本篇概览

本文是《CDH5部署三部曲》的第二篇,上一篇《CDH5部署三部曲之一:准备工作》将集群所有机器做了必要的设置,今天一起来完成CDH的部署、启动、设置等操作;

系列文章链接

  1. 《CDH5部署三部曲之一:准备工作》
  2. 《CDH5部署三部曲之二:部署和设置》
  3. 《CDH5部署三部曲之三:问题总结》

master机器上的设置

SSH登录master机器,执行以下操作:

  1. 安装mariadb:
yum install mariadb-server
  1. 启动mariadb服务,并设置为开机启动:
systemctl start mariadb && systemctl enable mariadb
  1. 初始化数据库配置:
mysql_secure_installation
  1. 按照控制台提示进行设置,主要是设置root账号的密码,以及允许root账号远程登录;
  2. 登录mariadb:
mysql -u root -p123456
  1. 给root的远程操作开放所有权限,并且刷新:
GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY '123456' WITH GRANT OPTION;
flush privileges;
  1. 创建parcel的本地仓库的文件夹,并且设置所有者和群组:
mkdir -p /opt/cloudera/parcel-repo
chown cloudera-scm:cloudera-scm /opt/cloudera/parcel-repo
  1. 将前面下载好的三个文件放入目录/opt/cloudera/parcel-repo,这三个文件是:CDH-5.7.6-1.cdh5.7.6.p0.6-el7.parcel、manifest.json、CDH-5.7.6-1.cdh5.7.6.p0.6-el7.parcel.sha1
  2. 将/opt/cloudera/parcel-repo目录下的CDH-5.7.6-1.cdh5.7.6.p0.6-el7.parcel.sha1文件改名为CDH-5.7.6-1.cdh5.7.6.p0.6-el7.parcel.sha(即:把后缀从sha1改成sha)
  3. 接下来初始化CM数据,登录mariadb:
mysql -u root -p123456
  1. 给temp账号赋予权限,并且刷新:
create user 'temp'@'%' identified by 'temp';
grant all on *.* to 'temp'@'%' identified by 'temp' with grant option;
flush privileges;
  1. 退出mariadb交互;
  2. 进入目录/opt/cloudera-manager/cm-5.7.2/share/cmf/schema/:
cd /opt/cloudera-manager/cm-5.7.2/share/cmf/schema/
  1. 执行以下命令即可初始化CM的数据:
./scm_prepare_database.sh mysql temp -h master -utemp -ptemp --scm-host master scm scm scm
  1. 提示操作成功:



    至此,master设置完毕,接下来设置worker1和worker2

worker1机器上的设置(worker2也这样设置)

  1. 创建本地parcel缓存文件夹:
mkdir -p /opt/cloudera/parcels
  1. 给文件夹赋权限:
chown cloudera-scm:cloudera-scm /opt/cloudera/parcels

worker1和worker2都做上述设置,接下来就可以启动CDH了。

启动server(master机器)

  1. SSH登录master;
  2. 进入启动命令所在目录:
cd /opt/cloudera-manager/cm-5.7.2/etc/init.d/
  1. 启动server:
./cloudera-scm-server start
  1. 启动成功的提示信息如下:

启动agent(worker1和worker2机器)

  1. SSH登录worker1;
  2. 进入启动命令所在目录:
cd /opt/cloudera-manager/cm-5.7.2/etc/init.d/
  1. 启动agent:
./cloudera-scm-agent start
  1. 启动成功的提示信息如下:

  2. 然后登录worker2,重复上述操作;

至此,CDH部署和启动完成,可以开始设置了;

设置CDH

  1. 浏览器访问地址:http://192.168.133.154:7180 ,会提示登录,账号和密码都是admin:

  2. 接下来的页面是许可条款,选择接受后进入选择版本的页面,我这里选择的是试用版,如下图:

  3. 即将部署多个服务:

  4. 进入选择机器的页面,如下图红框所示,将worker1和worker2都勾选上:

  5. parcel设置,如下所示:

  6. 由于之前已经将parcel文件下载到master机器上,因此下载安装包的进度一开始就是百分之百,耐心等待后面的分配、解压、激活等步骤自动完成:

  7. 集群安装完成,如下图,可以按照提示进行优化:

  8. 部署服务,这里我选择了所有服务:

  9. 角色设置页面,将没有分配主机的服务分配到某一台机器上,我这里都选择了worker1:

  10. 数据库的设置页面,由于只在master安装了mysql,所有我这里全部填写的是master:

  11. 详细的设置页面,请按照实际情况设置:

  12. 开始启动各个服务,等待完成:

  13. 所有服务正常后,状态页面如下图所示:

至此,CDH5部署和启动都已完成,但实际的启动过程并非一帆风顺,HDFS、Hive等服务都可能启动失败,下一篇文章会将这些问题以及解决方法都列出来;

欢迎关注公众号:程序员欣宸

微信搜索「程序员欣宸」,我是欣宸,期待与您一同畅游Java世界...

https://github.com/zq2599/blog_demos

CDH5部署三部曲之二:部署和设置的更多相关文章

  1. CDH5部署三部曲之一:准备工作

    欢迎访问我的GitHub https://github.com/zq2599/blog_demos 内容:所有原创文章分类汇总及配套源码,涉及Java.Docker.Kubernetes.DevOPS ...

  2. CDH5部署三部曲之三:问题总结

    欢迎访问我的GitHub https://github.com/zq2599/blog_demos 内容:所有原创文章分类汇总及配套源码,涉及Java.Docker.Kubernetes.DevOPS ...

  3. Flink on Yarn三部曲之二:部署和设置

    欢迎访问我的GitHub https://github.com/zq2599/blog_demos 内容:所有原创文章分类汇总及配套源码,涉及Java.Docker.Kubernetes.DevOPS ...

  4. SQL Server 2008 数据库镜像部署实例之二 配置镜像,实施手动故障转移

    SQL Server 2008 数据库镜像部署实例之二 配置镜像,实施手动故障转移 上一篇文章已经为配置镜像数据库做好了准备,接下来就要进入真正的配置阶段 一.在镜像数据库服务器上设置安全性并启动数据 ...

  5. [原]CentOS7安装Rancher2.1并部署kubernetes (二)---部署kubernetes

    ##################    Rancher v2.1.7  +    Kubernetes 1.13.4  ################ ##################### ...

  6. 2017.2.28 activiti实战--第五章--用户与组及部署管理(二)部署流程资源

    学习资料:<Activiti实战> 第五章 用户与组及部署管理(二)部署流程资源 内容概览:讲解流程资源的读取与部署. 5.2 部署流程资源 5.2.1 流程资源 流程资源常用的有以下几种 ...

  7. 自动化kolla-ansible部署ubuntu20.04+openstack-victoria之vmware设置-02

    自动化kolla-ansible部署ubuntu20.04+openstack-victoria之vmware设置-02 欢迎加QQ群:1026880196  进行讨论 1. vmwae版本 2. 网 ...

  8. 【G】开源的分布式部署解决方案(二) - 好项目是从烂项目基础上重构出来的

    分析目前项目结构 眼前出现这么一坨坨的文件夹,相信很多人已经看不下去了.是的,首先就是要把它给做掉. 按照这个项目文件夹的命名意图,大概可以划分如下: 1.Business:业务代码 2.Data:数 ...

  9. k8s部署nacos之二 nfs

    1.在linux服务器下载nacos 首先安装git命令 yum install git git clone https://github.com/nacos-group/nacos-k8s.git ...

随机推荐

  1. 对Jenkinsfile语法说不,开源项目Jenkins Json Build挺你

    对Jenkinsfile语法说不,开源项目Jenkins Json Build挺你 项目背景 我所在的组织项目数量众多,使用的语言和框架也很多,比如Java.ReactNative.C# .NET.A ...

  2. centos6.5环境下安装yum工具

    前不久因为安装数据库时动了yum安装文档中的参数,导致yum安装软件时总是出现no package等问题,决定重装yum工具. 第一步:下载原有yum安装包 [root@linux-node3 ~]# ...

  3. DNS 劫持/污染

    who is dns 劫持 or 污染? 对 劫持 和 污染 这两个名词的理解一直都很混淆,这里就简单的记录一下他俩到底有哪些本质上的区别吧~ DNS 劫持 DNS劫持 即: DNS Hijackin ...

  4. Sympy解方程-求极限-微分-积分-矩阵运算

    简介 Sympy是一个Python的科学计算库,用一套强大的符号计算体系完成诸如多项式求值.求极限.解方程.求积分.微分方程.级数展开.矩阵运算等等计算问题.虽然Matlab的类似科学计算能力也很强大 ...

  5. TaskContinuationsOptions.ExecuteSynchronously探秘

    TPL - Task Parallel Library为我们提供了Task相关的api,供我们非常方便的编写并行代码,而不用自己操作底层的Thread类.使用Task的优势是显而易见的: 提供返回值 ...

  6. 5 分钟带你掌握 Makefile 分析

    摘要:Makefile是一个名为GNU-Make软件所需要的脚本文件,该脚本文件可以指导Make软件控制arm-gcc等工具链去编译工程文件最终得到可执行文件,几乎所有的Linux发行版都内置了GNU ...

  7. ajax之---“伪”ajax

    views.py def ajax1(request): ret={'status':'true','message':'successful'} return HttpResponse(json.d ...

  8. k8s通过service访问pod(五)

    service 每个 Pod 都有自己的 IP 地址.当 controller 用新 Pod 替代发生故障的 Pod 时,新 Pod 会分配到新的 IP 地址.这样就产生了一个问题: 如果一组 Pod ...

  9. canvas的简单绘制及设置

    <!DOCTYPE html> <html> <head> <meta charset="UTF-8"> </head> ...

  10. windows服务器中创建账号及管理相关的net命令

    本文测试环境:windows server 2012 R2 Datacenter 实例要求: 1.创建账号,加入到远程桌面组,能实现远程桌面登录 2.指定Full name .及Description ...