大数据自学1-CentOS 下安装CDH及Cloudera Manager
前面花了一段时间将Ubuntu,Hadoop装完,装到Hbase时,发现Hbase 与Hadoop是有兼容性问题的,Hbase 2.1版是不支持Hadoop 3.11版的,怪不得装起来那么多问题了。
Hbase 与Hadoop的兼容性详见Hbase官网
HBase装不起来,就想着装CDH,发现又是兼容性的问题,CDH还没有推出支持最新Ubuntu版本的版本。这下悲催了,Ubuntu又不能Downgrade,况且我也不想降级,想来想去,不如在我的Windows上装个虚拟机,用CentOS来玩CDH.
在Win7下装CentOS虚拟机,这个链接就非常非常详细了,真是感谢这些网友们的辛苦劳动。
CentOS装完后默认是没有图形界面的,因此又在网上找资料如何开启图形界面,可参照链接,这个要注意,因为我是使用的公司电脑,公司电脑上网是有代理服务器的,如果一开始将虚拟机的网络模式设为桥接模式的话, 执行
# yum groupinstall "X Window System" "Desktop Platform" Desktop
会不成功,因为桥接模式下是另一个IP,是不能上网的,因此需要改回NAT模式,让虚拟机和主机共用一个IP,这样只要主机能上网,虚拟要就能上网。
安装时提示error downloading packages no more mirrors to try,如下图,解决方法是执行以下命令,参照链接:
- yum clean all
- yum makecache
公司同事已经下载过一个离线包CDH-5.15.1-1.cdh5.15.1.p0.4-el7.parcel,所以直接离线安装
安装CDH之前需要先安装MySql, CentOS环境下安装MySql可参照链接
过程中需要将IP地址固定,以防重启时IP乱变,这个可参照链接
MySQL 8.0默认的密码策码是Medium,相对来说是比较严的,比如要求最小8位长,要混合字母数字特殊符号等,如果是用于测试,可以改下这个密码策略,参照链接
MySQL 8.0在Grant设置权限的时候出现You are not allowed to create a user with GRANT错误处理办法
使用命令行方式操作MySQL实在是有点效率低下,因此想在Windows环境装个客户端来连接MySQL远程操作,参照链接1和链接2和链接3
在初始化CM数据库执行以下命令时,一直提示SQL 语法错误,可能跟MySql版本有关,因此参考链接将MySql 8.0删除,重装MySql 5.5版本。
scm_prepare_database.sh mysql cm -h <hostName> -u<username> -p<password> --scm-host <hostName> scm scm scm
重装MySql5.5版本可以采用Yum方式也可以采用下载tar包方式,因为采用Yum方式提示下载源错误,所以采用第二种方式,参考链接
换为MySql 5.5后,果然上面的命令就能正常执行,接下来启动Cloudera Manager Server和Agent,就可以访问7180端口进行配置了,激动...
要特明说明一下:启动完虽然提示OK,但并不是马上可以访问7180端口,要等一段时间
接下来继续,Cloudera服务在CentOS操作系统重启后需要手动启动,因此可以考虑设置该服务随操作系统启动而自动启动,基本上按照链接上的操作就能成功,唯一的不同就是该链接上讲道:新增jdk引入:export JAVA_HOME=jdk目录,这个我没有加,因为在其他全局配置项已经设置。
Host Monitor和Service Monitor都无法启动的解决办法,里面讲到了句柄数ulimit,不懂意思,先囫囵吞枣再慢慢消化。
大数据自学1-CentOS 下安装CDH及Cloudera Manager的更多相关文章
- 《OD大数据实战》mac下安装nginx+php
一.mac安装nginx + php + php-fpm 或apache + php 1. Mac 下 Nginx.MySQL.PHP-FPM 的安装配置 2. Mac下安装LNMP(Nginx+P ...
- 超详细!搭建本地大数据研发环境(16G内存+CDH)
工欲善其事必先利其器,在经过大量的理论学习以后,需要有一个本地的研发环境来进行练手.已经工作的可以不依赖于公司的环境,在家也可以随意的练习.而自学大数据的同学,也可以进行本地练习,大数据是一门偏实践的 ...
- 大数据系列之数据仓库Hive安装
Hive系列博文,持续更新~~~ 大数据系列之数据仓库Hive原理 大数据系列之数据仓库Hive安装 大数据系列之数据仓库Hive中分区Partition如何使用 大数据系列之数据仓库Hive命令使用 ...
- 从零开始学 Java - CentOS 下安装 Tomcat
生活以痛吻我,我仍报之以歌 昨天晚上看到那个冯大辉老师的微信公众号,「小道消息」上的一篇文章,<生活以痛吻我,我仍报之以歌>.知乎一篇匿名回答,主题为<冯大辉到底是不是技术大牛,一个 ...
- Centos下安装mysql 总结
一.MySQL安装 Centos下安装mysql 请点开:http://www.centoscn.com/CentosServer/sql/2013/0817/1285.html 二.MySQL的几个 ...
- 在Centos下安装matlab
首先科普一下什么事matlab MATLAB是美国MathWorks公司出品的商业数学软件,用于算法开发.数据可视化.数据分析以及数值计算的高级技术计算语言和交互式环境,主要包含MATLAB和Simu ...
- centos下安装wireshark 抓包
centos下安装wireshark相当简单.两条命令就够了.这里.主要是记录写使用方面的东西 安装:1.yum install wireshark.注意这样并无法使用wireshark命令和图形界面 ...
- CentOS下安装软件
CentOS下安装软件,要看下载的软件安装包的后缀名是什么,一般为了方便安装,推荐下载以 rpm 结尾的软件包. 比如以下截图,有多种下载方式,推荐下载圈起来的链接. rpm包安装方式步骤: 找到相应 ...
- CentOS下安装hadoop
CentOS下安装hadoop 用户配置 添加用户 adduser hadoop passwd hadoop 权限配置 chmod u+w /etc/sudoers vi /etc/sudoers 在 ...
随机推荐
- 006-优化web请求二-应用缓存、异步调用【Future、ListenableFuture、CompletableFuture】、ETag、WebSocket【SockJS、Stomp】
四.应用缓存 使用spring应用缓存.使用方式:使用@EnableCache注解激活Spring的缓存功能,需要创建一个CacheManager来处理缓存.如使用一个内存缓存示例 package c ...
- sqlite基本操作
sqlite准备步骤; .下载:https://www.sqlite.org/download.html: sqlite-dll-win64-3250200.zip 和 sqlite-tools-wi ...
- ROS安装(2)
1.Ubuntu无法启动了,进入不了启动界面 刚高兴一会会儿,马上系统重启,进不了登陆界面了.只有控制台的login,无语.试了好几种方法都没有解决. 重装吧!重装Ubuntu之后,装完ROS Kin ...
- K-means &K-medoids 聚类
k-平均值算法对孤立点很敏感!因为具有特别大的值的对象可能显著地影响数据的分布. k-中心点(k-Medoids): 不采用簇中对象的平均值作为参照点, 而是选用簇中位置最中心的对象, 即中心点(me ...
- spark on yarn任务提交缓慢解决
1.为什么要让运行时Jar可以从yarn端访问spark2以后,原有lib目录下的大JAR包被分散成多个小JAR包,原来的spark-assembly-*.jar已经不存在 每一次我们运行的时候,如果 ...
- C++编译变更stlport到使用g++的stl经验总结
. 花了几天时间,需要把经验给记下来. 1. 需要支持C++11的编译器,最方便的方式就是 yum -y install devtoolset-6 在/usr/local/bin中增加gcc6.sh ...
- Python实现selenium回放时间设置
一般在做selenium时会有,回放快慢的需求. 实现思路: 1.一般写selenium会自定义findelement函数,来实现查找元素. 2.在查找函数上加个睡眠时间的装饰器,函数执行完等待若干秒 ...
- 1.Spring对JDBC整合支持
1.Spring对JDBC整合支持 Spring对DAO提供哪些支持 1)Spring对DAO异常提供统一处理 2)Spring对DAO编写提供支持的抽象类 3)提高编程效率,减少DAO编码量 Spr ...
- VC6.0 error LNK2001: unresolved external symbol __imp__ntohl@4
--------------------Configuration: oxToint1 - Win32 Debug-------------------- Linking... main.obj : ...
- sudo安装某一文件报错:E: 无法获得锁 /var/lib/dpkg/lock - open (11: 资源暂时不可用) E: 无法锁定管理目录(/var/lib/dpkg/),是否有其他进程正占用它?
报错原因:资源被占用 解决方法: sudo rm /var/cache/apt/archives/lock sudo rm /var/lib/dpkg/lock