配置Hadoop,hive,spark,hbase ————待整理
五一一天在家搭建好了集群,要上班了来不及整理,待下周周末有时间好好整理整理一个完整的搭建hadoop生态圈的集群的系列
- 若出现license information(license not accepted),即说明需要同意许可信息,输入1-回车-2-回车-c-回车-c回车,即可解决。
1.关闭防火墙
Centos7的防火墙与以前版本有很大区别,CentOs7这个版本的防火墙默认是使用的firewall,与之前的版本使用iptables不一样。
关闭防火墙:sudo systemctl stop firewalld.service
关闭开机启动:sudo systemctl disable firewalld.service
查看防火墙的状态:systemctl status firewalld
firewalld常用命令:https://xiaoguo.net/wiki/centos-7-firewalld.html
2.永久关闭selinux
查看SELinux的状态:/usr/sbin/sestatus -v 或者 /usr/sbin/getenforece
临时关闭SELinux:setenforece 0 ##设置SELinux 成为permissive模式
##setenforce 1 设置SELinux 成为enforcing模式
永久关闭selinux:修改/etc/selinux/config文件,将SELINUX=enforcing 改为SELINUX=disabled,重启机器即可sudo reboot
3.搭建单机伪分布式
参考:http://www.aboutyun.com/thread-12798-1-1.html
多次hdfs namenode -format会导致namenode的clusterID和datanode的clusterID不一致,长传不了文件
5.设置静态IP
集群Ip需要设置为静态ip,不然这个ip可能会变。
修改对应网卡的配置:vim /etc/sysconfig/network-scripts/ifcfg-eth0
设置: BOOTPROTO="static" #将dhcp改为static
ONBOOT="yes" #开机启用本设置
IPADDR=192.168.7.106 #静态ip地址
GATEWAY=192.168.7.1 #默认网关
NETMASK=255.255.255.0 #子网掩码
DNS1=192.168.7.1 #DNS 配置
重启网络服务:service network restart
查看改动后的效果:ip addr #Centos7后不再使用ifconfig而是用ip 命令查看网络信息
使用sudo时user is not in sudoers file 的解决
解决办法:
以root用户修改/ete/sudoer 文件属性为root可修改,并在root ALL 行下添加 oracle ALL(类似root行)
[root@DBA2 etc]# chmod u+w sudoers
[root@DBA2 etc]# vi sudoers
添加 oracle ALL=(ALL) ALL
将sudoer属性改回原值:
[root@DBA2 etc]# chmod u-w sudoers
[root@DBA2 etc]# ll sudoers
-r--r----- 1 root root 3402 Sep 4 10:40 sudoers
再试试sudo的命令,可以使用了;
[oracle@DBA2 ~]$ sudo ps -ef|grep dbw
[sudo] password for oracle:
oracle 3140 1 0 09:28 ? 00:00:06 ora_dbw0_orcl2
oracle 19299 17065 0 10:41 pts/2 00:00:00 grep dbw
修改配置文件主机名
hostname name
vim /etc/hostname免密码登录 http://www.360doc.com/content/16/0831/21/19351147_587364587.shtml
卸载centos7 自带的OpenJDK http://blog.csdn.net/xiegh2014/article/details/52343438
hadoop http://www.open-open.com/lib/view/open1435761287778.html
hadoop 环境变量 http://blog.sina.com.cn/s/blog_a001e5980102vqk2.html
完全卸载mysql http://blog.csdn.net/typa01_kk/article/details/49057073
8. 安装mysql http://www.centoscn.com/mysql/2016/0315/6844.html
9. 设置 mysql root 密码 http://blog.csdn.net/xyang81/article/details/51759200
10. 安装scala和spark http://blog.csdn.net/ling811/article/details/51897799
- Hbase http://www.cnblogs.com/sdksdk0/p/5605013.html
- Hbase http://www.cnblogs.com/machong/p/6141990.html
配置Hadoop,hive,spark,hbase ————待整理的更多相关文章
- Hadoop Hive与Hbase整合+thrift
Hadoop Hive与Hbase整合+thrift 1. 简介 Hive是基于Hadoop的一个数据仓库工具,可以将结构化的数据文件映射为一张数据库表,并提供完整的sql查询功能,可以将sql语句 ...
- hadoop+hive+spark搭建(一)
1.准备三台虚拟机 2.hadoop+hive+spark+java软件包 传送门:Hadoop官网 Hive官网 Spark官网 一.修改主机名,hosts文件 主机名修改 hostnam ...
- 在MacOs上配置Hadoop和Spark环境
在MacOs上配置hadoop和spark环境 Setting up Hadoop with Spark on MacOs Instructions 准备环境 如果没有brew,先google怎样安装 ...
- Hadoop Hive与Hbase关系 整合
用hbase做数据库,但因为hbase没有类sql查询方式,所以操作和计算数据很不方便,于是整合hive,让hive支撑在hbase数据库层面 的 hql查询.hive也即 做数据仓库 1. 基于Ha ...
- centos 7 配置hadoop与spark
cd /home mkdir shixi_enzhaocd shixi_enzhaomkdir suaneccd suanecmkdir installsmkdir libsmkdir scripts ...
- hadoop+hive+spark搭建(二)
上传hive软件包到任意节点 一.安装hive软件 解压缩hive软件包到/usr/local/hadoop/目录下 重命名hive文件夹 在/etc/profile文件中添加环境变量 export ...
- 了解大数据的技术生态系统 Hadoop,hive,spark(转载)
首先给出原文链接: 原文链接 大数据本身是一个很宽泛的概念,Hadoop生态圈(或者泛生态圈)基本上都是为了处理超过单机尺度的数据处理而诞生的.你能够把它比作一个厨房所以须要的各种工具. 锅碗瓢盆,各 ...
- 一文教你看懂大数据的技术生态圈:Hadoop,hive,spark
转自:https://www.cnblogs.com/reed/p/7730360.html 大数据本身是个很宽泛的概念,Hadoop生态圈(或者泛生态圈)基本上都是为了处理超过单机尺度的数据处理而诞 ...
- zookeeper笔记--配置以及和spark hbase结合使用
Spark集群基于ZooKeeper的搭建:http://www.dataguru.cn/thread-333245-1-1.html Spark需要修改的地方: 进入spark的配置目录,参照下面代 ...
随机推荐
- 阶段5 3.微服务项目【学成在线】_day09 课程预览 Eureka Feign_08-课程预览技术方案
3.2.1 技术需求 课程详情页面是向用户展示课程信息的窗口,课程相当于网站的商品,本页面的访问量会非常大.此页面的内容设 计不仅要展示出课程核心重要的内容而且用户访问页面的速度要有保证,有统计显示打 ...
- ES6内建对象的继承
在ES6之前, JS是无法通过继承的方式创建属于自己的特殊数组的, 也就是说可以使用原型链来继承数组的一些方法, 但是某些返回一个数组的方法返回的值还是一个Array的实例, 例如slice, len ...
- Block pool ID needed, but service not yet registered with NN java.lang.Exception: trace 异常解决
以上为报错信息: 原因大概为:dd和nd关联的versionId不同导致, 解决方案,备份之前的current文件夹,让其自己生成新的.
- Struts 2 --ONGL介绍
先了解一下OGNL的概念 OGNL的全名称Object Graph Navigation Language.全称为对象图导航语言,是一种表达式语言.使用这种表达式语言,你可以通过某种表达式语法,存取J ...
- iCMSv7.0.15后台database.admincp文件仍存在SQL注入漏洞
闲着无聊,国庆时间没事做,又在Q群看到这种公告,只好下个icms慢慢玩.(PS:医院和学校居然都关网站了) 无奈自己太菜,审不出问题.只好上网百度icms之前的漏洞.然后居然成功在iCMSv7.0.1 ...
- 【计算机视觉】OPENCV对于有alpha通道的透明背景图片的读取和图片叠加
这个是我自己做的粗略的螺旋丸的图,导出为png并带有alpha通道. 最后和一只狗合成成这个样子. 效果还是可以的. 为了实现这个效果,首先我们要明白具有透明通道的图片的OpenCV的读取方式.在Op ...
- springboot下html的js中使用shiro标签功能
在js中直接使用shiro标签是不行的 比如 下面有个小技巧
- PHP解析xml的方法
PHP解析xml的方法<pre><?php /** XML 文件分析类 * Date: 2013-02-01 * Author: fdipzone * Ver: 1.0 * * fu ...
- python for循环 - python基础入门(11)
在python开发中,除了前篇文章介绍的while循环还有一个for循环也经常使用,两者使用都是大同小异,for循环的使用相对于while循环更加灵活,下面我们一起来了解下具体区别. 一.for 循环 ...
- 日常工作问题解决:rhel7下配置多路径设备
目录 1.情景描述 2.安装多路径软件 2.1 安装多路径 2.2检查安装情况 2.3 重启系统 2.4 将多路径软件添加至内核模块 2.5 检查内核添加情况 2.6 启动multipath服务 2. ...