IBM BigInsights 3.0.0.2 集群环境搭建
1. 改动hosts文件和永久主机名
由于BigInsights 3.0版本号不像之前的版本号能够直接用IP来添加节点,因此我们须要更改每台server的hosts文件和主机名:
vim/etc/hosts 在这个文件里添加例如以下的几行:
vim /etc/sysconfig/network 在这个文件里设置永久主机名:
2. install ksh
The server system do not contain the ksh shell, because IBM DB2 requires that Ksh be installed.
用chsh –l查看全部shell版本号,发现没有ksh,于是用yum list \*ksh\*来查看availablepackage:
发现有ksh.x86_64安装包,于是再用yum install ksh进行安装。
成功。
3. shut down ipv6
ipv6 might causeproblem with MapReduce workloads.
查看server端ipv6的模块是否被载入:
或者用ifconfig| grep –i inet6来直接查看。
关闭IPv6,能够改动 /etc/hosts,把ipv6的那句本地主机名解析的凝视掉:
#::1 localhost localhost6 localhost6.localdomain6
并新建设定文件:/etc/modprobe.d/ipv6off.conf:
加入:
alias net-pf-10 off
options ipv6 disable=1
然后reboot后查看ipv6是否被关闭:
4. 集群时间同步:
前半部分:
首先设置time server,在此我将9.110.***.**9设为timeserver。
date –s 03/11/2015
date –s 16:19:50
clock –w
hwclock –systohc
后两个命令是把设置的时间写到硬件时间中区,也就是CMOS里面的时间。
然后为了将9.110.***.**9配置成time server,改动/etc/ntp.conf:
vim /etc/ntp.conf
凝视掉restrict default kod nomodifynotrap nopeer noquery这一行
增加restrict 9.110.***.**7 mask255.255.255.255 nomodify notrap
增加 server 127.127.1.0
增加fudge 127.127.1.0 stratum 10
这两行是让本机的ntpd与本地硬件时间同步。
然后重新启动ntpd服务,service ntpd restart
chkconfig ntpd on 来设置开机自己主动启动ntpd服务
接下来改动iptables,将tcp和udpport开放,由于这是ntp须要的port:
/sbin/iptables -I INPUT -p tcp --dport 103 -j ACCEPT
/sbin/iptables -I INPUT -p udp --dport 103 -j ACCEPT
/etc/rc.d/init.d/iptables save
/etc/rc.d/init.d/iptables restart
查看port是否已经开放
/etc/init.d/iptables status
这样9.110.***.**9就成为一台time server
后半部分:
如今我们配置9.110.***.**7,
相同改动/etc/ntp.conf:vim /etc/ntp.conf
由于9.110.***.**7不须要做time server,因此凝视掉restrictdefault kod nomodify notrap nopeer noquery这一行
增加server 9.110.***.**9这一句,用来和9.110.***.**9 server同步。
这样时间同步就做好了,之后的默认操作是5mins和time server同步一次。
5. 更改/home的挂载分区
由于BigInsights在安装时,主节点在成功安装之前会产生一个默认的文件夹__biginsights_install,它是存储于/home的这个文件夹下,而我们的这几台server的/home是挂载在/dev/mapper/VolGroup-lv_home这个分区下,这个分区眼下的大小仅仅有2G,在安装时,会产生cpwriting , no space left on the device 的错误。
解决此问题的方案有两个,一个是扩展磁盘分区容量,可是这样做会比較麻烦耗时。
还有一种方案是:
备份并删除/home,或者将/home重命名,然后再cd /进入到[root@nodexx /]。
接着在当前文件夹下进行/home的新建,mkdir /home。在此我们的/home便挂载到了/dev/mapper/VolGroup-lv_root分区下。当然在此,为了让其永久生效,而不会在重新启动后恢复原来的挂载设置,我们还须要再更改一个文件,vim /etc/fstab
凝视掉这一行保存就可以。
在此,我们在此查看分区情况:
已经没有了/dev/mapper/VolGroup-lv_home分区。
注:第1,2,3,步以及第4步的后半部分需为每一个节点进行操作,第5步仅为安装节点进行操作。
经过以上的前期准备工作后,我们就能够进行安装,之后得到successful的结果:
IBM BigInsights 3.0.0.2 集群环境搭建的更多相关文章
- Redis 快速集群环境搭建
环境 Linux :centos 7 redis:redis-5.0.9 Redis 集群环境搭建步骤 早期 redis 版本集群环境搭建需要安装 ruby 运行环境,搭建步骤比较繁琐: redis ...
- Kafka:ZK+Kafka+Spark Streaming集群环境搭建(十)安装hadoop2.9.0搭建HA
如何搭建配置centos虚拟机请参考<Kafka:ZK+Kafka+Spark Streaming集群环境搭建(一)VMW安装四台CentOS,并实现本机与它们能交互,虚拟机内部实现可以上网.& ...
- Kafka:ZK+Kafka+Spark Streaming集群环境搭建(九)安装kafka_2.11-1.1.0
如何搭建配置centos虚拟机请参考<Kafka:ZK+Kafka+Spark Streaming集群环境搭建(一)VMW安装四台CentOS,并实现本机与它们能交互,虚拟机内部实现可以上网.& ...
- Kafka:ZK+Kafka+Spark Streaming集群环境搭建(二)安装hadoop2.9.0
如何搭建配置centos虚拟机请参考<Kafka:ZK+Kafka+Spark Streaming集群环境搭建(一)VMW安装四台CentOS,并实现本机与它们能交互,虚拟机内部实现可以上网.& ...
- Hadoop+Spark:集群环境搭建
环境准备: 在虚拟机下,大家三台Linux ubuntu 14.04 server x64 系统(下载地址:http://releases.ubuntu.com/14.04.2/ubuntu-14.0 ...
- hadoop集群环境搭建之安装配置hadoop集群
在安装hadoop集群之前,需要先进行zookeeper的安装,请参照hadoop集群环境搭建之zookeeper集群的安装部署 1 将hadoop安装包解压到 /itcast/ (如果没有这个目录 ...
- hadoop集群环境搭建准备工作
一定要注意hadoop和linux系统的位数一定要相同,就是说如果hadoop是32位的,linux系统也一定要安装32位的. 准备工作: 1 首先在VMware中建立6台虚拟机(配置默认即可).这是 ...
- Ningx集群环境搭建
Ningx集群环境搭建 Nginx是什么? Nginx ("engine x") 是⼀个⾼性能的 HTTP 和 反向代理 服务器,也是⼀个 IMAP/ POP3/SMTP 代理服务 ...
- hadoop2集群环境搭建
在查询了很多资料以后,发现国内外没有一篇关于hadoop2集群环境搭建的详细步骤的文章. 所以,我想把我知道的分享给大家,方便大家交流. 以下是本文的大纲: 1. 在windows7 下面安装虚拟机2 ...
- Kafka:ZK+Kafka+Spark Streaming集群环境搭建(二十一)NIFI1.7.1安装
一.nifi基本配置 1. 修改各节点主机名,修改/etc/hosts文件内容. 192.168.0.120 master 192.168.0.121 slave1 192.168.0.122 sla ...
随机推荐
- shuffle一个简单的过程叙述性说明
shuffle它是在map和reduce过程之间.我们看看在这个过程中的步骤,了解在这个问题上不深,有可能是一个错误.忘记修正 1. map map出口key,value,里的context.writ ...
- hdu4499 Cannon (DFS+回溯)
转载请注明出处:http://blog.csdn.net/u012860063 题目链接:http://acm.hdu.edu.cn/showproblem.php? pid=4499 Cannon ...
- SWFUpload多文件上传 文件数限制 setStats()
使用swfupload仿公平图片上传 SWFUpload它是基于flash与javascript的client文件上传组件. handlers.js文件 完毕文件入列队(fileQueued) → 完 ...
- 使用CASE表达式替代SQL Server中的动态SQL
原文:使用CASE表达式替代SQL Server中的动态SQL 翻译自: http://www.mssqltips.com/sqlservertip/1455/using-the-case-expre ...
- 移动端 rem字体的使用demo
<!doctype html> <html> <head> <meta charset="utf-8"> <title ...
- OpenGL路(四)自制的图形功能(立方体、汽缸、圆锥)
#include <gl/glut.h> #include <gl/GLU.h> #include <gl/GL.h> #pragma comment(lib, & ...
- SVG图像技术摘要
该公司今天没有,研究了最近流行SVG技术,发现,随着css3不断流行,和浏览器技术的发展,SVG网站将取代大量的图片,成为主流站点图片展示. AI是我们经常使用的矢量图编辑器,如今AI能够直接另存SV ...
- Python网络01 原始Python服务器
原文:Python网络01 原始Python服务器 作者:Vamei 出处:http://www.cnblogs.com/vamei 欢迎转载,也请保留这段声明.谢谢! 之前我的Python教程中有人 ...
- C++随机数的使用方法
学过别的高级语言的都知道,产生随机数用的都是相似于random这种字符,c++也不例外,在C++中使用的是rand()函数,可是不同的是,假设在C++中仅仅使用了比如 "int i ...
- document.all使用
document.all 一个. document.all它是在页面中的所有元素的集合.例如: document.all(0)一个元素 二. document.all能够推断浏览器是否是IE ...