centos7:storm集群环境搭建
1.安装storm
下载storm安装包
在线下载
wget http://apache.fayea.com/storm/apache-storm-1.1.1/apache-storm-1.1.1.tar.gz
或者下载到本地,再上传服务器
解压到安装目录
tar -zxvf 安装包名
配置环境变量
vi /etc/profile
#storm环境变量
export STORM_HOME=/opt/deploy/apache-storm-1.1.1
export PATH=$PATH:$STORM_HOME/bin
2.编写配置文件
(注意第一列需要有一个空格)
storm.yaml文件(注意:storm.yaml配置,凡是有冒号的地方,冒号后都要有个空格)
vi storm.yaml
#zookeeper服务器ip
storm.zookeeper.servers:
- "ip"
- "ip"
- "ip"
# nimbus
nimbus.seeds: ["ip"]
#zookeeper端口
storm.zookeeper.port: 2181
#storm少量数据存放地址
storm.local.dir: "/opt/deploy/apache-storm-1.1.1/data"
#storm访问的UI界面端口
ui.port: 8080
supervisor.slots.ports:
- 6700
- 6701
- 6702
- 6703
注意事项:
1.servers和seeds写对应机器ip,名字有时候启动后会出现hostname不识别报错
2.storm中写入的zk端口要和zk的启动端口一致(及时确认端口信息)
3.storm.yaml配置文件集群上每台机器都一样,如果后期修改,确认三台机器修改后仍保持一致。
创建data文件夹 mkdir apache-storm-1.1.1/data
赋给文件夹读写的权限
sudo chmod -R 777 data
注释:
-R 是指级联应用到目录里的所有子目录和文件
777 是所有用户都拥有最高权限
将文件传入其他节点:
scp -r /opt/deploy/apache-storm-1.1.1 user@ip:/opt/deploy/
scp -r /opt/deploy/apache-storm-1.1.1 user@ip:/opt/deploy/
开启防火墙(每一台机器都需要开通)
需开放的端口:
8080、2181、6700、6701、6702、6703、6627(分配给主节点的端口)
firewall-cmd --add-port=9086/tcp --permanent
firewall-cmd --reload
3.启动
测试安装是否成功
3.1 master节点:Storm1
启动nimbus和ui服务及logviwer日志服务。
nohup /opt/deploy/apache-storm-1.1.1/bin/storm nimbus >/dev/null 2>&1 &
nohup /opt/deploy/apache-storm-1.1.1/bin/storm ui >/dev/null 2>&1 &
nohup /opt/deploy/apache-storm-1.1.1/bin/storm logviewer >/dev/null 2>&1 &
3.2 slave节点:Storm2、Storm3
启动supervisor服务。
nohup /opt/deploy/storm/apache-storm-1.1.1/bin/storm supervisor >/dev/null 2>&1 &
nohup /opt/deploy/apache-storm-1.1.1/bin/storm logviewer >/dev/null 2>&1 &
3.3 jps查看进程
master节点
jps
出现以下显示
3828 Jps
3485 nimbus
3437 core
63204 logviewer(如果不启动logviewer则没有此进程)
slave节点
jps
出现以下显示
1896 Jps
1726 supervisor
85894 LogWriter(如果不启动 logviewer 则没有此进程)
4、查看storm ui页面
访问storm1:8080查看storm ui页面:(ip:端口号)
centos7:storm集群环境搭建的更多相关文章
- 一:Storm集群环境搭建
第一:storm集群环境准备及部署[1]硬件环境准备--->机器数量>=3--->网卡>=1--->内存:尽可能大--->硬盘:无额外需求[2]软件环境准备---& ...
- Storm —— 集群环境搭建
一.集群规划 这里搭建一个3节点的Storm集群:三台主机上均部署Supervisor和LogViewer服务.同时为了保证高可用,除了在hadoop001上部署主Nimbus服务外,还在hadoop ...
- Storm 学习之路(四)—— Storm集群环境搭建
一.集群规划 这里搭建一个3节点的Storm集群:三台主机上均部署Supervisor和LogViewer服务.同时为了保证高可用,除了在hadoop001上部署主Nimbus服务外,还在hadoop ...
- Storm 系列(四)—— Storm 集群环境搭建
一.集群规划 这里搭建一个 3 节点的 Storm 集群:三台主机上均部署 Supervisor 和 LogViewer 服务.同时为了保证高可用,除了在 hadoop001 上部署主 Nimbus ...
- 大数据处理框架之Strom:Storm集群环境搭建
搭建环境 Red Hat Enterprise Linux Server release 7.3 (Maipo) zookeeper-3.4.11 jdk1.7.0_80 Pyth ...
- storm集群环境搭建
1.环境 Java环境 卸载虚机环境中自带的openJdk,安装sun的jdk,配置环境变量 2.安装storm 下载storm安装包 解压到安装目录,配置环境变量 vi /etc/profile # ...
- 大数据 -- Hadoop集群环境搭建
首先我们来认识一下HDFS, HDFS(Hadoop Distributed File System )Hadoop分布式文件系统.它其实是将一个大文件分成若干块保存在不同服务器的多个节点中.通过联网 ...
- Kafka:ZK+Kafka+Spark Streaming集群环境搭建(十二)VMW安装四台CentOS,并实现本机与它们能交互,虚拟机内部实现可以上网。
Centos7出现异常:Failed to start LSB: Bring up/down networking. 按照<Kafka:ZK+Kafka+Spark Streaming集群环境搭 ...
- Kafka:ZK+Kafka+Spark Streaming集群环境搭建(二)安装hadoop2.9.0
如何搭建配置centos虚拟机请参考<Kafka:ZK+Kafka+Spark Streaming集群环境搭建(一)VMW安装四台CentOS,并实现本机与它们能交互,虚拟机内部实现可以上网.& ...
随机推荐
- RMQ 2d 模板
#include<iostream> #include<cstdio> #include<string.h> #include<string> #inc ...
- ZROI 19.08.07模拟赛
传送门 写在前面:为了保护正睿题目版权,这里不放题面,只写题解. "正睿从来没有保证,模拟赛的题目必须原创." "文案不是我写的,有问题找喵老师去."--蔡老师 ...
- k-means伪代码
1.初始化k个簇中心. 2.更新所有样本点簇归属:样本点到哪个簇中心点最近就属于哪个簇. 3.重新计算每个簇的中心点(直到簇中心点不再变化或达到更新最大次数) #k-means伪代码 import n ...
- JAVA泛型里面各值代表的意义
Java泛型中的标记符含义: E - Element (在集合中使用,因为集合中存放的是元素) T - Type(Java 类) K - Key(键) V - Value(值) N - Number ...
- hexo+github+Theme Art Design文章发布
新建 hexo new "YYYY-MM-DD-title" 为了更好的标识文章和防止重复,文章对应的markdown文件的命名应该遵循:YYYY-MM-DD-title 格式. ...
- HDU-4289-Control(最大流最小割,拆点)
链接: https://vjudge.net/problem/HDU-4289 题意: You, the head of Department of Security, recently receiv ...
- C#与JAVA的互通
C#与JAVA的互通 https://blog.csdn.net/sinat_35165183/article/details/68936910
- ETL工具之——kettle使用简介
ETL工具之——kettle使用简介 https://yq.aliyun.com/articles/157977?spm=5176.10695662.1996646101.searchclickres ...
- druid配置以及监控
1.druid监控的功能: . 数据源 . SQL监控 对执行的MySQL语句进行记录,并记录执行时间.事务次数等 . SQL防火墙 对SQL进行预编译,并统计该条SQL的数据指标 . Web应用 对 ...
- CF452E Three strings 广义后缀自动机
建一个广义后缀自动机统计一下就行,好长时间不敲后缀自动机调了半天~ #include <bits/stdc++.h> using namespace std; namespace IO { ...