一:Storm集群环境搭建
第一:storm集群环境准备及部署
【1】硬件环境准备
--->机器数量>=3
--->网卡>=1
--->内存:尽可能大
--->硬盘:无额外需求
【2】软件环境准备
--->CentOS-6.0-x86_64系统环境
--->三台地址
--->zookeeper和storm公用物理环境
第二:节点环境查看
第三:节点之间用ip-->别名绑定/etc/hosts,然后用ping 别名 进行测试
第四:zookeeper集群环境搭建
第五:Storm集群环境搭建
【1】storm集群搭建的基本流程
【2】storm常用配置的讲解
第六:Storm安装包下载
第七:安装Storm
【1】将压缩包解压,并移动到创建的storm目录下
【2】storm.yaml配置文件的配置(配置文件不要空行,前边不要加空格)
#storm节点和zooKeeper集群建立链接的配置(zookeeper的节点名字用的是其所在机器的hostname)
storm.zookeeper.servers:
- "sjm6-qatest10-30.75"
- "sjm6-qatest11-30.76"
- "sjm6-qatest12-30.77"
#storm集群中的nimbus节点的配置
nimbus.host: "sjm6-qatest10-30.75"
#storm记录临时状态的配置(:后加一个空格,会自动创建)
storm.local.dir: "/var/storm/status"
#storm工作节点的进程端口。每配置一个端口,则工作节点就可以多启动一个worker
supervisor.slots.ports:
- 6700
- 6701
- 6702
- 6703
【3】storm环境变量的配置
#jdk
export JAVA_HOME=/apps/jdk1.6.0_19
export JAVA_BIN=/apps/jdk1.6.0_19/bin
export PATH=$PATH:$JAVA_HOME/bin
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
export JAVA_HOME JAVA_BIN PATH CLASSPATH
#zookeeper
export ZOOKEEPER_HOME= /opt/zookeeper
export PATH=$ZOOKEEPER_HOME/bin:$PATH
#storm
export STORM_HOME=/opt/storm/apache-storm-0.9.2-incubating
export PATH=$STORM_HOME/bin:$PATH
【4】storm的启动
#storm ui >/dev/null 2>&1 &
==>启动storm的ui,将输出指向/dev/null设备中
==>2>&1 错误指向正常输出
==>& 表示后台运行
# storm nimbus>/dev/null 2>&1 &
==>启动nimbus节点
# storm supervisor>/dev/null 2>&1 &
==>启动supervisor节点
【5】storm的ui界面
一:Storm集群环境搭建的更多相关文章
- Storm —— 集群环境搭建
一.集群规划 这里搭建一个3节点的Storm集群:三台主机上均部署Supervisor和LogViewer服务.同时为了保证高可用,除了在hadoop001上部署主Nimbus服务外,还在hadoop ...
- Storm 学习之路(四)—— Storm集群环境搭建
一.集群规划 这里搭建一个3节点的Storm集群:三台主机上均部署Supervisor和LogViewer服务.同时为了保证高可用,除了在hadoop001上部署主Nimbus服务外,还在hadoop ...
- Storm 系列(四)—— Storm 集群环境搭建
一.集群规划 这里搭建一个 3 节点的 Storm 集群:三台主机上均部署 Supervisor 和 LogViewer 服务.同时为了保证高可用,除了在 hadoop001 上部署主 Nimbus ...
- 大数据处理框架之Strom:Storm集群环境搭建
搭建环境 Red Hat Enterprise Linux Server release 7.3 (Maipo) zookeeper-3.4.11 jdk1.7.0_80 Pyth ...
- storm集群环境搭建
1.环境 Java环境 卸载虚机环境中自带的openJdk,安装sun的jdk,配置环境变量 2.安装storm 下载storm安装包 解压到安装目录,配置环境变量 vi /etc/profile # ...
- centos7:storm集群环境搭建
1.安装storm 下载storm安装包 在线下载 wget http://apache.fayea.com/storm/apache-storm-1.1.1/apache-storm-1.1.1.t ...
- 大数据 -- Hadoop集群环境搭建
首先我们来认识一下HDFS, HDFS(Hadoop Distributed File System )Hadoop分布式文件系统.它其实是将一个大文件分成若干块保存在不同服务器的多个节点中.通过联网 ...
- Hadoop+Spark:集群环境搭建
环境准备: 在虚拟机下,大家三台Linux ubuntu 14.04 server x64 系统(下载地址:http://releases.ubuntu.com/14.04.2/ubuntu-14.0 ...
- 项目进阶 之 集群环境搭建(三)多管理节点MySQL集群
上次的博文项目进阶 之 集群环境搭建(二)MySQL集群中,我们搭建了一个基础的MySQL集群,这篇博客咱们继续讲解MySQL集群的相关内容,同时针对上一篇遗留的问题提出一个解决方案. 1.单管理节点 ...
随机推荐
- 搞笑的代码 ( funny )
搞笑的代码 ( funny ) 在OI界存在着一位传奇选手——QQ,他总是以风格迥异的搞笑代码受世人围观 某次某道题目的输入是一个排列,他使用了以下伪代码来生成数据 while 序列长度<n d ...
- codeforces的dp专题
1.(467C)http://codeforces.com/problemset/problem/467/C 题意:有一个长为n的序列,选取k个长度为m的子序列(子序列中不能有位置重复),求所取的k个 ...
- 题解 【luogu P1541 NOIp提高组2010 乌龟棋】
题目链接 题解 题意: 有一些格子,每个格子有一定分数. 给你四种卡片,每次可以使用卡片来前进1或2或3或4个格子并拾取格子上的分数 每张卡片有数量限制.求最大分数. 分析 设\(dp[i]\)为第前 ...
- Tomcat 7下如何利用 catalina.properties 部署公用类
Tomcat 有很多配置文件,其中一个是 catalina.properties ,本文介绍catalina.properties 中的设置项. 一.组成 catalina.properties ...
- bzoj 4034: [HAOI2015]树上操作——树链剖分
Description 有一棵点数为 N 的树,以点 1 为根,且树点有边权.然后有 M 个 操作,分为三种: 操作 1 :把某个节点 x 的点权增加 a . 操作 2 :把某个节点 x 为根的子树中 ...
- 在非ARC工程中使用ARC库
选中工程->TARGETS->相应的target然后选中右侧的“Build Phases”,向下就找到“Compile Sources”了.为对应的库文件添加:-fobjc-arc参数即可 ...
- POJ 2533 Longest Ordered Subsequence LIS O(n*log(n))
题目链接 最长上升子序列O(n*log(n))的做法,只能用于求长度不能求序列. #include <iostream> #include <algorithm> using ...
- 表格td内容超出宽度显示... table-layout: fixed;
td宽度用百分比固定好的时候,即使设置了 white-space:nowrap;/*文本不会换行,在同一行显示*/ overflow:hidden;超出隐藏 text-overflow:ellipsi ...
- 生成应用的快捷方式action,权限
action:"com.android.launcher.action.INSTALL_SHORTCUT" 权限:com.android.launcher.permission.I ...
- html中的meta标签
1.定义 meta元素提供页面的原信息,位于文档头部 2.必须的属性 content属性 该属性提供名称/值对中的值,使用要与http-equiv或name属性一起使用 3.可选的属性 3.1.htt ...