Flink 集群安装部署
环境准备
- CentOS:7.0
- JDK:1.8
- Flink 集群:node-01(Master)、node-02(Slave)、node-03(Slave)
安装与配置
- SFTP 上传 Flink 安装包并解压
[root@node-01 ~]# tar -zxvf flink-1.9.0-bin-scala_2.11.tgz -C apps/
[root@node-01 ~]# rm -rf flink-1.9.0-bin-scala_2.11.tgz
- 配置运行环境变量
[root@node-01 ~]# cd /etc
[root@node-01 etc]# vim profile
#行尾添加
export FLINK_HOME=/root/apps/flink-1.9.0
export PATH=$PATH:$FLINK_HOME/bin
[root@node-01 etc]# source /etc/profile
- 修改 conf/flink-conf.yaml 配置文件
[root@node-01 ~]# cd /root/apps/flink-1.9.0/conf
[root@node-01 conf]# vim flink-conf.yaml
#jobmanager地址
jobmanager.rpc.address: node-01
#TaskManager任务并发数
taskmanager.numberOfTaskSlots: 2
#任务运行的并行度
parallelism.default: 1
修改 conf/workers 配置文件
[root@node-01 ~]# cd /root/apps/flink-1.9.0/conf
[root@node-01 conf]# vim slaves
node-02
node-03
拷贝 flink 安装包到 node-02、node-03
[root@node-01 ~]# cd /etc
[root@node-01 etc]# scp profile node-02:$PWD
[root@node-01 etc]# scp profile node-03:$PWD
[root@node-02 ~]# source /etc/profile
[root@node-03 ~]# source /etc/profile [root@node-01 ~]# cd /root/apps/
[root@node-01 apps]# scp -r flink-1.9.0/ node-02:$PWD
[root@node-01 apps]# scp -r flink-1.9.0/ node-03:$PWD
启动 Flink 集群服务(standalone模式)
[root@node-01 ~]# start-cluster.sh
Starting cluster.
Starting standalonesession daemon on host node-01.
Starting taskexecutor daemon on host node-02.
[root@node-01 ~]# jps
1763 StandaloneSessionClusterEntrypoint
1833 Jps
[root@node-02 ~]# jps
1656 Jps
1598 TaskManagerRunner
[root@node-03 ~]# jps
1589 TaskManagerRunner
1642 Jps
关闭 flink 集群 # stop-cluster.sh
查看 Flink Web UI 界面

Flink 集群安装部署的更多相关文章
- 第06讲:Flink 集群安装部署和 HA 配置
Flink系列文章 第01讲:Flink 的应用场景和架构模型 第02讲:Flink 入门程序 WordCount 和 SQL 实现 第03讲:Flink 的编程模型与其他框架比较 第04讲:Flin ...
- flink部署操作-flink standalone集群安装部署
flink集群安装部署 standalone集群模式 必须依赖 必须的软件 JAVA_HOME配置 flink安装 配置flink 启动flink 添加Jobmanager/taskmanager 实 ...
- HBase集群安装部署
0x01 软件环境 OS: CentOS6.5 x64 java: jdk1.8.0_111 hadoop: hadoop-2.5.2 hbase: hbase-0.98.24 0x02 集群概况 I ...
- HBase 1.2.6 完全分布式集群安装部署详细过程
Apache HBase 是一个高可靠性.高性能.面向列.可伸缩的分布式存储系统,是NoSQL数据库,基于Google Bigtable思想的开源实现,可在廉价的PC Server上搭建大规模结构化存 ...
- 1.Hadoop集群安装部署
Hadoop集群安装部署 1.介绍 (1)架构模型 (2)使用工具 VMWARE cenos7 Xshell Xftp jdk-8u91-linux-x64.rpm hadoop-2.7.3.tar. ...
- 2 Hadoop集群安装部署准备
2 Hadoop集群安装部署准备 集群安装前需要考虑的几点硬件选型--CPU.内存.磁盘.网卡等--什么配置?需要多少? 网络规划--1 GB? 10 GB?--网络拓扑? 操作系统选型及基础环境-- ...
- K8S集群安装部署
K8S集群安装部署 参考地址:https://www.cnblogs.com/xkops/p/6169034.html 1. 确保系统已经安装epel-release源 # yum -y inst ...
- 【分布式】Zookeeper伪集群安装部署
zookeeper:伪集群安装部署 只有一台linux主机,但却想要模拟搭建一套zookeeper集群的环境.可以使用伪集群模式来搭建.伪集群模式本质上就是在一个linux操作系统里面启动多个zook ...
- Storm集群安装部署步骤【详细版】
作者: 大圆那些事 | 文章可以转载,请以超链接形式标明文章原始出处和作者信息 网址: http://www.cnblogs.com/panfeng412/archive/2012/11/30/how ...
- Storm入门教程 第三章Storm集群安装部署步骤、storm开发环境
一. Storm集群组件 Storm集群中包含两类节点:主控节点(Master Node)和工作节点(Work Node).其分别对应的角色如下: 主控节点(Master Node)上运行一个被称为N ...
随机推荐
- 记一次 .NET 某发证机系统 崩溃分析
一:背景 1. 讲故事 前些天有位朋友在微信上找到我,说他的系统有偶发崩溃,自己也没找到原因,让我帮忙看下怎么回事,我分析dump一直都是免费的,毕竟对这些东西挺感兴趣,有问题可以直接call我,好了 ...
- java 如何根据经纬度查询出一千米内的资源数据
使用地理信息系统(GIS)的相关技术和算法来实现根据经纬度查询一定范围内的资源数据.以下是一种基本的实现思路: 获取资源数据:首先,您需要有一组资源数据,每个数据都包含了对应资源的经纬度信息. 计算距 ...
- 利用POI插件导入excel 读取合并行数据(上)
图为要导入的excel格式 分析一下: 前一部分数据是读取 合并行 存入一张 "会见" 表 ,后面蓝色的 非合并行 存入 "会见人信息" 表. 先说后台方法,( ...
- cpu的生命周期
简介 一款CPU的诞生 也会分为很多歌步骤,每个周期,每个周期都会存在对应的代号产品. 就像软件一样,测试版>预发版>正式版等. 对于用户来说,哪个版本都能用,就是BUG多少的问题. ES ...
- Stack Overflow,彻底凉了!
大家好,我是鱼皮. 先问个问题,如果现在让你来解决一个 Bug,你会怎么获取解决方案呢? 我保守估计至少 80% 的朋友会选择直接问 AI,15% 的朋友会选择利用搜索引擎,而剩下 5% 会选择找人提 ...
- java radioButton
简介 简单 code /* * @Author: your name * @Date: 2020-11-04 10:19:14 * @LastEditTime: 2020-11-04 10:28:50 ...
- java 切换不同的显示风格
简介 java 切换不同的显示风格 code import java.awt.*; import javax.swing.*; public class ImageTest { public stat ...
- 实用Linux命令记录
ss统计网络连接情况 [root@Dev-8.8.8.8 ~]# ss -tan |awk 'NR>1 {++sum[$1]} END{for(i in sum) print i"\t ...
- flink 1.11.2 学习笔记(5)-处理消息延时/乱序的三种机制
在实时数据处理的场景中,数据的到达延时或乱序是经常遇到的问题,比如: * 按时间顺序发生的数据1 -> 2,本来应该是1先发送,1先到达,但是在1发送过程中,因为网络延时之类的原因,导致1反而到 ...
- Linux下设置MySQL的环境变量:-九五小庞
Linux下设置MySQL的环境变量: 在/etc/profile中添加: export PATH=$PATH:/usr/local/MySQL/bin 重新加载配置文件 source /etc/pr ...