环境准备

  • CentOS:7.0
  • JDK:1.8
  • Flink 集群:node-01(Master)、node-02(Slave)、node-03(Slave)

安装与配置

  • SFTP 上传 Flink 安装包并解压
[root@node-01 ~]# tar -zxvf flink-1.9.0-bin-scala_2.11.tgz -C apps/
[root@node-01 ~]# rm -rf flink-1.9.0-bin-scala_2.11.tgz
  • 配置运行环境变量
[root@node-01 ~]# cd /etc
[root@node-01 etc]# vim profile
#行尾添加
export FLINK_HOME=/root/apps/flink-1.9.0
export PATH=$PATH:$FLINK_HOME/bin
[root@node-01 etc]# source /etc/profile
  • 修改 conf/flink-conf.yaml 配置文件
[root@node-01 ~]# cd /root/apps/flink-1.9.0/conf
[root@node-01 conf]# vim flink-conf.yaml
#jobmanager地址
jobmanager.rpc.address: node-01
#TaskManager任务并发数
taskmanager.numberOfTaskSlots: 2
#任务运行的并行度
parallelism.default: 1
  • 修改 conf/workers 配置文件

    [root@node-01 ~]# cd /root/apps/flink-1.9.0/conf
    [root@node-01 conf]# vim slaves
    node-02
    node-03
  • 拷贝 flink 安装包到 node-02、node-03

    [root@node-01 ~]# cd /etc
    [root@node-01 etc]# scp profile node-02:$PWD
    [root@node-01 etc]# scp profile node-03:$PWD
    [root@node-02 ~]# source /etc/profile
    [root@node-03 ~]# source /etc/profile [root@node-01 ~]# cd /root/apps/
    [root@node-01 apps]# scp -r flink-1.9.0/ node-02:$PWD
    [root@node-01 apps]# scp -r flink-1.9.0/ node-03:$PWD
  • 启动 Flink 集群服务(standalone模式)

    [root@node-01 ~]# start-cluster.sh
    Starting cluster.
    Starting standalonesession daemon on host node-01.
    Starting taskexecutor daemon on host node-02.
    [root@node-01 ~]# jps
    1763 StandaloneSessionClusterEntrypoint
    1833 Jps
    [root@node-02 ~]# jps
    1656 Jps
    1598 TaskManagerRunner
    [root@node-03 ~]# jps
    1589 TaskManagerRunner
    1642 Jps

    关闭 flink 集群 # stop-cluster.sh

  • 查看 Flink Web UI 界面

    http://node-01:8081

Flink 集群安装部署的更多相关文章

  1. 第06讲:Flink 集群安装部署和 HA 配置

    Flink系列文章 第01讲:Flink 的应用场景和架构模型 第02讲:Flink 入门程序 WordCount 和 SQL 实现 第03讲:Flink 的编程模型与其他框架比较 第04讲:Flin ...

  2. flink部署操作-flink standalone集群安装部署

    flink集群安装部署 standalone集群模式 必须依赖 必须的软件 JAVA_HOME配置 flink安装 配置flink 启动flink 添加Jobmanager/taskmanager 实 ...

  3. HBase集群安装部署

    0x01 软件环境 OS: CentOS6.5 x64 java: jdk1.8.0_111 hadoop: hadoop-2.5.2 hbase: hbase-0.98.24 0x02 集群概况 I ...

  4. HBase 1.2.6 完全分布式集群安装部署详细过程

    Apache HBase 是一个高可靠性.高性能.面向列.可伸缩的分布式存储系统,是NoSQL数据库,基于Google Bigtable思想的开源实现,可在廉价的PC Server上搭建大规模结构化存 ...

  5. 1.Hadoop集群安装部署

    Hadoop集群安装部署 1.介绍 (1)架构模型 (2)使用工具 VMWARE cenos7 Xshell Xftp jdk-8u91-linux-x64.rpm hadoop-2.7.3.tar. ...

  6. 2 Hadoop集群安装部署准备

    2 Hadoop集群安装部署准备 集群安装前需要考虑的几点硬件选型--CPU.内存.磁盘.网卡等--什么配置?需要多少? 网络规划--1 GB? 10 GB?--网络拓扑? 操作系统选型及基础环境-- ...

  7. K8S集群安装部署

    K8S集群安装部署   参考地址:https://www.cnblogs.com/xkops/p/6169034.html 1. 确保系统已经安装epel-release源 # yum -y inst ...

  8. 【分布式】Zookeeper伪集群安装部署

    zookeeper:伪集群安装部署 只有一台linux主机,但却想要模拟搭建一套zookeeper集群的环境.可以使用伪集群模式来搭建.伪集群模式本质上就是在一个linux操作系统里面启动多个zook ...

  9. Storm集群安装部署步骤【详细版】

    作者: 大圆那些事 | 文章可以转载,请以超链接形式标明文章原始出处和作者信息 网址: http://www.cnblogs.com/panfeng412/archive/2012/11/30/how ...

  10. Storm入门教程 第三章Storm集群安装部署步骤、storm开发环境

    一. Storm集群组件 Storm集群中包含两类节点:主控节点(Master Node)和工作节点(Work Node).其分别对应的角色如下: 主控节点(Master Node)上运行一个被称为N ...

随机推荐

  1. 记一次 .NET 某发证机系统 崩溃分析

    一:背景 1. 讲故事 前些天有位朋友在微信上找到我,说他的系统有偶发崩溃,自己也没找到原因,让我帮忙看下怎么回事,我分析dump一直都是免费的,毕竟对这些东西挺感兴趣,有问题可以直接call我,好了 ...

  2. java 如何根据经纬度查询出一千米内的资源数据

    使用地理信息系统(GIS)的相关技术和算法来实现根据经纬度查询一定范围内的资源数据.以下是一种基本的实现思路: 获取资源数据:首先,您需要有一组资源数据,每个数据都包含了对应资源的经纬度信息. 计算距 ...

  3. 利用POI插件导入excel 读取合并行数据(上)

    图为要导入的excel格式 分析一下: 前一部分数据是读取 合并行 存入一张 "会见" 表 ,后面蓝色的 非合并行 存入 "会见人信息" 表. 先说后台方法,( ...

  4. cpu的生命周期

    简介 一款CPU的诞生 也会分为很多歌步骤,每个周期,每个周期都会存在对应的代号产品. 就像软件一样,测试版>预发版>正式版等. 对于用户来说,哪个版本都能用,就是BUG多少的问题. ES ...

  5. Stack Overflow,彻底凉了!

    大家好,我是鱼皮. 先问个问题,如果现在让你来解决一个 Bug,你会怎么获取解决方案呢? 我保守估计至少 80% 的朋友会选择直接问 AI,15% 的朋友会选择利用搜索引擎,而剩下 5% 会选择找人提 ...

  6. java radioButton

    简介 简单 code /* * @Author: your name * @Date: 2020-11-04 10:19:14 * @LastEditTime: 2020-11-04 10:28:50 ...

  7. java 切换不同的显示风格

    简介 java 切换不同的显示风格 code import java.awt.*; import javax.swing.*; public class ImageTest { public stat ...

  8. 实用Linux命令记录

    ss统计网络连接情况 [root@Dev-8.8.8.8 ~]# ss -tan |awk 'NR>1 {++sum[$1]} END{for(i in sum) print i"\t ...

  9. flink 1.11.2 学习笔记(5)-处理消息延时/乱序的三种机制

    在实时数据处理的场景中,数据的到达延时或乱序是经常遇到的问题,比如: * 按时间顺序发生的数据1 -> 2,本来应该是1先发送,1先到达,但是在1发送过程中,因为网络延时之类的原因,导致1反而到 ...

  10. Linux下设置MySQL的环境变量:-九五小庞

    Linux下设置MySQL的环境变量: 在/etc/profile中添加: export PATH=$PATH:/usr/local/MySQL/bin 重新加载配置文件 source /etc/pr ...