Flink简介

　　Flink组件栈

　　Flink特性

　　　　流处理特性

　　　　API支持

　　　　Libraries支持

　　　　整合支持

　　Flink概念

　　　　Stream、Transformation、Operator

　　　　Parallel Dataflow

　　　　Task、Operator Chain

　　　　Window

　　　　Time

　　Flink架构

　　　　JobManager

　　　　TaskManager

　　　　Client

　　Flink调度

　　　　逻辑调度

　　　　物理调度

　　Flink容错

Flink的集群部署

　　环境准备

　　集群安装

　　集群启动

　　案例测试

整体执行过程

数据流图的分析

　　生成执行计划

　　　　源码分析

　　StreamGraph的生成

　　　　原理分析

　　　　源码分析

　　JobGraph的生成

　　　　源码分析

　　　　原理分析

　　ExcutionGraph的生成

　　　　源码分析

　　　　原理分析

　　物理执行图

　　　　源码分析

transformation的类型

　　分区器的类型

　　　　GlobalPartitioner

　　　　ForwardPartitioner

　　　　ShufflePartitioner

　　　　HashPartitioner

　　　　CustomPartitionerWrapper

　　　　BroadcastPartitioner

　　　　RebalancePartitioner

Flink客户端提交作业

生成消费原理

　　序列化阶段和结果分区生产阶段

　　通知消费者消费

　　消费者做具体消费

　　反序列化阶段

Flink资源分配

　　源码分析

　　资源分配原理分析

Task的任务执行分析

Flink流式引擎技术分析--大纲的更多相关文章

  1. Apple公司Darwin流式服务器源代码分析

    当前,伴随着Internet的飞速发展,计算机网络已经进入到每一个普通人的家庭.在这个过程中,一个值得我们关注的现象是:Internet中存储和传输内容的构成已经发生了本质的改变,从传统的基于文本或少 ...

  2. flink 流式处理中如何集成mybatis框架

    flink 中自身虽然实现了大量的connectors,如下图所示,也实现了jdbc的connector,可以通过jdbc 去操作数据库,但是flink-jdbc包中对数据库的操作是以ROW来操作并且 ...

  3. Spark与Flink大数据处理引擎对比分析！

    大数据技术正飞速地发展着,催生出一代又一代快速便捷的大数据处理引擎,无论是Hadoop.Storm,还是后来的Spark.Flink.然而,毕竟没有哪一个框架可以完全支持所有的应用场景,也就说明不可能 ...

  4. Java三大主流开源工作流引擎技术分析

    首先,这个评论是我从网上,书中,搜索和整理出来的,也许有技术点上的错误点,也许理解没那么深入.但是我是秉着学习的态度加以评论,学习,希望对大家有用,进入正题! 三大主流工作流引擎:Shark,oswo ...

  5. Apache Flink流式处理

    花了四小时,看完Flink的内容,基本了解了原理. 挖个坑,待总结后填一下. 2019-06-02 01:22:57等欧冠决赛中,填坑. 一.概述 storm最大的特点是快,它的实时性非常好(毫秒级延 ...

  6. Flink流式计算

    Structured Streaming A stream is converted into a dynamic table. A continuous query is evaluated on ...

  7. 流式处理新秀Flink原理与实践

    随着大数据技术在各行各业的广泛应用,要求能对海量数据进行实时处理的需求越来越多,同时数据处理的业务逻辑也越来越复杂,传统的批处理方式和早期的流式处理框架也越来越难以在延迟性.吞吐量.容错能力以及使用便 ...

  8. 流式处理的新贵 Kafka Stream - Kafka设计解析（七）

    原创文章,转载请务必将下面这段话置于文章开头处. 本文转发自技术世界,原文链接 http://www.jasongj.com/kafka/kafka_stream/ Kafka Stream背景 Ka ...

  9. 流式计算（一）-Java8Stream

    大约各位看官君多少也听说了Storm/Spark/Flink,这些都是大数据流式处理框架.如果一条手机组装流水线上不同的人做不同的事,有的装电池,有的装屏幕,直到最后完成,这就是典型的流式处理.如果手 ...

随机推荐

  1. react 从商品详情页返回到商品列表页，列表自动滚动上次浏览的位置

    现状:目前从商品详情页返回到商品列表页,还需要再去请求服务数据,还需要用户再去等待获取数据的过程,这样用户体验非常不好, 遇到的问题: 1:如何将数据缓存, 2:如何获取和保存列表滑动的高度, 3:判 ...

  2. IDEA显示Run Dashboard窗口

    接下来在workspace.xml RunDashBoard节点中添加如下内容:<component name="RunDashboard"> 在代码中加入 <o ...

  3. ResultEntity

    就是封装的一个map集合  省时省力好用 package com.ujy.utils; import java.util.HashMap; import java.util.Map; public c ...

  4. Qt是什么？Qt简介（非常全面）

    http://c.biancheng.net/view/1792.html Qt(官方发音 [kju:t],音同 cute)是一个跨平台的 C++ 开发库,主要用来开发图形用户界面(Graphical ...

  5. FPGA 物理时序不合理的体现（体现方式：数字钟的行扫描和列扫描）

    本人在这只讨论建模好的模块来比较解释现象,如有不周到请大家指正. 软件功能仿真和在硬件上的区别:可以从这个数码管的行扫描和列扫描实例来体会一下,物理时序的影响和改进方法. 数码管的行扫描.列扫描要求同 ...

  6. PAT Advanced 1046 Shortest Distance (20 分) （知识点：贪心算法）

    The task is really simple: given N exits on a highway which forms a simple cycle, you are supposed t ...

  7. Linux之文件内容查阅

    1. 直接查看文件内容 (1)cat命令,由第一行开始显示文件内容 -b,列出行号,仅显示出非空白行,空白行不标行号 -n,列出行号,空白行也会标行号 (2)tac命令,由最后一行到第一行反向在屏幕上 ...

  8. Java并发-CycliBarrier

    栅栏类似于闭锁,它能阻塞一组线程直到某个事件的发生.栅栏与闭锁的关键区别在于,所有的线程必须同时到达栅栏位置,才能继续执行.闭锁用于等待事件,而栅栏用于等待其他线程.package com.examp ...

  9. php内置函数分析之array_fill_keys()

    PHP_FUNCTION(array_fill_keys) { zval *keys, *val, *entry; if (zend_parse_parameters(ZEND_NUM_ARGS(), ...

  10. Vue刷新token，判断token是否过期

    1.判断token是否过期,前端请求后,后台会返回一个状态给你.根据状态判断是否过期,刷新token 2.是否每次请求后端都会返回新的token给你.或者后端给你定义了一个刷新token的方法,那此时 ...