Properties properties = new Properties(); properties.setProperty("bootstrap.servers", "localhost:9092"); // only required for Kafka 0.8 properties.setProperty("zookeeper.connect", "localhost:2181"); properties.setPr…

随着大数据技术在各行各业的广泛应用,要求能对海量数据进行实时处理的需求越来越多,同时数据处理的业务逻辑也越来越复杂,传统的批处理方式和早期的流式处理框架也越来越难以在延迟性.吞吐量.容错能力以及使用便捷性等方面满足业务日益苛刻的要求. 在这种形势下,新型流式处理框架Flink通过创造性地把现代大规模并行处理技术应用到流式处理中来,极大地改善了以前的流式处理框架所存在的问题.飞马网于3月13日晚,邀请到大数据技术高级架构师-旷东林,在线上直播中,旷老师向我们分享了Flink在诸多方面的创新以及它本…

1.概述 在流数据应用场景中,往往会通过Flink消费Kafka中的数据,然后将这些数据进行结构化到HDFS上,再通过Hive加载这些文件供后续业务分析.今天笔者为大家分析如何使用Flink消费Kafka的数据后,将消费后的数据结构化到Hive数据仓库中. 2.内容 Hive能够识别很多类型的文件,其中包含Parquet文件格式.因此,我们只需要将Flink消费Kafka后的数据以Parquet文件格式生成到HDFS上,后续Hive就可以将这些Parquet文件加载到数据仓库中.具体流程图如下所…

1.概述 Apache官方发布HBase2已经有一段时间了,HBase2中包含了许多个Features,从官方JIRA来看,大约有4500+个ISSUES(查看地址),从版本上来看是一个非常大的版本了.本篇博客将为大家介绍HBase2的新特性,以及如何在实战中与Flink.Kafka等组件进行整合. 2.内容 HBase2有哪些新特性值得我们去关注,这里给大家列举部分特定. 2.1 部分新特性预览 2.1.1 Region分配优化 在HBase中遇到比较频繁的问题就是RIT问题,而在新特性中,对…

https://ci.apache.org/projects/flink/flink-docs-release-1.6/dev/event_timestamp_extractors.html 根据官网描述,Flink提供预定义的时间戳提取/水位线发射器.如下: Flink provides abstractions that allow the programmer to assign their own timestamps and emit their own watermarks. Mor…

参考: 官网协议介绍:http://kafka.apache.org/protocol.html#The_Messages_Fetch kafka协议兼容性  http://www.cnblogs.com/huxi2b/p/6784795.html 最近在使用flink的时候,在flink的官网对flink-connect-kafka有这样的一个版本对照: Maven Dependency Supported since Consumer and Producer Class name Kafk…

li,ol.inline>li{display:inline-block;padding-right:5px;padding-left:5px}dl{margin-bottom:20px}dt,dd{line-height:20px}dt{font-weight:700}dd{margin-left:10px}.dl-horizontal{*zoom:1}.dl-horizontal:before,.dl-horizontal:after{display:table;line-height:0;…

试验环境 Windows:IDEA Linux:Kafka,Zookeeper POM和Demo <?xml version="1.0" encoding="UTF-8"?> <project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLoc…

转载自 huxihx,原文链接 Apache Flink Kafka consumer Flink提供了Kafka connector用于消费/生产Apache Kafka topic的数据.Flink的Kafka consumer集成了checkpoint机制以提供精确一次的处理语义.在具体的实现过程中,Flink不依赖于Kafka内置的消费组位移管理,而是在内部自行记录和维护consumer的位移. 用户在使用时需要根据Kafka版本来选择相应的connector,如下表所示: Maven依…

Flink提供了Kafka connector用于消费/生产Apache Kafka topic的数据.Flink的Kafka consumer集成了checkpoint机制以提供精确一次的处理语义.在具体的实现过程中,Flink不依赖于Kafka内置的消费组位移管理,而是在内部自行记录和维护consumer的位移. 用户在使用时需要根据Kafka版本来选择相应的connector,如下表所示: Maven依赖 支持的最低Flink版本 Kafka客户端类名 说明 flink-connector…