目录 第1章 初识Kafka 1.1 发布与订阅消息系统 1.1.1 如何开始 1.1.2 独立的队列系统 1.2 Kafka登场 1.2.1 消息和批次(Message and batch) 1.2.2 模式(schema) 1.2.3 主题和分区(Topic and Partition) 1.2.4 生产者和消费者 1.2.5 broker和集群 1.2.6 多集群 1.3 为什么选择Kafka 1.3.1 多个生产者 1.3.2 多个消费者 1.3.3 基于磁盘的数据存储 1.3.4 伸缩…

简介     Kafka经常用于实时流数据架构,用于提供实时分析.本篇将会简单介绍kafka以及它为什么能够广泛应用. kafka的增长是爆炸性的.2017年超过三分之一的世界五百强公司在使用kafka.这其中很多公司每天通过kafka处理超过TB级别的数据.kafka被用于实时数据流.收集大数据或者做一些实时分析.kafka是也为基于内存的微服务提供数据持久化并把数据传输给复杂的事件流系统和IOT模式的自动化系统. 为什么选择Kafka? Kafka经常用于实时流数据架构,提供实时分析.由于K…

发布与订阅消息系统 数据(消息)的发送者(发布者)不会直接把消息发送给接收者,这是发布与订阅消息系统的一个特点.发布者以某种方式对消息进行分类,接收者(订阅者)订阅它们, 以便接收特定类型的消息.发布与订阅系统一般会有一个 broker,也就是发布消息的中心点. Kafka 登场 在0.10版本之前, Kafka仅仅作为一个消息系统,主要用来解决应用解决. 异步消息 . 流量削峰等问题. 不过在0.10版本之后, Kafka提供了连接器与流处理的能力,它也从分布式的消息系统逐渐成为一个流式的数据…

当前使用的事件总线采用的是Kafka分布式消息队列来完成的,近来项目需要接入到事件总线中,故开启了kafka的学习之旅(之前一直在听说kafka这玩意儿,但是学习计划中还没有将它安排进去,借着这个机会学习kafka也算是弥补了这方面的一些遗憾~) 关于kafka是神马东西这里就不在累述了,网上的资料一大堆 下面分享一些自己对kafka的理解,如有不妥之处还望指出~ (1)何为分布式消息队列?有何特点? 1.一旦涉及到分布式这个概念,其就必须解决两个问题:可靠性和可扩展性. kafka通过事件回溯…

消息队列 MQ 消息队列就是 消息 message 加 队列 queue,是一种消息传输的容器,提供生产和消费 API 来存储和获取消息. 消息队列分两种:点对点(p2p).发布订阅(pub/sub) 相同点:生产的消息存入队列,都从队列中获取消息 不同点:p2p 模式是一个消息只能被消费一次,消费之后这个消息就不存在了,比如打电话: 而发布订阅模式是一个消息可以被消费 N 次,而且可以被多个消费者同时消费,比如 微信公众号: kafka 简介 kafka 就是一个 发布订阅消息系统,有以下特点…

目录 1.KafkaProducer 概述 2.KafkaProducer 类图 3.KafkaProducer 简单示例 温馨提示:整个 Kafka Client 专栏基于 kafka-2.3.0 版本. @(本节目录) 1.KafkaProducer 概述 根据 KafkaProducer 类上的注释上来看 KafkaProducer 具有如下特征: KafkaProducer 是线程安全的,可以被多个线程交叉使用. KafkaProducer 内部包含一个缓存池,存放待发送消息,即 Pro…

文章更新时间:2020/06/08 一.简介 定义:kafka是一个分布式,基于zookeeper协调的发布/订阅模式的消息系统,本质是一个MQ(消息队列Message Queue),主要用于大数据实时处理领域. 目的:解耦.削峰.异步.缓冲(生产大于消费的情况)详见这里~ 日志保留(retention):我们可以配置主题的消息保留策略,譬如只保留一段时间的日志或者只保留特定大小的日志.当超过这些限制时,老的消息会被删除.我们也可以针对某个主题单独设置消息过期策略,这样对于不同应用可以实现个性化…

消息中间件的使用已经越来越广泛,基本上具有一定规模的系统都会用到它,在大数据领域也是个必需品,但为什么使用它呢?一个技术的广泛使用必然有它的道理. 背景与问题 以前一些传统的系统,基本上都是"用户--系统--数据库"一条线,拿下单做例子,用户下单,系统接受并处理请求,把数据存到数据库. 这样的好处就是简单,但随着需求越来越多,用户量越来越大,系统需要承载的压力就越大:如果需要扩展系统,修改代码,牵一发动全身,麻烦滴很. 消息队列可以解决这些问题,它是一个存放消息的队列,生产者往队列推数…

目录 一.初识Kafka 1 apache kafka简介 2 消息中间件kafka的使用场景 2.1 订阅与发布队列 2.2 流处理 3 kafka对数据的管理形式 4 kafka基础架构 5 Kafka的主题(topics)和日志(logs) 5.1 消息发布端 5.2 消息消费端 6 生产者&消费者&消费者组 7 顺序写入和Zero-copy(高性能之道) 7.1 写入性能提升之道(顺序写和mmap) 7.2 消费性能提升之道(zero-copy) 本章小结 一.初识Kafka 1…

kafka 权威指南中文版 问题导读 1. 为什么数据管道是数据驱动企业的一个关键组成部分? 2. 发布/订阅消息的概念及其重要性是什么? 第一章 初识 kafka 企业是由数据驱动的.我们获取信息,分析它,处理它,并创造更多的产出.每一个应用程序都会产生数据,无论是日志消息.指标.用户行为.输出报文或者其他类型.每一个字节的数据都有它的作用,传入的数据会告诉接下来需要做什么.为了知道数据的意义,我们需要把数据从它产生的地方,传输到它能够被分析的地方.然后把分析的结果返回到它们能够被执行的地方.…