Flume消费内外网分流配置的Kafka时遇到的坑
网上有铺天盖地的文章,介绍如何将Kafka同时配置成公网地址、内网地址,以实现内外网分流,看着都很成功。
但我们通过Flume消费一个配置了内外网分流的Kafka(版本0.10.1)集群时遇到了坑,却没有从现有的文章中找到解决方案。
如果使用公有云服务,一般一台虚拟机只有一块网卡,这时内外网分流的Kafka配置方案如下:
listener.security.protocol.map=INTERNAL:PLAINTEXT,EXTERNAL:PLAINTEXT listeners=INTERNAL://内网地址:9092,EXTERNAL://内网地址:19092 advertised.listeners=INTERNAL://内网地址:9092,EXTERNAL://外网地址:19092
inter.broker.listener.name=INTERNAL
在另一个公网环境中,通过Flume消费上面配置的公网Kafka地址时,通过Zookeeper拿到的却始终是内网地址!
但是直接查询Zookeeper,获得的endpoints访问地址,却是同时包含了公网和内网地址的:
"endpoints":[内网地址及端口,公网地址及端口]
经过多次对比Kafka的配置以及从Zookeeper中获得的endpoints值,我们大胆猜想:
是不是Zookeeper返回了endpoints中的第一个值? 如果是这样,那我们把Kafka的配置改为公网在前,内网在后,是不是Flume通过Zookeeper获得的Kafka地址就是公网地址了呢?
于是带着疑问与猜想,我们把内外网分流的Kafka配置对调了一下,调整如下:
listener.security.protocol.map=INTERNAL:PLAINTEXT,EXTERNAL:PLAINTEXT listeners=INTERNAL://内网地址:9092,EXTERNAL://内网地址:19092 advertised.listeners=EXTERNAL://外网地址:19092,INTERNAL://内网地址:9092 inter.broker.listener.name=INTERNAL
我们再次从Zookeeper中获得endpoints的值如下:
"endpoints":[公网地址及端口,内网地址及端口]
通过将公网地址和内网地址的配置对调后,Flume可以成功消费到公网地址的Kafka!
至于Zookeeper如何将endpoints中的多个地址返回的,是不是就选择了第一个,还需要继续研究一下源代码。
Flume消费内外网分流配置的Kafka时遇到的坑的更多相关文章
- zuul网管配置其他服务时 HTTP Status 500 – Internal Server Error
		
1.这个错误是由三个原因导致的 (1).我在给类的接口命名的时候前面少加了一个/ (2)给zuul配置路由的时候多加了个服务名,serviceId名称就是spring的name,而不是eureka注入 ...
 - MAC本apache+php配置虚拟域名时踩的坑
		
昨天在调试Mac自带的Apache+PHP配置域名时,调试的让我怀疑人生.顿时心里一万个草泥马,我就是配置个虚拟域名啊,这么让我受伤 . 1 首先检查一下Apache是否开启, qutao@bogon ...
 - android studio中配置X5 webview时的一个坑
		
在接入X5的第二步中,需要配置so文件,这里说一下遇到的坑 1. 需要把demo下载回来,不然你找不到so文件,找到so文件后放到自己相对应的目录下边,自己里面那个目录也没有,所以和文件夹一起复制过去 ...
 - ubuntu 16.4下hadoop配置伪分布式时出现的坑
		
在ubuntu16.4下spark的单机/伪分布式配置我在此就不在一一赘述,详情请点击如下连接: Hadoop安装教程_单机/伪分布式配置_Hadoop2.6.0/Ubuntu14.04 我出现问题是 ...
 - Kafka内外网访问
		
本文介绍了Kafka内外网访问的设置. kafka的两个配置listeners和advertised.listeners listeners kafka监听的网卡的ip,假设你机器上有两张网卡,内网1 ...
 - 使用Flume消费Kafka数据到HDFS
		
1.概述 对于数据的转发,Kafka是一个不错的选择.Kafka能够装载数据到消息队列,然后等待其他业务场景去消费这些数据,Kafka的应用接口API非常的丰富,支持各种存储介质,例如HDFS.HBa ...
 - 配置 Ceph 内外网分离
		
https://www.jianshu.com/p/42ab1f6dc6de 1. 为什么要做内外网分离 先明确一下这么做的必要性.Ceph 的客户端,如 RADOSGW,RBD 等,会直接和 O ...
 - Hadoop生态圈-Flume的主流source源配置
		
Hadoop生态圈-Flume的主流source源配置 作者:尹正杰 版权声明:原创作品,谢绝转载!否则将追究法律责任. 本篇博客只是配置的是Flume主流的Source,想要了解更详细的配置信息请参 ...
 - 配置单机Kafka
		
配置单机kafka 关闭selinux,开启防火墙9092端口 1.关闭selinux vi /etc/selinux/config #SELINUX=enforcing #注释掉 #SELINUXT ...
 
随机推荐
- Pogo-Cow S
			
这题出在单调队列优化dp里,就离谱好吧...... 对不住了上来先喷一波,不过离谱是确实的 dp的含义也很简单,就是说从j到i的分数最大值 直接上代马,里面说的很详细了 1 #include<b ...
 - openmp学习心得(一)
			
主要在vs2015下使用OMP,写一些自己omp的学习心得: 一.在VS2015下OpenMP的使用: 1.VS2015也仅仅支持OpenMP2.0版本,VS对OpenMP的支持并不太好. 2.在VS ...
 - matplotlib.legend()函数用法
			
用的较多,作为记录 legend语法参数如下: matplotlib.pyplot.legend(*args, **kwargs) 几个暂时主要用的参数: (1)设置图例位置 使用loc参数 plt. ...
 - Github点赞超多的Spring Boot学习教程+实战项目推荐!
			
Github点赞接近 100k 的Spring Boot学习教程+实战项目推荐! 很明显的一个现象,除了一些老项目,现在 Java 后端项目基本都是基于 Spring Boot 进行开发,毕竟它这 ...
 - IM服务器:我的千万级在线聊天服务器集群
			
一.服务器特点 01.傻瓜式部署,一键式启动: 02.单机支持10万以上在线用户聊天(8G内存,如果内存足够大,并发量可超过10万): 03.支持服务器集群,集群间高内聚.低耦合,可动态横向扩展IM服 ...
 - 源码安装的应用 rpm 命令无法查询
			
源码安装:一大堆源码文件,需要编译后才能使用(编译需要安装编译器 :yum install gcc) rpm 安装:redhat 官网或其它开源网站编译好发布,已经编译好的安装包,使用 rpm -iv ...
 - Laravel/Lumen 分组求和问题 where groupBy sum
			
在Laravel中使用分组求和,如果直接使用Laravel各数据库操作方法,应该会得出来如下代码式: DB::table('table_a') ->where('a','=',1) ->g ...
 - .Net Minimal Api 介绍
			
Minimal API是.Net 6中新增的模板,借助C# 10的一些特性以最少的代码运行一个Web服务.本文脱离VS通过VS Code,完成一个简单的Minimal Api项目的开发. 创建项目 随 ...
 - elementUI下拉框select组件change事件用法
			
<el-select-custom clearable collapse-tags v-model="searchForm.cardTypeList" @change=&qu ...
 - jmeter压测IP欺骗绕过服务端限流
			
1.环境声明 jmeter3.0 后端为内网环境 2.检查内网闲置的ip 工具地址,无需复杂安装,解压点击就可以用啦~~ https://pan.baidu.com/s/1Yzs1vezfFMoy-m ...