大数据新手之路二:安装Flume
Ubuntu16.04+Flume1.8.0
1.下载apache-flume-1.8.0-bin.tar.gz
http://flume.apache.org/download.html
2.解压到/usr/local/flume中
3.设置配置文件/etc/profile文件,增加flume的路径
①vi /etc/profile
export FLUME_HOME=/usr/local/flume
export PATH=$PATH:$FLUME_HOME/bin
②让配置文件立即生效
source /etc/profile
4.检查flume环境是否生效
flume-ng version
5.在/usr/local/flume/conf中增加一个example.conf文件
# example.conf: A single-node Flume configuration # Name the components on this agent
a1.sources = r1
a1.sinks = k1
a1.channels = c1 # Describe/configure the source
a1.sources.r1.type = netcat
a1.sources.r1.bind = localhost
a1.sources.r1.port = # Describe the sink
a1.sinks.k1.type = logger # Use a channel which buffers events in memory
a1.channels.c1.type = memory
a1.channels.c1.capacity =
a1.channels.c1.transactionCapacity = # Bind the source and sink to the channel
a1.sources.r1.channels = c1
a1.sinks.k1.channel = c1
6.启动flume
flume-ng agent --conf /usr/local/flume/conf --conf-file /usr/local/flume/conf/example.conf --name a1 -Dflume.root.logger=INFO,console
7.使用telnet连接到flume并发送数据
$ telnet localhost
Trying 127.0.0.1...
Connected to localhost.localdomain (127.0.0.1).
Escape character is '^]'.
Hello world! <ENTER>
OK
8.在flume的进程中可以看到如下信息
[INFO - org.apache.flume.sink.LoggerSink.process(LoggerSink.java:)] Event: { headers:{} body:   6C 6C 6F   6F  6C   0D          Hello World!. }
PS:当你发送的数据超过16字节时,也只能最多显示16字节,其实数据是能完全接收完全的!
如果发送数据真的超过最大长度,会出现Client sent event exceeding the maximum length错误。
可参考《flume-ng 测试过程中event丢失部分body数据》
以上。
大数据新手之路二:安装Flume的更多相关文章
- 大数据新手之路四:联合使用Flume和Kafka
		Ubuntu16.04+Kafka1.0.0+Flume1.8.0 1.目标 ①使用Flume作为Kafka的Producer: ②使用Kafka作为Flume的Sink: 其实以上两点是同一个事情在 ... 
- 大数据新手之路一:安装JDK
		Ubuntu16.04 1.下载jdk-8u192-linux-x64.tar.gz https://www.oracle.com/technetwork/java/javase/downloads/ ... 
- 大数据新手之路三:安装Kafka
		Ubuntu16.04+Kafka1.0.0 1.下载kafka_2.11-1.0.0.tgz http://kafka.apache.org/downloads 2.解压到/usr/local/ka ... 
- 大数据学习之路-Centos6安装python3.5
		Centos 6.8安装python3.5.2 因为学习所需,需要用到python3.x的环境,目前Linux系统默认的版本都是python2.x的,还有一些自带的工具需要用到python2.6版本, ... 
- CentOS6安装各种大数据软件 第七章:Flume安装与配置
		相关文章链接 CentOS6安装各种大数据软件 第一章:各个软件版本介绍 CentOS6安装各种大数据软件 第二章:Linux各个软件启动命令 CentOS6安装各种大数据软件 第三章:Linux基础 ... 
- ApacheCN 大数据译文集(二) 20211206 更新
		Hadoop3 大数据分析 零.前言 一.Hadoop 简介 二.大数据分析概述 三.MapReduce 大数据处理 四.基于 Python 和 Hadoop 的科学计算和大数据分析 五.基于 R 和 ... 
- 大数据系列之数据仓库Hive安装
		Hive系列博文,持续更新~~~ 大数据系列之数据仓库Hive原理 大数据系列之数据仓库Hive安装 大数据系列之数据仓库Hive中分区Partition如何使用 大数据系列之数据仓库Hive命令使用 ... 
- 大数据学习之路又之从小白到用sqoop导出数据
		写这篇文章的目的是总结自己学习大数据的经验,以为自己走了很多弯路,从迷茫到清晰,真的花费了很多时间,希望这篇文章能帮助到后面学习的人. 一.配置思路 安装linux虚拟机--->创建三台虚拟机- ... 
- [大数据]-Logstash-5.3.1的安装导入数据到Elasticsearch5.3.1并配置同义词过滤
		阅读此文请先阅读上文:[大数据]-Elasticsearch5.3.1 IK分词,同义词/联想搜索设置,前面介绍了ES,Kibana5.3.1的安装配置,以及IK分词的安装和同义词设置,这里主要记录L ... 
随机推荐
- css基本知识、选择器
			CSS 是指层叠样式表 (Cascading Style Sheets),基本语法规则如下 CSS 由两个主要的部分构成:选择器,以及一条或多条声明 声明以大括号{ }括起来,一个申明包括属性和值,属 ... 
- 【题解】Luogu P2522 [HAOI2011]Problem b
			原题传送门 这题需要运用莫比乌斯反演(懵逼钨丝繁衍) 我们看题面,让求对于区间\([a,b]\)内的整数x和\([c,d]\)内的y,满足$ gcd(x,y)=k$的数对的个数 我们珂以跟容斥原理(二 ... 
- Installing Moses on Ubuntu 16.04
			Installing Moses on Ubuntu 16.04 The process of installation To install requirements sudo apt-get in ... 
- Summarization of Tech Interviews
			Summarization of Tech Interviews(技术面试总结) 手心网(2015) Q1. 解释一下 TCP/IP 协议之滑动窗口? 滑动窗口协议的维基:https://en.wik ... 
- Linux限制普通用户只能使用某命令
			修改sudoers(/etc/sudoers) 
- py4CV例子2.5车牌识别和svm算法重构
			1.什easypr数据集: ) ) ] all_label_list = temp[:, ] n_sample = , ) matcher = cv2.FlannBasedMatcher(flann ... 
- Bootstrap3基础 pagination 分页按钮 简单示例
			内容 参数 OS Windows 10 x64 browser Firefox 65.0.2 framework Bootstrap 3.3.7 editor ... 
- SQL 基础语法笔记教程整理
			最近从图书馆借了本介绍 SQL 的书,打算复习一下基本语法,记录一下笔记,整理一下思路,以备日后复习之用. PS:本文适用 SQL Server2008 语法. 首先,附一个发现的 MySQL 读书笔 ... 
- LOJ#2427. 「POI2010」珍珠项链 Beads
			题目地址 题目链接 题解 不会算复杂度真是致命,暴力枚举k每次计算是n/2+n/3+n/4+...+1的,用调和级数算是\(O(nlogn)\)的... 如果写哈希表的话能够\(O(nlogn)\), ... 
- Apple ID双重认证验证码无法输入问题
			问题:用Apple ID登录老版本ios系统时,会提示“”需要提供Apple ID验证码才能登陆.请键入您的密码,并随后键入显示在您其他设备上的验证码”. 解决:老版本系统无输入验证码的地方,那就把验 ... 
