NiFI介绍

  NiFi(NiagaraFiles)是为了实现系统间数据流的自动化而构建的。虽然术语“数据流”用于各种上下文,但我们在此处使用它来表示系统之间的自动和管理信息流

  官网地址:http://nifi.apache.org/

  文档:http://nifi.apache.org/docs.html

  

NiFi架构

  

NiFI安装

  环境要求:a、需要Java 8或更高版本

       b、支持的操作系统:Linux、Unix、Windows、Mac OS X

  1、下载安装包

    命令:wget -b http://mirror.bit.edu.cn/apache/nifi/1.8.0/nifi-1.8.0-bin.tar.gz

  2、解压安装包、即可使用

    命令:tar -zxvf nifi-1.8.0-bin.tar.gz

    目录如下:
      

  3、配置文件( nifi-1.8.0/conf/nifi.properties )、可以使用默认配置,根据自己情况进行修改

      

  4、操作NIFI,启动的时候,比较慢,注意机器内存是否足够

    后台启动命令:./bin/nifi.sh start

    前端启动命令:./bin/nifi.sh run

    关闭命令:./bin/nifi.sh stop

    首次启动NiFi时,会创建以下文件和目录:

    • content_repository

    • database_repository

    • flowfile_repository

    • provenance_repository

    • work 目录

    • logs 目录

    • conf目录中,将创建flow.xml.gz文件

  5、启动后,使用浏览器进行访问,地址:http://ip:8080/nifi

      

NIFI简单使用

  不理解NIFI是做什么的,看一个简单的例子(同步文件夹)吧,帮助理解

  1、从工具栏中拖入一个Processor,在弹出面板中搜索GetFIle,然后确认
       

  2、配置GetFile,设置结束关系、输入目录、保留源文件,其他设置可以不动,输入目录中有文件:file.txt(内容为abc)。

       

  3、从工具栏中拖入一个Processor,在弹出面板中搜索PutFIle,然后确认,如第一步

  4、配置PutFile,设置结束关系、输出目录,其他设置可以不动,输出目录为空文件夹

       

  5、将GetFIle与PutFIle关联起来,从GetFIle中心点击,拖拉到PutFIle上

       

  6、右键启动GetFIle与PutFIle,可以看到结果,输入目录中的文件同步到,输出目录中了

    

  

  注意:操作过程中,注意错误排查

    1、Processor上的警告

      

    2、Processor上的错误

      

    

【NIFI】 Apache NiFI 安装及简单的使用的更多相关文章

  1. 『NiFi 学习之路』入门 —— 下载、安装与简单使用

    一.概述 "光说不练假把式." 官网上的介绍多少让人迷迷糊糊的,各种高大上的词语仿佛让 NiFi 离我们越来越远. 实践是最好的老师.那就让我们试用一下 NiFi 吧! 二.安装 ...

  2. Apache NiFi 开发 安装说明

    系统环境: vmware安装的centos6.7虚拟机 jdk1.8版本 maven库3.3.9版本(在使用源码编译启动的时候需要修改配置文件与当前使用的maven版本匹配,最低使用版本好像是3.1. ...

  3. 【NIFI】 Apache NiFI 授权配置

    当NIFI未配置需要单向SSL(例如LDAP,OpenId Connect等)的替代认证机制时,NiFi的Web服务器将要求访问用户界面的用户使用基于证书的客户端身份验证.启用备用身份验证机制会将We ...

  4. 【NIFI】 Apache NiFI 集群搭建

    NiFI 集群介绍 NiFi集群架构 NiFi采用Zero-Master Clustering范例.集群中的每个节点对数据执行相同的任务,但每个节点都在不同的数据集上运行.其中一个节点自动选择(通过A ...

  5. 【NIFI】 Apache NiFI 与 SQL 操作

    本里需要基础知识:[NIFI] Apache NiFI 安装及简单的使用 查询SQL 1.拖入一个 Processor:ExecuteSQLRecord(执行sql记录) 2.配置,SETTINGS的 ...

  6. Apache Nifi 开发

    Apache NiFi是由美国过国家安全局(NSA)贡献给Apache基金会的开源项目.其设计目标是自己主动化系统间的数据流.基于其工作流式的编程理念.NiFi很易于使用,强大.可靠及高可配置. 两个 ...

  7. 深入Apache NiFi 之源码学习

    前言 要问 Hortonworks 这家公司最有产品力的产品是什么,我觉得是 Apache NiFi.去年Cloudera 和 Hortonworks 合并之后,以 Cloudera 为主,两家公司进 ...

  8. 【NIFI】 Apache NiFI 使用技巧

    本章介绍NIFI组件的使用. 主要有:Nginx反向代理NIFI,配置SSLContextService Nginx反向代理NIFI 使用nginx反向代理NIFI配置如下 upstream nifi ...

  9. 【NIFI】 Apache NiFI 之 ExecuteScript处理(二)

    本例介绍NiFI ExecuteScript处理器的使用,使用的脚本引擎ECMScript 接上一篇[NIFI] Apache NiFI 之 ExecuteScript处理(一) ExecuteScr ...

随机推荐

  1. 报错:Exception in thread "main" com.typesafe.config.ConfigException$UnresolvedSubstitution

    报错现象: 报错原因: pom文件中的jar包太高,可以降低jar包的版本号. 报错解决: 我将2.11换成了2.10,即可解决. <dependency> <groupId> ...

  2. CSS之a标签锚点

    <!DOCTYPE html> <html lang="en"> <head> <meta charset="UTF-8&quo ...

  3. SYSAUX表空间清理

    最近zabbix告警某业务sysaux表空间使用率超过95%,使用sql查看sysaux表空间设置了32G,32G的表空间竟然使用了95%.一般来讲除开业务数据存放的表空间,DBA要着重关注SYSTE ...

  4. impala daemon启动失败

    启动错误日志: perl: warning: Setting locale failed. perl: warning: Please check that your locale settings: ...

  5. 执行webpack-dev-server时,提示端口被占用。

    执行webpack-dev-server时总出错,提示端口被占用.百度了很多答案都不能解决,最后找到了解决方案,如下: webpack-dev-server  --port 8088 使用以上命令修改 ...

  6. python函数作用域,嵌套函数,闭包

    函数作用域                                                                                                ...

  7. 富文本编辑器Ueditor 及 hibernate 逆向工程

    1.1           富文本编辑器Ueditor ueditor下载地址: http://ueditor.baidu.com/ 下载1.4.3 –utf8-Jsp版本.完整demo可参考下载文件 ...

  8. __iter__ 和 __next__

    class F: def __init__(self,x): self.x = x def __iter__(self): #把对象 变成可迭代对象 return self def __next__( ...

  9. lambda group by 的用法

    foreach (DynamicObject lstKSItem in lstKSItems) { var entity = lstKSItem["FEntity"] as Dyn ...

  10. 一些值得收藏的MySQL知识链接

    https://yq.aliyun.com/articles/5533(死锁分析的很好的一篇文章) http://hedengcheng.com/?spm=5176.100239.blogcont55 ...