【NIFI】 Apache NiFI 使用技巧

　　本章介绍NIFI组件的使用。

　　主要有：Nginx反向代理NIFI，配置SSLContextService

Nginx反向代理NIFI

　　使用nginx反向代理NIFI配置如下

 upstream nifi_server {

     ip_hash;

     server 127.0.0.1:18002;

 }

 server {

     listen       80;

     server_name  nifi.example.com;

     charset utf-8;

     location / {

         proxy_pass      http://nifi_server;

         proxy_set_header Host $host;

         proxy_set_header X-Real-IP $remote_addr;

         proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;

         proxy_set_header X-ProxyScheme http;

         proxy_set_header X-ProxyHost nifi.example.com

         proxy_set_header X-ProxyPort 80;

         proxy_set_header X-ProxyContextPath /;

     }

 }

配置SSLContextService

　　SSLContextService，可以用来发送https请求

　　SSL Context Service实例配置信任库属性：　

Truststore文件名：Java安装中的cacerts文件
- 如果在您的系统上设置了$JAVA_HOME，它应该有助于指向正确的方向。如果不是，cacerts的位置根据环境而变化，但是对于它们各自的OS大致如下
  - OS X： /Library/Java/JavaVirtualMachines/jdk<version>.jdk/Contents/Home/jre/lib/security/cacerts
  - Windows：C:\Program Files\Java\jdk <version>\jre\lib\security\ cacerts
  - Linux：/usr/local/java-<version>/jre/lib/security/cacerts
Truststore类型：JKS
Truststore密码：如果您使用的是默认Java密钥库，则默认密码为"changeit"

　　案例

　　　　GetHTTP

　　　　StandardSSLContextService

　　模版

 <?xml version="1.0" encoding="UTF-8" standalone="yes"?>

 <template encoding-version="1.2">

     <description></description>

     <groupId>620351d1-0168-1000-78a0-bf68b5b23177</groupId>

     <name>Https-Demo</name>

     <snippet>

         <connections>

             <id>c27e6613-7e35-3d9c-0000-000000000000</id>

             <parentGroupId>25bb3a09-a84a-3df9-0000-000000000000</parentGroupId>

             <backPressureDataSizeThreshold>1 GB</backPressureDataSizeThreshold>

             <backPressureObjectThreshold>10000</backPressureObjectThreshold>

             <destination>

                 <groupId>25bb3a09-a84a-3df9-0000-000000000000</groupId>

                 <id>a557eeeb-009b-316d-0000-000000000000</id>

                 <type>PROCESSOR</type>

             </destination>

             <flowFileExpiration>0 sec</flowFileExpiration>

             <labelIndex>1</labelIndex>

             <loadBalanceCompression>DO_NOT_COMPRESS</loadBalanceCompression>

             <loadBalancePartitionAttribute></loadBalancePartitionAttribute>

             <loadBalanceStatus>LOAD_BALANCE_NOT_CONFIGURED</loadBalanceStatus>

             <loadBalanceStrategy>DO_NOT_LOAD_BALANCE</loadBalanceStrategy>

             <name></name>

             <selectedRelationships>success</selectedRelationships>

             <source>

                 <groupId>25bb3a09-a84a-3df9-0000-000000000000</groupId>

                 <id>e132b9d2-4ae9-3941-0000-000000000000</id>

                 <type>PROCESSOR</type>

             </source>

             <zIndex>0</zIndex>

         </connections>

         <controllerServices>

             <id>43bd3854-302f-30dd-0000-000000000000</id>

             <parentGroupId>25bb3a09-a84a-3df9-0000-000000000000</parentGroupId>

             <bundle>

                 <artifact>nifi-ssl-context-service-nar</artifact>

                 <group>org.apache.nifi</group>

                 <version>1.8.0</version>

             </bundle>

             <comments></comments>

             <descriptors>

                 <entry>

                     <key>Keystore Filename</key>

                     <value>

                         <name>Keystore Filename</name>

                     </value>

                 </entry>

                 <entry>

                     <key>Keystore Password</key>

                     <value>

                         <name>Keystore Password</name>

                     </value>

                 </entry>

                 <entry>

                     <key>key-password</key>

                     <value>

                         <name>key-password</name>

                     </value>

                 </entry>

                 <entry>

                     <key>Keystore Type</key>

                     <value>

                         <name>Keystore Type</name>

                     </value>

                 </entry>

                 <entry>

                     <key>Truststore Filename</key>

                     <value>

                         <name>Truststore Filename</name>

                     </value>

                 </entry>

                 <entry>

                     <key>Truststore Password</key>

                     <value>

                         <name>Truststore Password</name>

                     </value>

                 </entry>

                 <entry>

                     <key>Truststore Type</key>

                     <value>

                         <name>Truststore Type</name>

                     </value>

                 </entry>

                 <entry>

                     <key>SSL Protocol</key>

                     <value>

                         <name>SSL Protocol</name>

                     </value>

                 </entry>

             </descriptors>

             <name>StandardSSLContextService</name>

             <persistsState>false</persistsState>

             <properties>

                 <entry>

                     <key>Keystore Filename</key>

                 </entry>

                 <entry>

                     <key>Keystore Password</key>

                 </entry>

                 <entry>

                     <key>key-password</key>

                 </entry>

                 <entry>

                     <key>Keystore Type</key>

                 </entry>

                 <entry>

                     <key>Truststore Filename</key>

                     <value>/data/soft/jdk1.8.0_181/jre/lib/security/cacerts</value>

                 </entry>

                 <entry>

                     <key>Truststore Password</key>

                 </entry>

                 <entry>

                     <key>Truststore Type</key>

                     <value>JKS</value>

                 </entry>

                 <entry>

                     <key>SSL Protocol</key>

                 </entry>

             </properties>

             <state>ENABLED</state>

             <type>org.apache.nifi.ssl.StandardSSLContextService</type>

         </controllerServices>

         <processors>

             <id>a557eeeb-009b-316d-0000-000000000000</id>

             <parentGroupId>25bb3a09-a84a-3df9-0000-000000000000</parentGroupId>

             <position>

                 <x>0.0</x>

                 <y>250.0</y>

             </position>

             <bundle>

                 <artifact>nifi-standard-nar</artifact>

                 <group>org.apache.nifi</group>

                 <version>1.8.0</version>

             </bundle>

             <config>

                 <bulletinLevel>WARN</bulletinLevel>

                 <comments></comments>

                 <concurrentlySchedulableTaskCount>1</concurrentlySchedulableTaskCount>

                 <descriptors>

                     <entry>

                         <key>Regular Expression</key>

                         <value>

                             <name>Regular Expression</name>

                         </value>

                     </entry>

                     <entry>

                         <key>Replacement Value</key>

                         <value>

                             <name>Replacement Value</name>

                         </value>

                     </entry>

                     <entry>

                         <key>Character Set</key>

                         <value>

                             <name>Character Set</name>

                         </value>

                     </entry>

                     <entry>

                         <key>Maximum Buffer Size</key>

                         <value>

                             <name>Maximum Buffer Size</name>

                         </value>

                     </entry>

                     <entry>

                         <key>Replacement Strategy</key>

                         <value>

                             <name>Replacement Strategy</name>

                         </value>

                     </entry>

                     <entry>

                         <key>Evaluation Mode</key>

                         <value>

                             <name>Evaluation Mode</name>

                         </value>

                     </entry>

                 </descriptors>

                 <executionNode>ALL</executionNode>

                 <lossTolerant>false</lossTolerant>

                 <penaltyDuration>30 sec</penaltyDuration>

                 <properties>

                     <entry>

                         <key>Regular Expression</key>

                         <value>(?s)(^.*$)</value>

                     </entry>

                     <entry>

                         <key>Replacement Value</key>

                         <value>$1</value>

                     </entry>

                     <entry>

                         <key>Character Set</key>

                         <value>UTF-8</value>

                     </entry>

                     <entry>

                         <key>Maximum Buffer Size</key>

                         <value>1 MB</value>

                     </entry>

                     <entry>

                         <key>Replacement Strategy</key>

                         <value>Regex Replace</value>

                     </entry>

                     <entry>

                         <key>Evaluation Mode</key>

                         <value>Entire text</value>

                     </entry>

                 </properties>

                 <runDurationMillis>0</runDurationMillis>

                 <schedulingPeriod>0 sec</schedulingPeriod>

                 <schedulingStrategy>TIMER_DRIVEN</schedulingStrategy>

                 <yieldDuration>1 sec</yieldDuration>

             </config>

             <executionNodeRestricted>false</executionNodeRestricted>

             <name>ReplaceText</name>

             <relationships>

                 <autoTerminate>false</autoTerminate>

                 <name>failure</name>

             </relationships>

             <relationships>

                 <autoTerminate>false</autoTerminate>

                 <name>success</name>

             </relationships>

             <state>STOPPED</state>

             <style/>

             <type>org.apache.nifi.processors.standard.ReplaceText</type>

         </processors>

         <processors>

             <id>e132b9d2-4ae9-3941-0000-000000000000</id>

             <parentGroupId>25bb3a09-a84a-3df9-0000-000000000000</parentGroupId>

             <position>

                 <x>0.0</x>

                 <y>0.0</y>

             </position>

             <bundle>

                 <artifact>nifi-standard-nar</artifact>

                 <group>org.apache.nifi</group>

                 <version>1.8.0</version>

             </bundle>

             <config>

                 <bulletinLevel>WARN</bulletinLevel>

                 <comments></comments>

                 <concurrentlySchedulableTaskCount>1</concurrentlySchedulableTaskCount>

                 <descriptors>

                     <entry>

                         <key>URL</key>

                         <value>

                             <name>URL</name>

                         </value>

                     </entry>

                     <entry>

                         <key>Filename</key>

                         <value>

                             <name>Filename</name>

                         </value>

                     </entry>

                     <entry>

                         <key>SSL Context Service</key>

                         <value>

                             <identifiesControllerService>org.apache.nifi.ssl.SSLContextService</identifiesControllerService>

                             <name>SSL Context Service</name>

                         </value>

                     </entry>

                     <entry>

                         <key>Username</key>

                         <value>

                             <name>Username</name>

                         </value>

                     </entry>

                     <entry>

                         <key>Password</key>

                         <value>

                             <name>Password</name>

                         </value>

                     </entry>

                     <entry>

                         <key>Connection Timeout</key>

                         <value>

                             <name>Connection Timeout</name>

                         </value>

                     </entry>

                     <entry>

                         <key>Data Timeout</key>

                         <value>

                             <name>Data Timeout</name>

                         </value>

                     </entry>

                     <entry>

                         <key>User Agent</key>

                         <value>

                             <name>User Agent</name>

                         </value>

                     </entry>

                     <entry>

                         <key>Accept Content-Type</key>

                         <value>

                             <name>Accept Content-Type</name>

                         </value>

                     </entry>

                     <entry>

                         <key>Follow Redirects</key>

                         <value>

                             <name>Follow Redirects</name>

                         </value>

                     </entry>

                     <entry>

                         <key>redirect-cookie-policy</key>

                         <value>

                             <name>redirect-cookie-policy</name>

                         </value>

                     </entry>

                     <entry>

                         <key>proxy-configuration-service</key>

                         <value>

                             <identifiesControllerService>org.apache.nifi.proxy.ProxyConfigurationService</identifiesControllerService>

                             <name>proxy-configuration-service</name>

                         </value>

                     </entry>

                     <entry>

                         <key>Proxy Host</key>

                         <value>

                             <name>Proxy Host</name>

                         </value>

                     </entry>

                     <entry>

                         <key>Proxy Port</key>

                         <value>

                             <name>Proxy Port</name>

                         </value>

                     </entry>

                 </descriptors>

                 <executionNode>ALL</executionNode>

                 <lossTolerant>false</lossTolerant>

                 <penaltyDuration>30 sec</penaltyDuration>

                 <properties>

                     <entry>

                         <key>URL</key>

                         <value>https://www.baidu.com</value>

                     </entry>

                     <entry>

                         <key>Filename</key>

                         <value>index.html</value>

                     </entry>

                     <entry>

                         <key>SSL Context Service</key>

                         <value>43bd3854-302f-30dd-0000-000000000000</value>

                     </entry>

                     <entry>

                         <key>Username</key>

                     </entry>

                     <entry>

                         <key>Password</key>

                     </entry>

                     <entry>

                         <key>Connection Timeout</key>

                         <value>30 sec</value>

                     </entry>

                     <entry>

                         <key>Data Timeout</key>

                         <value>30 sec</value>

                     </entry>

                     <entry>

                         <key>User Agent</key>

                     </entry>

                     <entry>

                         <key>Accept Content-Type</key>

                     </entry>

                     <entry>

                         <key>Follow Redirects</key>

                         <value>false</value>

                     </entry>

                     <entry>

                         <key>redirect-cookie-policy</key>

                         <value>default</value>

                     </entry>

                     <entry>

                         <key>proxy-configuration-service</key>

                     </entry>

                     <entry>

                         <key>Proxy Host</key>

                     </entry>

                     <entry>

                         <key>Proxy Port</key>

                     </entry>

                 </properties>

                 <runDurationMillis>0</runDurationMillis>

                 <schedulingPeriod>10 sec</schedulingPeriod>

                 <schedulingStrategy>TIMER_DRIVEN</schedulingStrategy>

                 <yieldDuration>1 sec</yieldDuration>

             </config>

             <executionNodeRestricted>false</executionNodeRestricted>

             <name>GetHTTP</name>

             <relationships>

                 <autoTerminate>false</autoTerminate>

                 <name>success</name>

             </relationships>

             <state>STOPPED</state>

             <style/>

             <type>org.apache.nifi.processors.standard.GetHTTP</type>

         </processors>

     </snippet>

     <timestamp>01/19/2019 02:06:56 CST</timestamp>

 </template>

【NIFI】 Apache NiFI 使用技巧的更多相关文章

【NIFI】 Apache NiFI 授权配置
当NIFI未配置需要单向SSL(例如LDAP,OpenId Connect等)的替代认证机制时,NiFi的Web服务器将要求访问用户界面的用户使用基于证书的客户端身份验证.启用备用身份验证机制会将We ...
【NIFI】 Apache NiFI 集群搭建
NiFI 集群介绍 NiFi集群架构 NiFi采用Zero-Master Clustering范例.集群中的每个节点对数据执行相同的任务,但每个节点都在不同的数据集上运行.其中一个节点自动选择(通过A ...
【NIFI】 Apache NiFI 安装及简单的使用
NiFI介绍 NiFi(NiagaraFiles)是为了实现系统间数据流的自动化而构建的.虽然术语“数据流”用于各种上下文,但我们在此处使用它来表示系统之间的自动和管理信息流官网地址:http:// ...
【NIFI】 Apache NiFI 之 ExecuteScript处理（二）
本例介绍NiFI ExecuteScript处理器的使用,使用的脚本引擎ECMScript 接上一篇[NIFI] Apache NiFI 之 ExecuteScript处理(一) ExecuteScr ...
【NIFI】 Apache NiFI 之 ExecuteScript处理（一）
本例介绍NiFI ExecuteScript处理器的使用,使用的脚本引擎ECMScript FlowFile I / O简介 NiFi中的流文件由两个主要组件构成,即属性和内容.属性是关于内容/流文件 ...
【NIFI】 Apache NiFI 与 SQL 操作
本里需要基础知识:[NIFI] Apache NiFI 安装及简单的使用查询SQL 1.拖入一个 Processor:ExecuteSQLRecord(执行sql记录) 2.配置,SETTINGS的 ...
Apache Nifi在Windows环境下搭建伪群集及证书登录
代码地址如下:http://www.demodashi.com/demo/11986.html 前些时间做了关于Apache Nifi分布式集群的搭建分享,但很多时候要搭建分布式集群机器资源是个问题, ...
Apache Nifi 开发
Apache NiFi是由美国过国家安全局(NSA)贡献给Apache基金会的开源项目.其设计目标是自己主动化系统间的数据流.基于其工作流式的编程理念.NiFi很易于使用,强大.可靠及高可配置. 两个 ...
Apache NiFi 开发安装说明
系统环境: vmware安装的centos6.7虚拟机 jdk1.8版本 maven库3.3.9版本(在使用源码编译启动的时候需要修改配置文件与当前使用的maven版本匹配,最低使用版本好像是3.1. ...

随机推荐

Django 请求类型
// GET请求request.GET // POST请求request.POST // 处理文件上传请求request.FILES // 处理如checkbox等多选接受列表request.get ...
springboot security
Authority 权限Credential 证书Grant 授予 Authentication 身份验证以下,我们将通过四步,逐步实现spring-security的userna ...
jmeter(一)
jmeter简介 Apache jmeter是Apache组织开发的基于java的压力测试工具与LR功能基本相同,根据用户数来选择用哪个更合适为什么要做压力测试? 了解被测系统一般 ...
Hash算法总结(转)
1. Hash是什么,它的作用先举个例子.我们每个活在世上的人,为了能够参与各种社会活动,都需要一个用于识别自己的标志.也许你觉得名字或是身份证就足以代表你这个人,但是这种代表性非常脆弱,因为重名的人 ...
lombok踩坑与思考
虽然接触到lombok已经有很长时间,但是大量使用lombok以减少代码编写还是在新团队编写新代码维护老代码中遇到的. 我个人并不主张使用lombok,其带来的代价足以抵消其便利,但是由于团队编码风格 ...
Multiple dex files define Lcom/google/gson/internal/Streams$AppendableWriter$CurrentWrite;
开发中引入第三方 aar 时编译同过,运行时出现问题: Multiple dex files define Lcom/google/gson/internal/Streams$AppendableWr ...
CSS 背景图像填充部分元素示例
填充部分元素示例为某个元素设置CSS规则background-image 属性,则可以做到部分元素有背景颜色. 下面的示例演示如何如何给段落元素加背景. <!DOCTYPE html> ...
Arthas的基础学习
下载与安装 wget https://alibaba.github.io/arthas/arthas-boot.jar java -jar arthas-boot.jar 启动查看启动的帮助信息: ...
linux下用数据泵导入导出（impdp、expdp）
expdp和impdp expdp假设a用户的默认表空间是a,导出用户a所有数据: 如果是多实例需要在命令行或终端手工指定实例 set ORACLE_SID=实例名否则回报ORA-12560: T ...
ABAP 程序/接口调用其他程序的数据
在ABAP遇到的业务场景中,可能会遇到一种情况,需要调用其他报表的数据来发送或者二次加工,这个时候又不想对源程序做大的改动.有以下几种思路解决. 1.修改源程序,将需要展示的数据存储到DB中,然后主程 ...

【NIFI】 Apache NiFI 使用技巧

Nginx反向代理NIFI

配置SSLContextService

【NIFI】 Apache NiFI 使用技巧的更多相关文章

随机推荐

热门专题