前言 要问 Hortonworks 这家公司最有产品力的产品是什么,我觉得是 Apache NiFi.去年Cloudera 和 Hortonworks 合并之后,以 Cloudera 为主,两家公司进行产品整合.Cloudera 从 Hortonworks 家没拿啥东西,唯独拿来了 Apache NiFi ,并借鉴了 HDF 平台,整合成了全新的产品 Cloudera DataFlow(CDF)产品,并且大有把 CDF 做成自家拳头产品之势.Cloudera 官网 PRODUCTS 展示的第一个…

Add a.password file to chrome. Settings -> Advanced -> Security -> Manage Certificates -> Import certificates -> copy password from a.password file. Setting Up a Secure Apache NiFi Registry Nifi Documentation What is Apache NIFI? Nifi was b…

import java.io from datetime import datetime from org.apache.commons.io import IOUtils from java.nio.charset import StandardCharsets from org.apache.nifi.processor.io import StreamCallback class GetDate(StreamCallback): def __init__(self): pass def p…

import org.apache.commons.io.IOUtilsimport java.nio.charset.*import java.text.SimpleDateFormatimport groovy.json.* def flowFile = session.get() flowFile = session.write(flowFile, {inputStream, outStream -> def js = IOUtils.toString(inputStream, Stand…

1. 全景图   2. 合并 根据attribute合并flowfile:   合并 json, 并增加code,message等:   3. 计算方差: 在ExecuteScript里只能用纯python, 很多第三方包都不能用:并把计算的值插入到json里,输出.   import simplejson as json #from scipy.stats import f_oneway import java.io from org.apache.commons.io import IOUt…

全景图:     1. ListHDFS & FetchHDFS: ListHDFS:   FetchHDFS:   2. EvaluateJsonPath: {"status": {"code":500,"message":"FAILED","detail":"DTU ID not exists"}} 如果json里有数组,需要先用SplitJson分隔:     3. Rou…

Apache NiFi 是一个易于使用.功能强大而且可靠的数据处理和分发系统.Apache NiFi 是为数据流设计.它支持高度可配置的指示图的数据路由.转换和系统中介逻辑. 架构: 集群管理器: 主界面: 关键特性包括: 基于web的用户界面 无缝体验设计.控制和监视 高度可配置的 数据丢失容错和保证交付 低延迟和高吞吐量 动态优先级 流可以在运行时修改 背压 Back presure 数据来源 从始至终跟踪数据流 为扩展设计 构建自己数据处理器 支持快速开发和有效的测试 安全 SSL,SSH…

有关nifi的基本介绍和架构可以参考nifi官网 一下介绍nifi的一些比较重要的类和自己的一些理解,我刚刚接触nifi: nifi的数据流可以表示为一个flow这是一个队列,每个数据包被封装在flowfile类中.数据经过processor,处理之后要么转发,要么remove 转发是根据relationship来决定转发给那一个…

第一步 安装 Anaconda3-2019.03-Windows-x86_64.exe 下载地址:https://repo.anaconda.com/archive/Anaconda3-2019.03-Windows-x86_64.exe 正常安装就可以 第二步:验证python是否安装成功 C:\Users\Think>python 出现版本信息并且进入python就证明phthon环境配置完成 Python 3.7.3 (default, Mar 27 2019, 17:13:21) [MS…

本章介绍NIFI组件的使用. 主要有:Nginx反向代理NIFI,配置SSLContextService Nginx反向代理NIFI 使用nginx反向代理NIFI配置如下 upstream nifi_server { ip_hash; server 127.0.0.1:18002; } server { listen 80; server_name nifi.example.com; charset utf-8; location / { proxy_pass http://nifi_serv…