StreamSets 部署 Pipelines 到 SDC Edge
可以使用如下方法:
- 下载edge 运行包并包含pipeline定义文件.
- 直接发布到edge 设备.
在data colelctor 机器配置并配置了edge server 地址(主要需要网络可访问) - 导出edge pipeline 配置,并移动到edge 设备
直接发布pipeline
可以通过ui 部署
发布单个pipeline
- Open the edge pipeline in the pipeline canvas.
- On the General tab, set the Data Collector Edge URL property to the URL of the SDC Edge instance that you want to deploy the pipeline to.
- The default URL is http://localhost:18633.
- In the top toolbar, click the Publish Pipeline to Data Collector Edge icon:
Data Collector publishes the pipeline to the <sdcedge_home>/data/pipelines directory on the edge device where SDC Edge is installed.
发布多个pipeline
- On the General tab of each pipeline that you want to publish, set the Data Collector Edge URL property to the URL of the SDC Edgeinstance that you want to deploy the pipeline to.
- The default URL is http://localhost:18633.
- From the Data Collector Home page, select multiple pipelines from the list, click the More icon, and then click Publish Pipelines to Data Collector Edge.
Data Collector publishes the pipelines to the <sdcedge_home>/data/pipelines directory on the edge device where SDC Edge is installed.
导出pipeline
- Open the edge pipeline in the pipeline canvas.
- From the Properties panel, click the More icon (
) to view the pipeline configuration REST response data:
- The browser displays the pipeline configuration in JSON format.
- In the browser, copy the complete contents of the pipeline configuration and save it to a text file named pipeline.json.
In the address bar of the browser, type ?get=info after the pipeline ID.
For example:https://localhost:18630/rest/v1/pipeline/EdgeSending76d9d551-217d-4b44-8b03-8fbe444962c5?get=info
The browser displays the pipeline information in JSON format.
- In the browser, copy the complete contents of the pipeline information and save it to a text file named info.json.
On the edge device where SDC Edge is installed, create a folder named with the pipeline ID in the following directory:
<SDCEdge_home>/data/pipelines
For example:
<SDCEdge_home>/data/pipelines/EdgeSending76d9d551-217d-4b44-8b03-8fbe444962c5
- Copy the pipeline.json and info.json files that you created for the pipeline into this folder.
- Now you can start and manage the pipeline on SDC Edge as described in Sending Commands to SDC Edge.
If you modify the same pipeline in Data Collector, view the pipeline configuration REST response data and then copy the updated data into the existing pipeline.json in the SDC Edge installation. You do not need to update the info.json file after you originally create it in the pipeline folder.
参考资料
StreamSets 部署 Pipelines 到 SDC Edge的更多相关文章
- StreamSets 管理 SDC Edge上的pipeline
可选的方式: ui (data colelctor) 发送命令 UI 主要是创建edge pipeline 的时候进行edge server 的配置 默认是 http://localhost:1863 ...
- StreamSets 多线程 Pipelines
以下为官方文档: Multithreaded Pipeline Overview A multithreaded pipeline is a pipeline with an origin that ...
- StreamSets 相关文章
相关streamsets 文章(不按顺序) 学习视频-百度网盘 StreamSets 设计Edge pipeline StreamSets Data Collector Edge 说明 streams ...
- 为 Azure IoT Edge 设备部署 Azure Stream Analytics 服务
在前面的两篇文章<Azure IoT Edge on Windows 10 IoT Core>和<Azure IoT Edge on Raspberry Pi 3 with Rasp ...
- streamsets k8s 部署试用
使用k8s 进行 streamsets的部署(没有使用持久化存储) k8s deploy yaml 文件 deploy.yaml apiVersion: extensions/v1beta1 kind ...
- streamsets origin 说明
origin 是streamsets pipeline的soure 入口,只能应用一个origin 在pipeline中, 对于运行在不同执行模式的pipeline 可以应用不同的origin 独立模 ...
- streamsets 3.5 的一些新功能
streamsets 3.5 有了一些新的特性以及增强,总之是越来越方便了,详细的可以 查看官方说明,以下简单例举一些比较有意义的. origins 新的pulsar 消费origin jdbc 多表 ...
- Azure IoT Edge on Windows 10 IoT Core
在今年的Build大会上,微软推出了Azure IoT Edge的第一个版本(https://github.com/Azure/iot-edge ).该版本的主要特点就是将计算能力由Azure端推送至 ...
- 读懂SAP Leonardo物联网平台
读懂SAP Leonardo物联网平台 https://blog.csdn.net/weixin_42137700/article/details/81903290 本文比较系统.全面地介绍了SAP ...
随机推荐
- iOS开发之开发者申请
一.对于真机调试,首先要在苹果网站上注册APP ID,以及购买iPhone Develop Program(iDP) 开发者授权,99美元.然后要创建证书请求CSR,创建步骤如下: 1.Mac O ...
- Jquery的深度拷贝和深度克隆
有人问,拷贝和克隆不都是“复制”的意思吗. 这位看官问的好,一般情况下是一样的,但在jquery中却有些不同.jqurey深度拷贝一般只js对象的复制,是$.extend()方法,jquery深度克隆 ...
- R语言包相关命令
R的包(package)通常有两种:1 binary package:这种包属于即得即用型(ready-to-use),但是依赖与平台,即Win和Linux平台下不同.2 Source package ...
- pysam - 多种格式基因组数据(sam/bam/vcf/bcf/cram/…)读写与处理模块(python)--转载
pysam 模块介绍!!!! http://pysam.readthedocs.io/en/latest/index.html 在开发基因组相关流程或工具时,经常需要读取.处理和创建bam.vcf.b ...
- js urlencode
<!doctype html> <html lang="en"> <head> <meta charset="UTF-8&quo ...
- Android多个Module统一配置相同jar或库的版本号
Android Studio多个Module依赖相同的库时对版本号进行统一配置 在Android项目中,一个项目经常会依赖其他的一个甚至多个库文件,在这种依赖的时候最常见的一个错误就是 jar包版本不 ...
- TinyURL
2018-03-09 15:19:04 TinyURL,短地址,或者叫短链接,指的是一种互联网上的技术与服务.此服务可以提供一个非常短小的URL以代替原来的可能较长的URL,将长的URL地址缩短. 用 ...
- linux yum安装lsof命令
[root@ITC-MCC ~]# yum install lsof[USM] permission denied^C[root@ITC-MCC ~]# [root@ITC-MCC ~]# [root ...
- torchnet package (1)
torchnet package (1) torchnet torchnet torchnet是用于torch的代码复用和模块化编程的框架,主要包含四个类 Dataset 以不同的方式对数据进行预处理 ...
- HDU-3853-期望/dp/坑
LOOPS Time Limit: 15000/5000 MS (Java/Others) Memory Limit: 125536/65536 K (Java/Others)Total Sub ...