使用RestCloud ETL轻松解决WebService数据同步

当前许多企业的业务系统甚至是SAAS系统只能提供WebService接口,如SAP、Workday等。
如何才能将众多的WebService接口同步到本地或数据中心呢?
传统的做法是通过编写代码实现,该做法不仅开发效率低而且维护困难,任何接口的变更都需要重新修改代码。如果有一种能简单、高效地轻松解决该问题的工具,这应该是所有数据集成开发工程师的共同需求。
RestCloud ETL正是一款这样的工具,以下分享如何使用RestCloud ETL工具无需编码,只需简单两步即轻松完成WebService数据同步方法。

一、实现原理
RestCloud ETL提供100+的数据组件,这里我们只需要使用其中2个组件:WebService调用组件,表输出组件即可轻松实现WebService的数据同步。
实现原理如下图:
WebService调用组件完成WebService接口接入、XML数据解析、数据格式;表输出组件完成格式后的数据加载到数据库中,表输出组件支持几十种数据源。
二、实现过程
2.1、登录RestCloud ETL平台
进入集成开发应用开发页面

创建一个WebService数据同步任务

2.2、WebService数据同步流程设计
2.2.1 流程设计
在流程设计页面,拖拽出两个组件:

2.2.2配置组件信息:
1、配置WebService
WebService配置项中在输入WebService接口URL:

这里我们将获取公网上的一个WebService接口服务地址如下:http://ws.webxml.com.cn/WebServices/WeatherWS.asmx
注意这个WebService有好几个方法我们需要在节点的Header中SOAPAction中指定具体调用其中的那一个方法。

我们调用他其中的一个方法获取区域以及编码数据然后传到mysql中进行存储。

使用ETL调用WebService接口实时拉取数据到本地数库中
输入参数的XML可以使用SoapUI工具进行解析然后复制进来即可,这样我们的WebService节点就配置完成了。
后面的MySql节点就比较容易了,可以提前先建好表,也可以由ETL任务自动创建表,我们这里选择由ETL工具自动建表并输出数据到mysql。
2、配置表输出信息

这里输入一张不存在的表即可,系统会自动创建这张表

然后配置这张表要接收数据的字段,系统将根据此配置字段进行数据库表的创建。


输出选项中我们选择第一次执行时清空目标表,自动建表,逐条更新即可,配置完成后保存流程,即可以开始调试运行,现在我们来运行一下看看效果。
2.3 运行调试

点击运行,选择单步调试,可以看到拉取的区域数据,并会存入到mysql中

在调试界面中我们可以看到拉取到了79条数据,再点下一步即可存入到mysql

任务运行结果显示成功79条数据到mysql中,我们可以去mysql表中预览一下是不是把区域数据拉到mysql中了。

使用ETL调用WebService接口实时拉取数据到本地数库中
打开mysql客户端可以看到WebSerivce中的数据已经成功拉取到本地mysql中了,如果调试没有问题我们就可以给他安排一个定时任务,定时同步webservice中的数据到本地即可。

使用ETL调用WebService接口实时拉取数据到本地数库中
可以选择每天晚上同步一次或其他同步时间可以自定义同步频率
上面我们就通过RestCloud ETL简单两步配置即实现了WebService接口的数据拉取同步任务,可以说是非常简单。
三、RestCloud ETL数据集成自动化
RestCloud ETL社区版是一款数据集成工具,提供可视化多数据管道构建、数据源管理、运行监控及权限管理功能。RestCloud作为一家数据集成自动化创新企业,我们致力于成为世界级的数据集成平台,我们将为此不懈努力,不断前行。
使用RestCloud ETL轻松解决WebService数据同步的更多相关文章
- Kettle ETL 来进行mysql 数据同步——试验环境搭建(表中无索引,无约束,无外键连接的情况)
今天试验了如何在Kettle的图形界面(Spoon)下面来整合来mysql 数据库中位于不同数据库中的数据表中的数据. 试验用的数据表是customers: 第三方的数据集下载地址是:http://w ...
- 《华油能源OA系统数据同步和扩展的设计与实现_张宇峰》阅读笔记
为什么我会找到这篇论文? 华油能源集团拥有多套信息化软件系统,每个用户需要登录操作多个软件系统,记住多个系统的用户名.密码,需要不停的切换到每个系统,查看是否有需要进行的工作:管理员更是疲于每天对各个 ...
- Nunchuck.js - 轻松实现多个设备的数据同步
Nunchuck.js 是对用于移动设备上的浏览器应用程序的控制库,通过浏览器轻松实现多设备数据同步.他们提供了一个库,很容易使开发人员能够整合移动浏览器控件到桌面的基于浏览器的 JavaScript ...
- java——多线程的实现方式、三种办法解决线程赛跑、多线程数据同步(synchronized)、死锁
多线程的实现方式:demo1.demo2 demo1:继承Thread类,重写run()方法 package thread_test; public class ThreadDemo1 extends ...
- 做ETL的时候用到的数据同步更新代码
这里是用的从一个库同步到另一个库,代码如下 private void IncrementalSyncUpdate(string fromConn, string toConn, Dictionary& ...
- 比Sqoop功能更加强大开源数据同步工具DataX实战
@ 目录 概述 定义 与Sqoop对比 框架设计 支持插件 核心架构 核心优势 部署 基础环境 安装 从stream读取数据并打印到控制台 读取MySQL写入HDFS 读取HDFS写入MySQL 执行 ...
- Oracle和Elasticsearch数据同步
Python编写Oracle和Elasticsearch数据同步脚本 标签: elasticsearchoraclecx_Oraclepython数据同步 Python知识库 一.版本 Pyth ...
- 美团DB数据同步到数据仓库的架构与实践
背景 在数据仓库建模中,未经任何加工处理的原始业务层数据,我们称之为ODS(Operational Data Store)数据.在互联网企业中,常见的ODS数据有业务日志数据(Log)和业务DB数据( ...
- redis和mySql的数据同步的解析
1.同步MySQL数据到Redis (1) 在redis数据库设置缓存时间,当该条数据缓存时间过期之后自动释放,去数据库进行重新查询,但这样的话,我们放在缓存中的数据对数据的一致性要求不是很高才能放入 ...
- DB 数据同步到数据仓库的架构与实践
背景 在数据仓库建模中,未经任何加工处理的原始业务层数据,我们称之为ODS(Operational Data Store)数据.在互联网企业中,常见的ODS数据有业务日志数据(Log)和业务DB数据( ...
随机推荐
- fiddler断点应用
一.作用 1.模拟网络中断 2.断点时篡改数据 3.测试时做一些极端测试 二.断点步骤 1.全局断点 1)全局断点的两种方式 点击状态栏空白框,点击一下请求前断点,两下请求后断点,三下取消断点 Rul ...
- Python 潮流周刊第3季总结,附电子书下载
我订阅了很多的周刊/Newsletter,但是发现它们都有一个共同的毛病:就是缺乏对往期内容的整理,它们很少会对内容数据作统计分析,更没有将内容整理成合集的习惯. 在自己开始连载周刊后,我就想别开生面 ...
- .NET Core中的配置Configuration实战
在前面的一篇文章中,我们对.NET 中的配置Configuration进行了一个详细的介绍,并且从整个源码的解读解释了配置中的核心接口以及主要的实现类.文章链接为:https://cshellowor ...
- 一文详解银河麒麟配置容器运行时及gVisor(runsc)、Kata(runv)详细指南
容器运行时介绍 容器运行时核心概念与分类 容器运行时(Container Runtime)是管理容器生命周期(创建.启动.停止.删除)和资源隔离的核心组件,通过与操作系统内核协作实现容器化环境.根据功 ...
- mysql服务未启动报错2003-Can't connect to MySQL server on 'localhost' (10061 "Unknown error")
解决方法:开启mysql服务再试试 管理员身份运行cmd 开启mysql服务net start mysql 关闭mysql服务 net stop mysql
- 在rk3588上部署InternVL系列
在rk3588上部署InternVL2-1B 准备 首先要在hf上下载InternVL2-1B的模型传送门(镜像) git clone https://hf-mirror.com/OpenGVLab/ ...
- C#网络编程(三)----HTTP协议
HTTP协议 HTTP(超文本传输协议),属于应用层协议.基于TCP连接实现.但通信方向始终由客户端发起(HTTP/2之后已修改). 维度 TCP/IP协议族(传输层/TCP) HTTP协议(应用层) ...
- B1009 说反话
给定一句英语,要求你编写程序,将句中所有单词的顺序颠倒输出. 输入格式: 测试输入包含一个测试用例,在一行内给出总长度不超过 80 的字符串.字符串由若干单词和若干空格组成,其中单词是由英文字母(大小 ...
- theZoo - 恶意软件分析资源库
theZoo 是一个恶意软件分析资源库,收集了几乎所有版本的恶意软件包括(恶意软件源代码项目.二进制恶意软件程序).需要分析病毒.恶意软件的朋友可以在项目中下载某个恶意软件来分析. 功能特性 恶意软件 ...
- C#/.NET/.NET Core技术前沿周刊 | 第 40 期(2025年5.26-5.31)
前言 C#/.NET/.NET Core技术前沿周刊,你的每周技术指南针!记录.追踪C#/.NET/.NET Core领域.生态的每周最新.最实用.最有价值的技术文章.社区动态.优质项目和学习资源等. ...