当前许多企业的业务系统甚至是SAAS系统只能提供WebService接口,如SAP、Workday等。

如何才能将众多的WebService接口同步到本地或数据中心呢?

传统的做法是通过编写代码实现,该做法不仅开发效率低而且维护困难,任何接口的变更都需要重新修改代码。如果有一种能简单、高效地轻松解决该问题的工具,这应该是所有数据集成开发工程师的共同需求。

RestCloud ETL正是一款这样的工具,以下分享如何使用RestCloud ETL工具无需编码,只需简单两步即轻松完成WebService数据同步方法。

 

一、实现原理

RestCloud ETL提供100+的数据组件,这里我们只需要使用其中2个组件:WebService调用组件,表输出组件即可轻松实现WebService的数据同步

实现原理如下图:

WebService调用组件完成WebService接口接入、XML数据解析、数据格式;表输出组件完成格式后的数据加载到数据库中,表输出组件支持几十种数据源。

二、实现过程

2.1、登录RestCloud ETL平台

进入集成开发应用开发页面

创建一个WebService数据同步任务

2.2、WebService数据同步流程设计

2.2.1 流程设计

在流程设计页面,拖拽出两个组件:

2.2.2配置组件信息:

1、配置WebService

WebService配置项中在输入WebService接口URL:

这里我们将获取公网上的一个WebService接口服务地址如下:http://ws.webxml.com.cn/WebServices/WeatherWS.asmx

注意这个WebService有好几个方法我们需要在节点的Header中SOAPAction中指定具体调用其中的那一个方法。

我们调用他其中的一个方法获取区域以及编码数据然后传到mysql中进行存储。

使用ETL调用WebService接口实时拉取数据到本地数库中

输入参数的XML可以使用SoapUI工具进行解析然后复制进来即可,这样我们的WebService节点就配置完成了。

后面的MySql节点就比较容易了,可以提前先建好表,也可以由ETL任务自动创建表,我们这里选择由ETL工具自动建表并输出数据到mysql。

2、配置表输出信息

这里输入一张不存在的表即可,系统会自动创建这张表

然后配置这张表要接收数据的字段,系统将根据此配置字段进行数据库表的创建。

输出选项中我们选择第一次执行时清空目标表,自动建表,逐条更新即可,配置完成后保存流程,即可以开始调试运行,现在我们来运行一下看看效果。

2.3 运行调试

点击运行,选择单步调试,可以看到拉取的区域数据,并会存入到mysql中

在调试界面中我们可以看到拉取到了79条数据,再点下一步即可存入到mysql

任务运行结果显示成功79条数据到mysql中,我们可以去mysql表中预览一下是不是把区域数据拉到mysql中了。

使用ETL调用WebService接口实时拉取数据到本地数库中

打开mysql客户端可以看到WebSerivce中的数据已经成功拉取到本地mysql中了,如果调试没有问题我们就可以给他安排一个定时任务,定时同步webservice中的数据到本地即可。

使用ETL调用WebService接口实时拉取数据到本地数库中

可以选择每天晚上同步一次或其他同步时间可以自定义同步频率

上面我们就通过RestCloud ETL简单两步配置即实现了WebService接口的数据拉取同步任务,可以说是非常简单。

三、RestCloud ETL数据集成自动化

RestCloud ETL社区版是一款数据集成工具,提供可视化多数据管道构建、数据源管理、运行监控及权限管理功能。RestCloud作为一家数据集成自动化创新企业,我们致力于成为世界级的数据集成平台,我们将为此不懈努力,不断前行。

感谢您对我们的关注和支持!如需了解更多的产品相关信息
请加入RestCloud ETL社区免费下载体验,下载地址:https://etl.restcloud.cn

使用RestCloud ETL轻松解决WebService数据同步的更多相关文章

  1. Kettle ETL 来进行mysql 数据同步——试验环境搭建(表中无索引,无约束,无外键连接的情况)

    今天试验了如何在Kettle的图形界面(Spoon)下面来整合来mysql 数据库中位于不同数据库中的数据表中的数据. 试验用的数据表是customers: 第三方的数据集下载地址是:http://w ...

  2. 《华油能源OA系统数据同步和扩展的设计与实现_张宇峰》阅读笔记

    为什么我会找到这篇论文? 华油能源集团拥有多套信息化软件系统,每个用户需要登录操作多个软件系统,记住多个系统的用户名.密码,需要不停的切换到每个系统,查看是否有需要进行的工作:管理员更是疲于每天对各个 ...

  3. Nunchuck.js - 轻松实现多个设备的数据同步

    Nunchuck.js 是对用于移动设备上的浏览器应用程序的控制库,通过浏览器轻松实现多设备数据同步.他们提供了一个库,很容易使开发人员能够整合移动浏览器控件到桌面的基于浏览器的 JavaScript ...

  4. java——多线程的实现方式、三种办法解决线程赛跑、多线程数据同步(synchronized)、死锁

    多线程的实现方式:demo1.demo2 demo1:继承Thread类,重写run()方法 package thread_test; public class ThreadDemo1 extends ...

  5. 做ETL的时候用到的数据同步更新代码

    这里是用的从一个库同步到另一个库,代码如下 private void IncrementalSyncUpdate(string fromConn, string toConn, Dictionary& ...

  6. 比Sqoop功能更加强大开源数据同步工具DataX实战

    @ 目录 概述 定义 与Sqoop对比 框架设计 支持插件 核心架构 核心优势 部署 基础环境 安装 从stream读取数据并打印到控制台 读取MySQL写入HDFS 读取HDFS写入MySQL 执行 ...

  7. Oracle和Elasticsearch数据同步

    Python编写Oracle和Elasticsearch数据同步脚本 标签: elasticsearchoraclecx_Oraclepython数据同步    Python知识库 一.版本 Pyth ...

  8. 美团DB数据同步到数据仓库的架构与实践

    背景 在数据仓库建模中,未经任何加工处理的原始业务层数据,我们称之为ODS(Operational Data Store)数据.在互联网企业中,常见的ODS数据有业务日志数据(Log)和业务DB数据( ...

  9. redis和mySql的数据同步的解析

    1.同步MySQL数据到Redis (1) 在redis数据库设置缓存时间,当该条数据缓存时间过期之后自动释放,去数据库进行重新查询,但这样的话,我们放在缓存中的数据对数据的一致性要求不是很高才能放入 ...

  10. DB 数据同步到数据仓库的架构与实践

    背景 在数据仓库建模中,未经任何加工处理的原始业务层数据,我们称之为ODS(Operational Data Store)数据.在互联网企业中,常见的ODS数据有业务日志数据(Log)和业务DB数据( ...

随机推荐

  1. 2025dsfz集训Day5:最短路与最小生成树

    DAY5 I : 最小生成树 \[Designed\ By\ FrankWkd\ -\ Luogu@Lwj54joy,uid=845400 \] 特别感谢 此次课的主讲 - Kwling 生成树及最小 ...

  2. 集成RabbitMQ队列与EventBus总线

    参照: Blog.Core [项目更新] 集成RabbitMQ队列与EventBus总线_dotNET跨平台的博客-CSDN博客

  3. Git Reset 彻底解析:--hard 模式操作步骤、风险与完整恢复指北

    结论先行 使用 git reset --hard <commit_id> 可强制将本地代码.暂存区.工作目录彻底回退到指定提交状态,但会丢弃目标提交之后的所有提交记录(需谨慎操作,尤其涉及 ...

  4. spring boot迁移计划 第Ⅰ章 --chapter 1. rust hyper 结合rust nacos-client开发nacos网关 part ③ toml配置文件

    1. toml依赖 toml = "0.8" 2. 代码 由于项目还未完成,部分配置(如数据库等)还未增加,后续更新增加 use log::info; use serde::Des ...

  5. 在鸿蒙Next中开发一个月历组件

    最近一直在出差,工作繁忙,很久没有时间更新文章了,连华为开发者大会也错过了.今天周末,忙里偷闲给大家分享一个鸿蒙月历组件. 这样的组件大家在工作中应该经常会遇到,而鸿蒙又没有提供一个这样的系统组件,今 ...

  6. 8086汇编(16位汇编)学习笔记01.汇编基础和debug使用

    原文链接: https://bpsend.net/thread-100-1-2.html 为什么学习16位汇编? 16位操作指令最多能够操作两个字节,且更能够体现出与硬件的交互.16位下的指令和32位 ...

  7. Qt图像处理技术三:图片亮度与对比度处理

    Qt图像处理技术三:图片亮度和对比度处理 github地址 实战应用项目: github :https://github.com/dependon/simple-image-filter //纯qt图 ...

  8. Java安全_RCE漏洞

    [!NOTE] 本次学习使用开源项目: https://github.com/JoyChou93/java-sec-code/blob/master/src/main/java/org/joychou ...

  9. 手把手教你网络爬虫(爬取豆瓣电影top250,附带源代码)

    概念 网络爬虫就是按照一定的规则,自动抓取互联网信息的程序或脚本.其本质就是模拟浏览器打开网页,获取网页中我们需要的数据. 基本流程 准备工作(构建流程) 获取数据 解析内容 保存数据 1. 准备工作 ...

  10. GHCTF 2025 web 萌新初探wp

    ctf萌新第一次写wp,如有错误请师傅们指出 [GHCTF 2025]SQL??? 打开靶机是一个用户查询的页面,结合题目名称猜测是sql注入,但是常规方法都试过了没办法注入,当时也是很懵逼,后来一个 ...