当前许多企业的业务系统甚至是SAAS系统只能提供WebService接口,如SAP、Workday等。

如何才能将众多的WebService接口同步到本地或数据中心呢?

传统的做法是通过编写代码实现,该做法不仅开发效率低而且维护困难,任何接口的变更都需要重新修改代码。如果有一种能简单、高效地轻松解决该问题的工具,这应该是所有数据集成开发工程师的共同需求。

RestCloud ETL正是一款这样的工具,以下分享如何使用RestCloud ETL工具无需编码,只需简单两步即轻松完成WebService数据同步方法。

 

一、实现原理

RestCloud ETL提供100+的数据组件,这里我们只需要使用其中2个组件:WebService调用组件,表输出组件即可轻松实现WebService的数据同步

实现原理如下图:

WebService调用组件完成WebService接口接入、XML数据解析、数据格式;表输出组件完成格式后的数据加载到数据库中,表输出组件支持几十种数据源。

二、实现过程

2.1、登录RestCloud ETL平台

进入集成开发应用开发页面

创建一个WebService数据同步任务

2.2、WebService数据同步流程设计

2.2.1 流程设计

在流程设计页面,拖拽出两个组件:

2.2.2配置组件信息:

1、配置WebService

WebService配置项中在输入WebService接口URL:

这里我们将获取公网上的一个WebService接口服务地址如下:http://ws.webxml.com.cn/WebServices/WeatherWS.asmx

注意这个WebService有好几个方法我们需要在节点的Header中SOAPAction中指定具体调用其中的那一个方法。

我们调用他其中的一个方法获取区域以及编码数据然后传到mysql中进行存储。

使用ETL调用WebService接口实时拉取数据到本地数库中

输入参数的XML可以使用SoapUI工具进行解析然后复制进来即可,这样我们的WebService节点就配置完成了。

后面的MySql节点就比较容易了,可以提前先建好表,也可以由ETL任务自动创建表,我们这里选择由ETL工具自动建表并输出数据到mysql。

2、配置表输出信息

这里输入一张不存在的表即可,系统会自动创建这张表

然后配置这张表要接收数据的字段,系统将根据此配置字段进行数据库表的创建。

输出选项中我们选择第一次执行时清空目标表,自动建表,逐条更新即可,配置完成后保存流程,即可以开始调试运行,现在我们来运行一下看看效果。

2.3 运行调试

点击运行,选择单步调试,可以看到拉取的区域数据,并会存入到mysql中

在调试界面中我们可以看到拉取到了79条数据,再点下一步即可存入到mysql

任务运行结果显示成功79条数据到mysql中,我们可以去mysql表中预览一下是不是把区域数据拉到mysql中了。

使用ETL调用WebService接口实时拉取数据到本地数库中

打开mysql客户端可以看到WebSerivce中的数据已经成功拉取到本地mysql中了,如果调试没有问题我们就可以给他安排一个定时任务,定时同步webservice中的数据到本地即可。

使用ETL调用WebService接口实时拉取数据到本地数库中

可以选择每天晚上同步一次或其他同步时间可以自定义同步频率

上面我们就通过RestCloud ETL简单两步配置即实现了WebService接口的数据拉取同步任务,可以说是非常简单。

三、RestCloud ETL数据集成自动化

RestCloud ETL社区版是一款数据集成工具,提供可视化多数据管道构建、数据源管理、运行监控及权限管理功能。RestCloud作为一家数据集成自动化创新企业,我们致力于成为世界级的数据集成平台,我们将为此不懈努力,不断前行。

感谢您对我们的关注和支持!如需了解更多的产品相关信息
请加入RestCloud ETL社区免费下载体验,下载地址:https://etl.restcloud.cn

使用RestCloud ETL轻松解决WebService数据同步的更多相关文章

  1. Kettle ETL 来进行mysql 数据同步——试验环境搭建(表中无索引,无约束,无外键连接的情况)

    今天试验了如何在Kettle的图形界面(Spoon)下面来整合来mysql 数据库中位于不同数据库中的数据表中的数据. 试验用的数据表是customers: 第三方的数据集下载地址是:http://w ...

  2. 《华油能源OA系统数据同步和扩展的设计与实现_张宇峰》阅读笔记

    为什么我会找到这篇论文? 华油能源集团拥有多套信息化软件系统,每个用户需要登录操作多个软件系统,记住多个系统的用户名.密码,需要不停的切换到每个系统,查看是否有需要进行的工作:管理员更是疲于每天对各个 ...

  3. Nunchuck.js - 轻松实现多个设备的数据同步

    Nunchuck.js 是对用于移动设备上的浏览器应用程序的控制库,通过浏览器轻松实现多设备数据同步.他们提供了一个库,很容易使开发人员能够整合移动浏览器控件到桌面的基于浏览器的 JavaScript ...

  4. java——多线程的实现方式、三种办法解决线程赛跑、多线程数据同步(synchronized)、死锁

    多线程的实现方式:demo1.demo2 demo1:继承Thread类,重写run()方法 package thread_test; public class ThreadDemo1 extends ...

  5. 做ETL的时候用到的数据同步更新代码

    这里是用的从一个库同步到另一个库,代码如下 private void IncrementalSyncUpdate(string fromConn, string toConn, Dictionary& ...

  6. 比Sqoop功能更加强大开源数据同步工具DataX实战

    @ 目录 概述 定义 与Sqoop对比 框架设计 支持插件 核心架构 核心优势 部署 基础环境 安装 从stream读取数据并打印到控制台 读取MySQL写入HDFS 读取HDFS写入MySQL 执行 ...

  7. Oracle和Elasticsearch数据同步

    Python编写Oracle和Elasticsearch数据同步脚本 标签: elasticsearchoraclecx_Oraclepython数据同步    Python知识库 一.版本 Pyth ...

  8. 美团DB数据同步到数据仓库的架构与实践

    背景 在数据仓库建模中,未经任何加工处理的原始业务层数据,我们称之为ODS(Operational Data Store)数据.在互联网企业中,常见的ODS数据有业务日志数据(Log)和业务DB数据( ...

  9. redis和mySql的数据同步的解析

    1.同步MySQL数据到Redis (1) 在redis数据库设置缓存时间,当该条数据缓存时间过期之后自动释放,去数据库进行重新查询,但这样的话,我们放在缓存中的数据对数据的一致性要求不是很高才能放入 ...

  10. DB 数据同步到数据仓库的架构与实践

    背景 在数据仓库建模中,未经任何加工处理的原始业务层数据,我们称之为ODS(Operational Data Store)数据.在互联网企业中,常见的ODS数据有业务日志数据(Log)和业务DB数据( ...

随机推荐

  1. MySQL之profiling性能优化

    如果需要优化一条SQL,想了解一条sql的每个阶段的耗时分布,则可以使用profiling来进行分析,能很方便的定位在哪个阶段.什么资源引起的性能问题. 一.开启profiling参数 此参数默认是关 ...

  2. 最新最完整的iphone开发ios开发证书/发布证书/推送证书/企业证书和描述文件制作方法与教程

    本文介绍最新的最全的如何制作 iOS 证书(开发证书.发布证书.推送证书,企业证书)和iphone配置描述文件,用于iphone和ipad开发构建 IOS App 应用.如果嫌麻烦,可以使用懒人工具a ...

  3. C# 使用StackExchange.Redis实现分布式锁的两种方式

    分布式锁在集群的架构中发挥着重要的作用.以下有主要的使用场景 1.在秒杀.抢购等高并发场景下,多个用户同时下单同一商品,可能导致库存超卖. 2.支付.转账等金融操作需保证同一账户的资金变动是串行执行的 ...

  4. Java编程--简单的Proxy程序(代理设计模式)

    有时候对象要完成某项任务(功能)需要很多步骤,而这些步骤全部交给对象自己完成显然是不现实的,就像我们人要吃饭,你总不能要求我们每个人都去种地.打面.做饭一样,我们只需要完成其中的吃饭这一核心操作就可以 ...

  5. 工具 | Hashcat

    0x00 简介 Hashcat是一款强大的密码破解工具. 下载地址 Hashcat下载: Hashcat下载 0x01 功能说明 直接破解 组合攻击 掩码暴力破解 混合攻击 联合攻击 注:仅供安全研究 ...

  6. K8s新手系列之Label标签和Label选择器

    概述 官网:https://kubernetes.io/zh-cn/docs/concepts/overview/working-with-objects/labels/ 在K8s中,Label(标签 ...

  7. 代码随想录第十天 | Leecode 232. 用栈实现队列、Leecode 225. 用队列实现栈、 Leecode 20. 有效的括号、Leecode 1047. 删除字符串中的所有相邻重复项

    Leecode 232. 用栈实现队列 题目链接:https://leetcode.cn/problems/implement-queue-using-stacks/submissions/ 题目描述 ...

  8. C#网络编程(三)----HTTP协议

    HTTP协议 HTTP(超文本传输协议),属于应用层协议.基于TCP连接实现.但通信方向始终由客户端发起(HTTP/2之后已修改). 维度 TCP/IP协议族(传输层/TCP) HTTP协议(应用层) ...

  9. K8s进阶之MetalLB实现LoadBalancer

    概述 LoadBalancer官网文档:https://kubernetes.io/zh-cn/docs/concepts/services-networking/service/#loadbalan ...

  10. 自荐:开源截图工具ScreenCapture:超多控制指令,支持截长图

    特性 跨屏幕截图.滚动截图(截长图).高分屏支持.窗口区域高亮. 取景框,快捷键复制 RGB 颜色(Ctrl+R). HEX 颜色(Ctrl+H)与 CMYK 颜色(Ctrl+K). 绘制填充.非填充 ...