【kafka】connect的timestamp模式无法同一秒插入多条记录问题解决
一、现在问题
同时插入多条时间戳相同的记录
INSERT INTO "ABANK" VALUES ('1', 'CH', '00211', 'UBS Switzerland AG', 'UBSWCHZH31A', ' ', TO_DATE('2015-06-13 00:00:00', 'SYYYY-MM-DD HH24:MI:SS'), TO_DATE('1599-12-31 00:00:00', 'SYYYY-MM-DD HH24:MI:SS'), TO_DATE('2017-07-12 00:00:00', 'SYYYY-MM-DD HH24:MI:SS'), 'ADMIN', TO_DATE('1599-12-31 00:00:00', 'SYYYY-MM-DD HH24:MI:SS'), 'ADMIN', TO_TIMESTAMP('2021-04-20 08:38:59.000', 'SYYYY-MM-DD HH24:MI:SS:FF3'), TO_TIMESTAMP('2021-04-20 08:39:59.000', 'SYYYY-MM-DD HH24:MI:SS:FF3'), HEXTORAW('0F6970309627DC499210DE76B46ACEF7'));
INSERT INTO "ABANK" VALUES ('1', 'CH', '00213', 'UBS Switzerland AG', 'UBSWCHZH94N', ' ', TO_DATE('2015-06-13 00:00:00', 'SYYYY-MM-DD HH24:MI:SS'), TO_DATE('1599-12-31 00:00:00', 'SYYYY-MM-DD HH24:MI:SS'), TO_DATE('2017-07-12 00:00:00', 'SYYYY-MM-DD HH24:MI:SS'), 'ADMIN', TO_DATE('1599-12-31 00:00:00', 'SYYYY-MM-DD HH24:MI:SS'), 'ADMIN', TO_TIMESTAMP('2021-04-20 08:38:59.000', 'SYYYY-MM-DD HH24:MI:SS:FF3'), TO_TIMESTAMP('2021-04-20 08:39:59.000', 'SYYYY-MM-DD HH24:MI:SS:FF3'), HEXTORAW('AAEA53BE96A18144BBC16D3016642122'));
源表中正常插入

topic只读到一条

二、解决-修改source配置
1、原来的connector内容
{
"connector.class": "io.confluent.connect.jdbc.JdbcSourceConnector",
"mode": "timestamp",
"timestamp.column.name": "UPDDATTIM_0",
"topic.prefix": "connector_topic_",
"connection.password": "system",
"connection.user": "system",
"db.timezone": "Asia/Shanghai",
"name": "source_connector_docker_oracle_ABANK",
"connection.url": "jdbc:oracle:thin:@//92.168.0.2:1521/helowin",
"table.whitelist": "TEST.ABANK"
}
2、现在的connector内容
{
"connector.class": "io.confluent.connect.jdbc.JdbcSourceConnector",
"timestamp.column.name": "UPDDATTIM_0",
"connection.password": "system",
"batch.max.rows": "1000",
"timestamp.delay.interval.ms": "500",
"table.poll.interval.ms": "10000",
"table.whitelist": "TEST.ABANK",
"mode": "timestamp",
"topic.prefix": "connector_topic_",
"connection.user": "system",
"db.timezone": "Asia/Shanghai",
"poll.interval.ms": "2000",
"name": "source_connector_docker_oracle_ABANK",
"connection.url": "jdbc:oracle:thin:@//172.16.5.162:1521/helowin"
}
三、验证
1、执行插入语句
INSERT INTO "ABANK" VALUES ('1', 'CH', '00251', 'UBS Switzerland AG', 'UBSWCHZH80H', ' ', TO_DATE('2015-06-13 00:00:00', 'SYYYY-MM-DD HH24:MI:SS'), TO_DATE('1599-12-31 00:00:00', 'SYYYY-MM-DD HH24:MI:SS'), TO_DATE('2017-07-12 00:00:00', 'SYYYY-MM-DD HH24:MI:SS'), 'ADMIN', TO_DATE('1599-12-31 00:00:00', 'SYYYY-MM-DD HH24:MI:SS'), 'ADMIN', TO_TIMESTAMP('2021-04-20 08:49:59.000', 'SYYYY-MM-DD HH24:MI:SS:FF3'), TO_TIMESTAMP('2021-04-20 08:49:59.000', 'SYYYY-MM-DD HH24:MI:SS:FF3'), HEXTORAW('2EA8FEBE29D9FA4CA0C89FBC7C217B0F'));
INSERT INTO "ABANK" VALUES ('1', 'CH', '00252', 'UBS Switzerland AG', 'UBSWCHZH94A', ' ', TO_DATE('2015-06-13 00:00:00', 'SYYYY-MM-DD HH24:MI:SS'), TO_DATE('1599-12-31 00:00:00', 'SYYYY-MM-DD HH24:MI:SS'), TO_DATE('2017-07-12 00:00:00', 'SYYYY-MM-DD HH24:MI:SS'), 'ADMIN', TO_DATE('1599-12-31 00:00:00', 'SYYYY-MM-DD HH24:MI:SS'), 'ADMIN', TO_TIMESTAMP('2021-04-20 08:49:59.000', 'SYYYY-MM-DD HH24:MI:SS:FF3'), TO_TIMESTAMP('2021-04-20 08:49:59.000', 'SYYYY-MM-DD HH24:MI:SS:FF3'), HEXTORAW('54825F81FFA4FB4EB60DF172BB739457'));
2、查看topic

3、查看目标表是否读到
(1)源表

(2)目标表

【kafka】connect的timestamp模式无法同一秒插入多条记录问题解决的更多相关文章
- 无废话Android之listview入门,自定义的数据适配器、采用layoutInflater打气筒创建一个view对象、常用数据适配器ArrayAdapter、SimpleAdapter、使用ContentProvider(内容提供者)共享数据、短信的备份、插入一条记录到系统短信应用(3)
1.listview入门,自定义的数据适配器 <RelativeLayout xmlns:android="http://schemas.android.com/apk/res/and ...
- AX 插入一条记录提示表记录已经存在,但是该记录实际上是不存在的。
做测试的时候遇到一个情况"AX 插入一条记录提示表记录已经存在,但是该记录实际上是不存在的." 检查到该表(TABLE_ABC)所有的key都是AllowDuplicate的, 继 ...
- 一次插入多条记录 [mysql]
调用多次INSERT语句不就可以插入多条记录了吗?但使用这种方法要增加服务器的负荷,因为,执行每一次SQL服务器都要同样对SQL进行分析.优化等操作.幸好MySQL提供了另一种解决方案,就是使用一条I ...
- sql 中实现往表中插入一条记录并返回当前记录的ID
写一条存储过程,实现往User中插入一条记录并返回当前UserId(自增长id) --推荐写法 if(Exists(select * from sys.objects where name=N'Usp ...
- SQLServer 触发器 同时插入多条记录有关问题
由于 SQL Server 的触发器, 没有 FOR EACH ROW (ORACL中有)的选项, 有时候不正确的使用 inserted 与deleted 可能会有点麻烦. 下面来一个简单的例子 -- ...
- ACCESS-delphi向中插入一条记录报错,但ACCESS不会
问题:在DELPHI中向ACCESS中插入一条记录时,提示“插入错误”,但是取出SQL直接放在ACCESS中插入成功?答:原因是插入语句中的字段名是DELPHI的内部标示符.
- 一条insert语句批量插入多条记录
一条insert语句批量插入多条记录 常见的insert语句,向数据库中,一条语句只能插入一条数据: insert into persons (id_p, lastname , firstName, ...
- mysql中插入多条记录-微软批处理
当向mysql中插入大量数据时,可以使用微软的批处理方式.这样可以防止内存溢出又提高了效率.我写了一个mysql中插入多条记录的例子.赋值代码可以直接使用. 1.首先需要添加两个dll MySql.D ...
- mySQL中插入多条记录
用一条INSERT向SQL中插入多条记录 2008-12-22 10:07:01| 分类: 记事本_编程技术|举报|字号 订阅 Sql 语法: 插入多行记录 Insert Into Tabl ...
- MySQL使用INSERT插入多条记录
MySQL使用INSERT插入多条记录,应该如何操作呢?下面就为您详细介绍MySQL使用INSERT插入多条记录的实现方法,供您参考. 看到这个标题也许大家会问,这有什么好说的,调用多次INSERT语 ...
随机推荐
- .Net 7内容汇总(2)--原始字符串
在C# 11里,添加了一个叫原始字符串的东西. 这个东西算是我相当喜欢以及期待的功能. 我们先来看看这玩意咋用. 首先,我们先来看看之前如果我们需要定义一个带引号的字符串我们需要怎么做. var a ...
- Django 测试脚本
一.测试脚本 Django 在创建项目时自动在应用下创建了tests.py,这个py文件可以作为测试文件:也可以在应用下手动创建一个py测试文件. 无论哪种方式,都需要提前书写以下代码. from d ...
- 在logstash中启动X-Pack Management功能后配置logstash的情况说明
开启X-Pack Management功能后,启动logstsh的时候就不用再配置logstash.conf文件了,启动的时候也不用再使用-f指定这个文件进行启动了 一旦启动了logstash的集中管 ...
- 11. 第十篇 网络组件flanneld安装及使用
文章转载自:https://mp.weixin.qq.com/s?__biz=MzI1MDgwNzQ1MQ==&mid=2247483834&idx=1&sn=b04ec193 ...
- 使用Jumpserver堡垒机管理MySQL应用
第一步,添加系统用户 资产管理,系统用户,创建<数据库协议>MySQL 用户名和密码填写实际可以访问数据库的用户名和密码 第二步,添加应用 应用管理,数据库 主机和端口填写可以访问数据库的 ...
- Pod的dns记录怎么组成的
Pod的dns记录怎么组成的 <Pod Name>.<service name>.<namespace name>.svc.cluster.local Pod的Na ...
- QML 信号与响应方法的总结
以下内容为本人的著作,如需要转载,请声明原文链接微信公众号「englyf」https://www.cnblogs.com/englyf/p/16748191.html 如果面试过程中,面试官想了解你对 ...
- 非Navicat破解延长14天试用时间
延长Navicat使用时长 Navicat作为一套多连接数据库开发工具,十分好用,购买正版太过昂贵,破解版过于麻烦,有时候还会有安全问题,好在我们有14天的试用时间,我们可以从这个方面入手 对于有能力 ...
- Node.js躬行记(24)——低代码
低代码开发平台(LCDP)是无需编码(0代码)或通过少量代码就可以快速生成应用程序的开发平台.让具有不同经验水平的开发人员可以通过图形化的用户界面,通过拖拽组件和模型驱动的逻辑来创建网页和移动应用程序 ...
- Typora设置代码块Mac风格三个圆点
写作不停,美化不止! mac小圆点效果 原本代码块样式就挺....干净的,光秃秃的,太单调了: 是吧很丑,于是自己发挥改成了这样: 好吧还是太单调,也没好看到哪里去,于是隔了两天又重新改,DuangD ...