【kafka】connect的timestamp模式无法同一秒插入多条记录问题解决
一、现在问题
同时插入多条时间戳相同的记录
INSERT INTO "ABANK" VALUES ('1', 'CH', '00211', 'UBS Switzerland AG', 'UBSWCHZH31A', ' ', TO_DATE('2015-06-13 00:00:00', 'SYYYY-MM-DD HH24:MI:SS'), TO_DATE('1599-12-31 00:00:00', 'SYYYY-MM-DD HH24:MI:SS'), TO_DATE('2017-07-12 00:00:00', 'SYYYY-MM-DD HH24:MI:SS'), 'ADMIN', TO_DATE('1599-12-31 00:00:00', 'SYYYY-MM-DD HH24:MI:SS'), 'ADMIN', TO_TIMESTAMP('2021-04-20 08:38:59.000', 'SYYYY-MM-DD HH24:MI:SS:FF3'), TO_TIMESTAMP('2021-04-20 08:39:59.000', 'SYYYY-MM-DD HH24:MI:SS:FF3'), HEXTORAW('0F6970309627DC499210DE76B46ACEF7'));
INSERT INTO "ABANK" VALUES ('1', 'CH', '00213', 'UBS Switzerland AG', 'UBSWCHZH94N', ' ', TO_DATE('2015-06-13 00:00:00', 'SYYYY-MM-DD HH24:MI:SS'), TO_DATE('1599-12-31 00:00:00', 'SYYYY-MM-DD HH24:MI:SS'), TO_DATE('2017-07-12 00:00:00', 'SYYYY-MM-DD HH24:MI:SS'), 'ADMIN', TO_DATE('1599-12-31 00:00:00', 'SYYYY-MM-DD HH24:MI:SS'), 'ADMIN', TO_TIMESTAMP('2021-04-20 08:38:59.000', 'SYYYY-MM-DD HH24:MI:SS:FF3'), TO_TIMESTAMP('2021-04-20 08:39:59.000', 'SYYYY-MM-DD HH24:MI:SS:FF3'), HEXTORAW('AAEA53BE96A18144BBC16D3016642122'));
源表中正常插入

topic只读到一条

二、解决-修改source配置
1、原来的connector内容
{
"connector.class": "io.confluent.connect.jdbc.JdbcSourceConnector",
"mode": "timestamp",
"timestamp.column.name": "UPDDATTIM_0",
"topic.prefix": "connector_topic_",
"connection.password": "system",
"connection.user": "system",
"db.timezone": "Asia/Shanghai",
"name": "source_connector_docker_oracle_ABANK",
"connection.url": "jdbc:oracle:thin:@//92.168.0.2:1521/helowin",
"table.whitelist": "TEST.ABANK"
}
2、现在的connector内容
{
"connector.class": "io.confluent.connect.jdbc.JdbcSourceConnector",
"timestamp.column.name": "UPDDATTIM_0",
"connection.password": "system",
"batch.max.rows": "1000",
"timestamp.delay.interval.ms": "500",
"table.poll.interval.ms": "10000",
"table.whitelist": "TEST.ABANK",
"mode": "timestamp",
"topic.prefix": "connector_topic_",
"connection.user": "system",
"db.timezone": "Asia/Shanghai",
"poll.interval.ms": "2000",
"name": "source_connector_docker_oracle_ABANK",
"connection.url": "jdbc:oracle:thin:@//172.16.5.162:1521/helowin"
}
三、验证
1、执行插入语句
INSERT INTO "ABANK" VALUES ('1', 'CH', '00251', 'UBS Switzerland AG', 'UBSWCHZH80H', ' ', TO_DATE('2015-06-13 00:00:00', 'SYYYY-MM-DD HH24:MI:SS'), TO_DATE('1599-12-31 00:00:00', 'SYYYY-MM-DD HH24:MI:SS'), TO_DATE('2017-07-12 00:00:00', 'SYYYY-MM-DD HH24:MI:SS'), 'ADMIN', TO_DATE('1599-12-31 00:00:00', 'SYYYY-MM-DD HH24:MI:SS'), 'ADMIN', TO_TIMESTAMP('2021-04-20 08:49:59.000', 'SYYYY-MM-DD HH24:MI:SS:FF3'), TO_TIMESTAMP('2021-04-20 08:49:59.000', 'SYYYY-MM-DD HH24:MI:SS:FF3'), HEXTORAW('2EA8FEBE29D9FA4CA0C89FBC7C217B0F'));
INSERT INTO "ABANK" VALUES ('1', 'CH', '00252', 'UBS Switzerland AG', 'UBSWCHZH94A', ' ', TO_DATE('2015-06-13 00:00:00', 'SYYYY-MM-DD HH24:MI:SS'), TO_DATE('1599-12-31 00:00:00', 'SYYYY-MM-DD HH24:MI:SS'), TO_DATE('2017-07-12 00:00:00', 'SYYYY-MM-DD HH24:MI:SS'), 'ADMIN', TO_DATE('1599-12-31 00:00:00', 'SYYYY-MM-DD HH24:MI:SS'), 'ADMIN', TO_TIMESTAMP('2021-04-20 08:49:59.000', 'SYYYY-MM-DD HH24:MI:SS:FF3'), TO_TIMESTAMP('2021-04-20 08:49:59.000', 'SYYYY-MM-DD HH24:MI:SS:FF3'), HEXTORAW('54825F81FFA4FB4EB60DF172BB739457'));
2、查看topic

3、查看目标表是否读到
(1)源表

(2)目标表

【kafka】connect的timestamp模式无法同一秒插入多条记录问题解决的更多相关文章
- 无废话Android之listview入门,自定义的数据适配器、采用layoutInflater打气筒创建一个view对象、常用数据适配器ArrayAdapter、SimpleAdapter、使用ContentProvider(内容提供者)共享数据、短信的备份、插入一条记录到系统短信应用(3)
1.listview入门,自定义的数据适配器 <RelativeLayout xmlns:android="http://schemas.android.com/apk/res/and ...
- AX 插入一条记录提示表记录已经存在,但是该记录实际上是不存在的。
做测试的时候遇到一个情况"AX 插入一条记录提示表记录已经存在,但是该记录实际上是不存在的." 检查到该表(TABLE_ABC)所有的key都是AllowDuplicate的, 继 ...
- 一次插入多条记录 [mysql]
调用多次INSERT语句不就可以插入多条记录了吗?但使用这种方法要增加服务器的负荷,因为,执行每一次SQL服务器都要同样对SQL进行分析.优化等操作.幸好MySQL提供了另一种解决方案,就是使用一条I ...
- sql 中实现往表中插入一条记录并返回当前记录的ID
写一条存储过程,实现往User中插入一条记录并返回当前UserId(自增长id) --推荐写法 if(Exists(select * from sys.objects where name=N'Usp ...
- SQLServer 触发器 同时插入多条记录有关问题
由于 SQL Server 的触发器, 没有 FOR EACH ROW (ORACL中有)的选项, 有时候不正确的使用 inserted 与deleted 可能会有点麻烦. 下面来一个简单的例子 -- ...
- ACCESS-delphi向中插入一条记录报错,但ACCESS不会
问题:在DELPHI中向ACCESS中插入一条记录时,提示“插入错误”,但是取出SQL直接放在ACCESS中插入成功?答:原因是插入语句中的字段名是DELPHI的内部标示符.
- 一条insert语句批量插入多条记录
一条insert语句批量插入多条记录 常见的insert语句,向数据库中,一条语句只能插入一条数据: insert into persons (id_p, lastname , firstName, ...
- mysql中插入多条记录-微软批处理
当向mysql中插入大量数据时,可以使用微软的批处理方式.这样可以防止内存溢出又提高了效率.我写了一个mysql中插入多条记录的例子.赋值代码可以直接使用. 1.首先需要添加两个dll MySql.D ...
- mySQL中插入多条记录
用一条INSERT向SQL中插入多条记录 2008-12-22 10:07:01| 分类: 记事本_编程技术|举报|字号 订阅 Sql 语法: 插入多行记录 Insert Into Tabl ...
- MySQL使用INSERT插入多条记录
MySQL使用INSERT插入多条记录,应该如何操作呢?下面就为您详细介绍MySQL使用INSERT插入多条记录的实现方法,供您参考. 看到这个标题也许大家会问,这有什么好说的,调用多次INSERT语 ...
随机推荐
- 谷歌MapReduce经典论文翻译(中英对照)
MapReduce: Simplified Data Processing on Large Clusters(MapReduce: 简化大型集群下的数据处理) 作者:Jeffrey Dean and ...
- 7.云原生之Docker容器Dockerfile镜像构建浅析与实践
转载自:https://www.bilibili.com/read/cv15220707/?from=readlist Dockerfile 镜像构建浅析与实践 描述:Dockerfile是一个文本格 ...
- CMD和Entrypoint命令使用变量的用法
CMD 支持三种格式 CMD ["executable","param1","param2"] 使用 exec 执行,推荐方式: CMD c ...
- 使用kuboard界面配置springcloud的其中一个模块设置环境变量,使用nacos配置地址等有关设置
总结: 工作负载类型是StatefulSet的pod,不论其上层的service是nodeport还是Headless, 对外提供的地址格式是: <pod name>.<servic ...
- electron 基础
electron 基础 前文我们快速的用了一下 electron.本篇将进一步介绍其基础知识点,例如:生命周期.主进程和渲染进程通信.contextBridge.预加载(禁用node集成).优雅的显示 ...
- Python(一)转义字符及操作符
转义字符 描述 \(在行尾时) 续航符 \\ 反斜杠符号 \' 单引号 \'' 双引号 \a 响铃 \b 退格(Backspace) \e 转义 \000 空 \n 转行 \v 纵向制表符 \t 横向 ...
- InnoDB关于事务、锁、MVCC专题
目录 并发所带来的的问题 脏写 脏读 不可重复读 幻读 事务 事务的特性 事务的四种隔离级别 锁 为什么要加锁 InnoDB的七种锁 不同事务RR和RC下加锁的规则 MVCC mvcc进一步提高并发 ...
- 源码随想 String -> SoftReference
源码随想 String -> SoftReference 2021年7月27日 15:38:14 今天实习时看 String的源码,发现其中的一个构造方法 public String(byte ...
- windows下利用_popen,_wpoen创建管道进行系统命令输出数据
转载: https://blog.csdn.net/greless/article/details/72383762 参考: http://www.linuxidc.com/Linux/2011-04 ...
- 微信DAT文件转JPG图片(图片恢复)
微信电脑版现在已经是日常工作生活必不可少的工具,有时候删除了聊天记录或者被系统清理软件清理了,但还想查看曾经的微信聊天图片. 这个时候辛辛苦苦找到了文件,却发现无法查看,因为微信电脑版为了保护我们的隐 ...