首页 > 数据库技术 > 详细

解决streamsets jdbc全量模式数据重复问题

时间:2020-07-29 02:03:32      阅读:199      评论:0      收藏:0      [点我收藏+]

原文链接:

https://anjia0532.github.io/2019/07/22/sdc-jdbc-full-mode/

实际上在官方文档有讲 Full and Incremental Mode
技术分享图片

 

 

主要看提示(Tip)部分,如果只想执行一次查询后就停止 pipeline,应该配置 origin 的 generate events 并且使用 Pipeline Finisher 来自动停止 pipeline,更多信息参见 Event Generation.

在 jdbc origin 勾选 Produce Events

技术分享图片

 

 


从组件选则 Pipeline Finisher,并且配置 Preconditions 为 ${record:eventType() == ‘no-more-data‘} 即可

技术分享图片

 

 技术分享图片

 

 

 

参考资料

解决streamsets jdbc全量模式数据重复问题

原文:https://www.cnblogs.com/cbugs/p/13394708.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!