问答 2023-12-25 来自:开发者社区

Flink CDC中有没有人遇到过解析binlog 顺序的问题?

在Flink CDC中,有人遇到过解析binlog的顺序问题吗?数据库的binlog顺序是先删除后新增,但CDC解析出来的顺序却是先新增后删除。使用Flink SQL读取MySQL的binlog再写入到Kafka时,不论是在CDC版本2.2.1还是2.4.2,以及Flink版本1.15上都出现了这个问题。就算将Flink的并行度设为1,这个问题仍然偶尔发生,且不是必然出现,另外在GitHub上也....

问答 2023-12-25 来自:开发者社区

Flink CDC这个意思是全量阶段也会进行binlog消费吧?

Flink CDC这个意思是全量阶段也会进行binlog消费吧?

问答 2023-12-25 来自:开发者社区

Flink CDC全量结束还是会 按照之前的binlog位点进行消费 而不是进行合并输出?

Flink CDC全量结束还是会 按照之前的binlog位点进行消费 而不是进行合并输出?那是不是其他表的binlog也会被阻塞消费呀?

问答 2023-12-25 来自:开发者社区

Flink CDC如果有很多binlog,为什么配置上这个,脚本都不同步数据了?

Flink CDC如果有很多binlog,最后指定最近的一个timestamp ,它要从头过滤掉历史Binlog,直到指定的timestamp 才开始同步,我就说,为什么配置上这个,脚本都不同步数据了?

问答 2023-12-25 来自:开发者社区

Flink CDC全量历史数据比较多,全量同步阶段时间长 会同时读取binlog进行合并输出吧?

Flink CDC全量历史数据比较多,全量同步阶段时间长 会同时读取binlog进行合并输出吧,比如新增一张表全量同步耗时三个小时,binlog文件只保留近一个小时的,会影响全量到增量的衔接么,会阻塞其它表的binlog采集么?

问答 2023-12-24 来自:开发者社区

Flink CDC我指定从mysql-bin.000268的binlog开始同步,为什么还会读?

Flink CDC中mysql-bin.000267是变更了a字段,但我是停掉同步任务的时候做的变更呢,这个时候sink是没变的,然后我指定从mysql-bin.000268的binlog开始同步,为什么还会读mysql-bin.000267?

问答 2023-12-24 来自:开发者社区

Flink CDC这个参数是指从现在数据库里存在的,最早的一个binlog开始读 是吗?

Flink CDC这个参数是指从现在数据库里存在的,最早的一个binlog开始读 是吗?

问答 2023-12-24 来自:开发者社区

Flink CDC业务库 只保留近一个小时的binlog超时间的归档到oss 有啥好的解决方法么?

Flink CDC业务库 只保留近一个小时的binlog 超时间的归档到oss 有啥好的解决方法么 cdc有没有接口能读取oss的binlog?

问答 2023-12-24 来自:开发者社区

Flink CDC为啥会出现程序正常运行,然后消费binlog不动了的情况?

Flink CDC为啥会出现程序正常运行,然后消费binlog不动了的情况?

问答 2023-12-24 来自:开发者社区

Flink CDC有什么办法能实现新加的表从最新binlog开始消费吗?

Flink CDC有什么办法能实现新加的表从最新binlog开始消费吗?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云实时计算Flink

一套基于Apache Flink构建的一站式、高性能实时大数据处理平台,广泛适用于流式数据处理、离线数据处理、DataLake计算等场景。

+关注