问答 2024-04-22 来自:开发者社区

flink cdc2.3版本全量数据读取阿里云rds数据库,怎么减少全量读取的过程中数据库的压力呀?

flink cdc2.3版本全量数据读取阿里云rds数据库,怎么减少全量读取的过程中数据库的压力呀?先读完全量再读取增量,压力很大读增量的话,之前的历史数据就没了,表都是有主键的,不会造成读取过程中数据库实例的iops和内存有较大的波动吧?

问答 2024-04-15 来自:开发者社区

flink cdc 怎么程序化初始化时候一次拿全量mysql单表数据,启动之后使用binlog监控?

flink cdc 怎么程序化初始化的时候一次拿全量mysql单表数据,启动之后使用binlog监控?每次程序启动,以前未消费的数据,广播数据都还没全到底,就把用户数据消费了,导致了漏数据.

问答 2024-04-15 来自:开发者社区

Flink CDC里最近遇到一些表无法先全量再增量同步,具体表现就是启动任务后,一直没数据怎么办?

Flink CDC里最近遇到一些表无法先全量再增量同步,具体表现就是启动任务后,一直没数据,目前像这种表,我只能新启动个cdc任务从最新的binglog开始做数据同步,表的历史数据用离线补,有没有大佬知道是什么原因?

问答 2024-04-10 来自:开发者社区

Flink这个参数是拉取binlog还是拉取全量阶段的snapshot数据?

debezium.max.batch.size,Flink这个参数是拉取binlog还是拉取全量阶段的snapshot数据?

问答 2024-03-25 来自:开发者社区

.Flink cdc任务在同步过程中 新增同步表后选择全量初始化历史数据,初始化什么时候开始?

Flink cdc任务在同步过程中新增同步表后选择全量初始化历史数据,会阻塞原先其余表的增量同步么?

问答 2024-03-25 来自:开发者社区

Flink CDC里新增表同步历史全量数据的时候,会阻塞之前表的增量同步么?

Flink CDC里新增表同步历史全量数据的时候,会阻塞之前表的增量同步么?

问答 2024-03-25 来自:开发者社区

Flink CDC里oraclecdc的时候,为啥我的全量50w条数据比增量50w条数据慢很多?

Flink CDC里oraclecdc的时候,我发现我的全量50w条数据比增量50w条数据慢很多,大佬们知道是缺少什么配置还是其他的问题吗?

问答 2024-03-20 来自:开发者社区

Flink 想全量同步,但是历史数据只同步过来最后一条,请问一下什么原因导致的呀?

Flink CDC 中scan.startup.mode设置了initial,想全量同步,但是历史数据只同步过来最后一条,请问一下什么原因导致的呀?源库与目标库都是oracle

问答 2024-03-19 来自:开发者社区

Flink CDC 里新加的表,从sp重启后,全量同步一会,就不同步了,数据条数一直不变为什么?

Flink CDC 里新加的表,从sp重启后,全量同步一会,就不同步了,数据条数一直不变为什么?scanNewlyAddedTableEnabled(true)

问答 2024-03-11 来自:开发者社区

Flink CDC 里我在代码中是这样写的,为什么还是将全量数据读取了?

/配置读取位置/properties.setProperty("scan.incremental.snapshot.enabled","true");properties.setProperty("scan.startup.mode","latest-offset"); // latest-offset initialFlink CDC 里我在代码中是这样写的,为什么还是将全量数据读取了?ini....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云实时计算Flink

一套基于Apache Flink构建的一站式、高性能实时大数据处理平台,广泛适用于流式数据处理、离线数据处理、DataLake计算等场景。

+关注