问答 2023-06-29 来自:开发者社区

Flink CDC中做全量数据表同步时候,滑动窗口设置时长设置多大呢?5s可以么?4000w数据?

Flink CDC中做全量数据表同步时候,滑动窗口设置时长设置多大呢?5s可以么?4000w数据?

问答 2023-06-29 来自:开发者社区

Flink CDC这个后台系统是官方的?当前设置的窗口是10s,测试的同步40w数据平均耗时2分20

Flink CDC这个后台系统是官方的? 当前设置的窗口是10s,测试的同步40w数据平均耗时2分20秒,感觉有点太慢了 。。 es设置的每秒写入100mb数据或者每秒2w条数据,现在每一批提交的数据差不多在60mb的样子,40w是模拟的增量,真实数据在4600w的样子,都是往小了测,实际的话单日增量数据在100~300w之间,这个还只是模拟了单表的全量同步,没测多流join场景;以及反查数据库....

问答 2023-06-29 来自:开发者社区

我现在遇到的Flink CDC问题就是,不设置主键历史数据读取的不对,只有设置了主键才对?

我现在遇到的Flink CDC问题就是,不设置主键历史数据读取的不对,只有设置了主键才对oracle cdc 读取oracle的表,不设置主键,读取的历史数据会有问题吗?这个是使用Flinksql 才有的问题,使用dataStreamApi 不设置主键也是对的

问答 2023-06-29 来自:开发者社区

Flink CDC初始化全表的时候按照主键切分chunk,如果主键数据分布不均匀,不连续,这个可能?

问题1:Flink CDC初始化全表的时候按照主键切分chunk,如果主键数据分布不均匀,不连续,这个可能在某一段时间点数据量很小,这个有啥参数可以优化么。比如动态调整chunk size ? 问题2:2.3版本没有这两个参数么,之前加过 不过没有验证过是否生效

问答 2023-06-29 来自:开发者社区

Flink CDC中oracel读出来的数据 有没有方法直接能插入到另一个数据库啊,这样数据类型?

Flink CDC中oracel读出来的数据 有没有方法直接能插入到另一个数据库啊,这样数据类型转换 容易出错?

问答 2023-06-29 来自:开发者社区

有没有大佬有Flink CDC中oracle cdc的使用demo啊,官网的跑了读不了快照数据?只能

有没有大佬有Flink CDC中oracle cdc的使用demo啊,官网的跑了读不了快照数据?只能读增量数据

问答 2023-06-29 来自:开发者社区

Flink CDC中oracle cdc 设置这个属性不生效呢,不会读取历史数据。scan.?

Flink CDC中oracle cdc 设置这个属性不生效呢,不会读取历史数据。scan.startup.mode =inital?不加也没用,历史的数据也不读

问答 2023-06-29 来自:开发者社区

flink cdc initial 模式, source表数据量过大,导致checkpoint 一?

flink cdc initial 模式, source表数据量过大,导致checkpoint 一直 Checkpoint expired before completing. 有没有遇到过的大神指导一下如何优化呀?

问答 2023-06-29 来自:开发者社区

Flink CDC中 sql 使用oracle cdc 为什么拿不到数据啊?

Flink CDC中 sql 使用oracle cdc 为什么拿不到数据啊?

问答 2023-06-29 来自:开发者社区

向大佬们请教个Flink CDC问题,使用flink Postgresql cdc读取pg存量数据的

向大佬们请教个Flink CDC问题,使用flink Postgresql cdc读取pg存量数据的时候,从哪里可以看出来到底是使用了几个并行度在读取啊?我看flink web ui页面上source的并行度为1啊?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

实时计算 Flink

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

+关注
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等