问答 2023-10-18 来自:开发者社区

Flink CDC mongo每次启动都是获取的全量数据,能帮忙看下么?

Flink CDC这边分别测试mongo-cdc和postgres-cdc从固定保存的某个checkpointing重启执行,比如第一次消费完某个表的数据,第二次启动理论上应该拿不到数据,测试情况:postgres运行正常,符合预期,但是mongo每次启动都是获取的全量数据,能帮忙看下么?代码几乎一样,上边的是pg下边的是mongoDebeziumDeserializationSchema de....

文章 2023-10-18 来自:开发者社区

Flink CDC 开启事物精准一致之后也会有存在丢数据的情况

即使启用了Flink CDC的事务精准一致模式,也可能会出现数据丢失的情况。这是因为Flink CDC在处理数据时,可能会出现数据传输延迟、网络中断等问题,导致数据丢失。此外,如果在数据处理过程中出现了系统故障、程序错误等问题,也可能导致数据丢失。为了避免数据丢失,可以采取以下措施: 使用Flink...

问答 2023-10-18 来自:开发者社区

Flink CDC这启动没报错但是 数据没同步过去,不能这种写sql吗?

Flink CDC这启动没报错但是 数据没同步过去,不能这种写sql吗?写道es啊,从mysql同步到es,我是两个表合并到一个索引下

问答 2023-10-18 来自:开发者社区

Flink CDC如果只是生产者开启了,消费者没开启。这样会导致数据的丢失吗?

Flink CDC就是生产者和消费者都开始事务,是肯定不会丢数据的对嘛,如果只是生产者开启了,消费者没开启。这样会导致数据的丢失吗?

问答 2023-10-18 来自:开发者社区

单机模式下,有没有办法可以通过flink CDC实时获取到mongodb的数据和变化呢 ?

单机模式下,有没有办法可以通过flink CDC实时获取到mongodb的数据和变化呢 ?单机版有其他方案可以解决吗?

问答 2023-10-18 来自:开发者社区

Flink CDC消费者所消费的数据会重复或者丢失嘛?

Flink CDC如果用 transactional producer 写入kafka中的一个topic,然后用非transactional consumer消费该topic,若生产者挂了,消费者所消费的数据会重复或者丢失嘛?

问答 2023-10-18 来自:开发者社区

Flink CDC是不是只能读取mongodb集群的数据,单机实例不能读取吗 ?

Flink CDC是不是只能读取mongodb集群的数据,单机实例不能读取吗 ?

问答 2023-10-16 来自:开发者社区

flink cdc全量切换为增量之后删除的数据无法同步。但是更新过后又可以删除。

在使用dinky+flink cdc+hudi,实现数据入湖的过程中发现一个这样的问题,在同步完全量数据之后,将'scan.startup.mode' = 'latest-offset'这个参数切换为initial之后,对源表中的数据删除,flink cdc不能同步删除掉的数据。但是更新一下这个数据就可以删除了,新增数据也可以同步。这是为什么呢

问答 2023-10-10 来自:开发者社区

flink cdc输出到kafka后,在更新数据或者删除数据的时候,flink内部的执行过程是什么?

flink cdc输出到kafka后,用kafka流数据去关联 look up的维表,然后根据kafka流数据中status字段进行count聚合。在更新数据或者删除数据的时候,flink内部的执行过程是什么啊?现在我这边结果很奇怪,例如A商品的某订单状态由1变成2,理论上聚合数据应该是状态1的数据-1,状态2的数据+1。但是核实下来哪怕实际A商品的订单中已经没有状态为1的商品订单了。仍然回保留....

问答 2023-10-10 来自:开发者社区

Flink CDC 启动后要好久才有数据,而且延迟虽然时间增长越来越大,咋解决 求帮助?

Flink CDC oracle cdc2.3升级到2.4版本,启动后要好久才有数据,而且延迟虽然时间增长越来越大,咋解决 求帮助?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

实时计算 Flink

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

+关注