问答 2023-07-31 来自:开发者社区

各位大佬,求教Flink CDC中flink-sql mysql的问题,同步数据非常慢,消费模式用?

各位大佬,求教Flink CDC中flink-sql mysql的问题,同步数据非常慢,消费模式用的 timestamp,发送的记录数 与 sql count()的差异也很大?

问答 2023-07-31 来自:开发者社区

刚才解决一个Flink CDC生产问题,当mysql cdc产生的快照500m的时候, job ?

刚才解决一个Flink CDC生产问题,当mysql cdc产生的快照500m的时候, job manager 分配的 4gb的堆也没法运行了,然后我加到6gb的时候 就可以运行了,这个快照文件和快照在内存里的实际占用的确有点大?

高性能

基于 Flink CDC 打造企业级实时数据同步方案

传统的数据集成通常由全量和增量同步两套系统构成,在全量同步完成后,还需要进一步将增量表和全量表进行合并操作,这种架构的组件构成较为复杂,系统维护困难。本方案提供 Flink CDC 技术实现了统一的增量和全量数据的实时集成。
技术解决方案背景图
问答 2023-07-26 来自:开发者社区

Flink CDC中mysql-cdc隔一段时间我消费一次数据,发现就会相比之前少一些,这可能是什么

Flink CDC中mysql-cdc的从指定时间戳(在binlog有效期之内)启动,指定的时间戳不变,但是隔一段时间我消费一次数据,发现就会相比之前少一些,这可能是什么原因?

问答 2023-07-26 来自:开发者社区

Flink CDC中mysql-cdc从时间戳启动,发现本地IDEA测试不行,什么原因?

Flink CDC中mysql-cdc从时间戳启动,发现本地IDEA测试不行,但是集群测试,是有数据出来,但是数据有问题呢。昨天插入了两条数据,时间戳设置为之前的,只有昨天插入的两条数据进来。今天测试了下,只有昨天插入的最后一条数据出来,是啥情况?我看binlog的失效时间是1个月的。

问答 2023-07-26 来自:开发者社区

Flink CDC中mysql cdc和debezium自己编译有啥注意事项吗?

Flink CDC中mysql cdc和debezium自己编译有啥注意事项吗,我自己编译完,任务能正常运行,但是就是不读数,无论全量还是增量,测试用例以前用2.2.1是完全OK的。用的最新的2.4版本。

问答 2023-07-26 来自:开发者社区

Flink CDC中我的场景是同步Mysql数据到es中,应该怎样写才可以插入一组数据?

Flink CDC中我的场景是同步Mysql数据到es中,es索引对应的类型是一个数组,我在flink sql中创建了对应的类型 regions ARRAY>, 那insert into到 es_index应该怎样写才可以插入一组数据,我使用insert into es_index select ROW(regionId, regionName) AS regions from ... 只能...

问答 2023-07-26 来自:开发者社区

Flink CDC中mysql cdc connector 不会也有连接泄露吧?

Flink CDC中mysql cdc connector 不会也有连接泄露吧?在sql client上取消任务后,连接还在啊。

问答 2023-07-26 来自:开发者社区

"Flink CDC中这个报错有遇到过吗?读取MySQL的数据和Kafka有什么关系?

"Flink CDC中这个报错有遇到过吗?读取MySQL的数据和Kafka有什么关系?怎么会报一个Kafka的类型问题?这张源表给的是decimal类型,但是看changelog的default 值是一个string。 "

问答 2023-07-26 来自:开发者社区

flink cdc source mysql 的这个错误怎么解决?

flink cdc source mysql 的这个错误怎么解决?

问答 2023-07-26 来自:开发者社区

Flink CDC中mysql-cdc 1.1版本对源库的CPU会造成压力么?

Flink CDC中mysql-cdc 1.1版本对源库的CPU会造成压力么?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

实时计算 Flink

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

+关注