问答 2024-11-22 来自:开发者社区

FlinkCDC监听Mysql binlog,建立链接不会释放

如果有多个flink作业,每个都监听mysql内的binlog,每个都会与mysql建立链接并不会中断,过多占用mysql连接数影响其他进程与mysql的链接,有什么解决方法吗?

问答 2024-08-26 来自:开发者社区

flinkcdc支持任务起动后不重启的情况下mysql source能捕获新建表的binlog吗?

cdc目前是不是不支持任务起动后不重启的情况下mysql source能捕获新建表的binlog?

文章 2024-08-14 来自:开发者社区

大数据-业务数据采集-FlinkCDC The MySQL server is not configured to use a ROW binlog_format

Caused by: org.apache.kafka.connect.errors.ConnectException: The MySQL server is not configured to use a ROW binlog_format, which is required for this connector to work properly. Change the MySQL con....

大数据-业务数据采集-FlinkCDC The MySQL server is not configured to use a ROW binlog_format
问答 2024-07-10 来自:开发者社区

flinkcdc 采集mysql出现卡在某个binlog文件出不来怎么办?

flinkcdc 采集mysql出现卡在某个binlog文件出不来。 一直重复消费一个文件,看日志是先断开,在重建链接,然后消费binlog,最后Stopped reading binlog after 0 events, no new offset was recorded 。如此往复。 期间数据采集一直是重复的?

问答 2024-05-29 来自:开发者社区

flinkcdc mysql 在同步binlog时是同步一份还是多份给 flink?

flinkcdc中mysql 分库不分表的场景,需要同步多个表,flink sql 中会针对多个表有多个source ,那 mysql 在同步binlog时是同步一份还是多份给 flink? 担心原实例binlog同步给多个伪装的slaver,会影响性能...

问答 2024-05-28 来自:开发者社区

flinkcdc阿里云里面读mysql binlog 单表数据5000条延迟一个小时这个是什么原因?

flinkcdc阿里云里面读mysql binlog 单表数据5000条延迟一个小时 这个是什么原因?

问答 2024-01-24 来自:开发者社区

flinkcdc全量+增量读mysql时怎么设置参数可以让消息中包含binlog的offset啊?

flinkcdc全量+增量读mysql时怎么设置参数可以让消息中包含binlog的offset,我看获取到的消息里面只有ts_ms,精确到s的(想通过对比两个任务的binlog的offset进行任务合并)

问答 2023-12-20 来自:开发者社区

用flinkcdc读取mysql的binlog,输出之后全变成了字母乱码了?

用flinkcdc读取mysql的binlog,mysql中原先字段类型为decimal的,输出之后全变成了字母乱码?代码中只是进行了数据的读取,然后输出到了控制台和本地文件。就是这种原先是金额的字段,他们的值都变了,"points":"AA==","balance":"DZfS",这个是代码,中间什么操作都没做,就是读取数据源,然后打印输出

问答 2023-08-09 来自:开发者社区

FlinkCDC中使用 mysql-cdc 2.3.0的版本指定binlog位置读取报错,什么原因?

Flink CDC中使用 mysql-cdc 2.3.0的版本,指定binlog位置读取,确实读到数据,但几分钟后,报错说binglog已经在server端不存在了,但是已经去mysql查看了,binlog文件确实是存在,这个是什么原因?主从mysql, 从库mysql读的Caused by: java.lang.IllegalStateException: The connector is t....

问答 2023-06-29 来自:开发者社区

巨佬们,请教个问题: 我使用flinkCDC 采集MySQL数据,MySQL中的binlog清理策?

巨佬们,请教个问题: 我使用flinkCDC 采集MySQL数据,MySQL中的binlog清理策略是(1.占磁盘30%;2.binlog存储超过18个小时;3.binlog文件超过60个),这种策略导致采集任务经常性找不到binlog, 请问,在不动mysql端的情况下,flink端有什么参数可以解决这个问题的吗?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。