文章 2024-08-29 来自:开发者社区

实时计算 Flink版产品使用问题之如何处理数据并记录每条数据的变更

问题一:Flink记录状态变更的话发到kafka不行吗? Flink记录状态变更的话发到kafka不行吗? 参考答案: Flink 记录状态变更发送到 Kafka 是可行的。 Flink 社区开发的 flink-cdc-connectors 组件支持从数据库如 MySQL、PostgreSQL 等读取全量数据和增量变更数据,并且可以将捕获的数据...

文章 2024-08-19 来自:开发者社区

实时计算 Flink版产品使用问题之不支持的表结构变更有哪些

问题一:Flink这里减少不行,只能增加,怎么办? Flink这里减少不行,只能增加,怎么办? 参考答案: 从项目空间腾退出来。 关于本问题的更多回答可点击进行...

实时计算 Flink版产品使用问题之不支持的表结构变更有哪些
文章 2024-07-16 来自:开发者社区

实时计算 Flink版产品使用问题之在从SQLServer捕获数据变更(CDC)时,开启CDC功能后对应的表中没有记录变化数据,是什么原因

问题一:Flink CDC里flink-sql 中json_array 类型 怎么转成 array类型? Flink CDC里flink-sql 中 json_array 类型 怎么转成 array 类型? 参考答案: 自定义udf函数。 关于本问题的更多回答可点击进行查看: https://developer.al...

实时计算 Flink版产品使用问题之在从SQLServer捕获数据变更(CDC)时,开启CDC功能后对应的表中没有记录变化数据,是什么原因
文章 2024-07-16 来自:开发者社区

实时计算 Flink版产品使用问题之是否支持无锁变更

问题一:Flink CDC里写数据到hdfs的hudi表,为什么看不到数据文件啊? Flink CDC里写数据到hdfs的hudi表,为什么看不到数据文件啊?hudi写数据前需要建表吗?算子页面上都是0%,下面字节传输和接受是有值的,这是什么原因啊? ...

实时计算 Flink版产品使用问题之是否支持无锁变更
文章 2024-07-16 来自:开发者社区

实时计算 Flink版产品使用问题之在处理MySQL表新增数据记录时,没有正确触发变更事件,该如何解决

问题一:Flink CDC里我按照flink-cdc-3.0官方文档操作怎么办? Flink CDC里我按照flink-cdc-3.0官方文档操作 以基于 Flink CDC 3.0 构建 MySQL 到 Doris 的 Streaming ELT的方式 将mysql-5.7的数据同步到Doris-2.0.2 执行bin/flink-cdc.sh mysql-to-doris.yaml同...

实时计算 Flink版产品使用问题之在处理MySQL表新增数据记录时,没有正确触发变更事件,该如何解决
文章 2024-07-16 来自:开发者社区

实时计算 Flink版产品使用问题之要将MySQL同步到Doris,并设置整库同步,只变更库名、表名和表结构都不变,该如何设置

问题一:flink cdc现在有哪个版本可以支持sqlserver的整库同步么?没有主键的表能同步么? flink cdc现在有哪个版本可以支持sqlserver的整库同步么?没有主键的表能同步么? 参考答案: mysql的cdc 2.4版本支持无主键表的同步。 关于本问题的更多回答可点击进行查看: https://...

实时计算 Flink版产品使用问题之要将MySQL同步到Doris,并设置整库同步,只变更库名、表名和表结构都不变,该如何设置
文章 2024-07-16 来自:开发者社区

实时计算 Flink版产品使用问题之从MySQL数据库中捕获变更数据并进行实时处理如何按天分表同步CDC数据

问题一:Flink CDC MySQL按天分表同步CDC这块有什么好建议吗? Flink CDC MySQL按天分表同步CDC这块有什么好建议吗?主要是应该怎么配置订阅 参考答案: 在 Flink CDC MySQL 中按天分表同步 CDC,可以使用以下配置和建议: 1. 使用时间戳字段 :首先,确保您的 MySQL 表中有一个时间戳...

实时计算 Flink版产品使用问题之从MySQL数据库中捕获变更数据并进行实时处理如何按天分表同步CDC数据
文章 2024-07-16 来自:开发者社区

实时计算 Flink版产品使用问题之一个记录多次变更,统计时会重复多次统计,该怎么办

问题一:Flink CDC用一个mysqlcdcsource读取多个库的多个表,这个是啥问题啊? Flink CDC用一个mysqlcdcsource读取多个库的多个表,然后他在同步完一个表的历史数据后,就一直在读取binlog,不去同步别的表了,这个是啥问题啊? 参考答案: 不建议一个mysqlcdcsource同时读取多个库的多个表,应为每个数据库...

实时计算 Flink版产品使用问题之一个记录多次变更,统计时会重复多次统计,该怎么办
阿里云文档 2024-06-04

Flink产品公告(2022年及之前)

本文为您介绍实时计算Flink版2022年及之前产品公告,包括平台升级、API版本升级等。

文章 2024-05-23 来自:开发者社区

实时计算 Flink版产品使用合集之从Oracle数据库同步数据时,checkpoint恢复后无法捕获到任务暂停期间的变更日志,如何处理

问题一:Flink CDC用oracle-cdc?它是不是不能从ckp恢复? Flink CDC用oracle-cdc?它是不是不能从ckp恢复。我用cdc同步oracle,中间把任务停掉,然后从ckp恢复,发现暂停期间的变更日志会漏掉,scan.mode设的:latest-offset? 参考答案: 从savepoint恢复试下 ...

实时计算 Flink版产品使用合集之从Oracle数据库同步数据时,checkpoint恢复后无法捕获到任务暂停期间的变更日志,如何处理

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

实时计算 Flink

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

+关注
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等